Meta's Llama 3 : un pas de géant dans la technologie des grands modèles de langage

Meta publie Llama 3, son dernier modèle de grand langage (LLM), comportant 8 milliards et 70 milliards de paramètres, les prochains modèles devant avoir 400 milliards de paramètres. Formé sur un vaste ensemble de données de plus de 15 000 milliards de jetons, Llama 3 surpasse ses prédécesseurs et concurrents dans plus de 50 % des cas d'utilisation, démontrant les progrès des capacités de modélisation textuelle. Meta vise à rendre Llama 3 largement accessible via les fournisseurs et services cloud et a introduit Meta AI, un site Web dédié et une intégration avec ses produits pour fournir aux utilisateurs finaux une assistance basée sur l'IA.

Meta Unveils Llama 3: A Quantum Leap in Large Language Model Technology

Meta dévoile Llama 3 : un bond en avant dans la technologie des grands modèles de langage

On April 18, 2023, Meta Platforms, Inc. (Meta) announced the release of Llama 3, the latest iteration of its groundbreaking large language model (LLM), marking a significant milestone in the field of artificial intelligence (AI).

Le 18 avril 2023, Meta Platforms, Inc. (Meta) a annoncé la sortie de Llama 3, la dernière itération de son grand modèle de langage (LLM) révolutionnaire, marquant une étape importante dans le domaine de l'intelligence artificielle (IA).

Llama 3 represents a quantum leap over its predecessors, showcasing substantial advancements in natural language processing, code generation, and overall reasoning capabilities. The LLM boasts an unprecedented scale, boasting 8 billion and 70 billion parameters in its two initial models, with plans for future models featuring an astounding 400 billion parameters.

Llama 3 représente un bond en avant par rapport à ses prédécesseurs, présentant des progrès substantiels en matière de traitement du langage naturel, de génération de code et de capacités globales de raisonnement. Le LLM possède une échelle sans précédent, avec 8 milliards et 70 milliards de paramètres dans ses deux modèles initiaux, avec des plans pour de futurs modèles comportant un nombre incroyable de 400 milliards de paramètres.

Meta meticulously trained Llama 3 on a colossal "large, high-quality training dataset" comprising over 15 trillion tokens, a seven-fold increase over Llama 2. This expansive dataset, containing four times the amount of code, ensures the model's exceptional comprehension and generation capabilities. Additionally, Llama 3 incorporates sophisticated filtering techniques, including NSFW (Not Safe For Work) filters, to safeguard data quality and mitigate potential biases.

Meta a méticuleusement entraîné Llama 3 sur un « vaste ensemble de données d'entraînement de haute qualité » colossal comprenant plus de 15 000 milliards de jetons, soit sept fois plus que Llama 2. Cet ensemble de données étendu, contenant quatre fois la quantité de code, garantit la compréhension et la compréhension exceptionnelles du modèle. capacités de génération. De plus, Llama 3 intègre des techniques de filtrage sophistiquées, notamment des filtres NSFW (Not Safe For Work), pour préserver la qualité des données et atténuer les biais potentiels.

Benchmark tests conducted by Meta indicate that Llama 3 outperforms its predecessors and rivals in over half of 12 representative use cases. These use cases encompass a wide range of tasks, including dialogue generation, question answering, summarization, and code generation.

Les tests de référence effectués par Meta indiquent que Llama 3 surpasse ses prédécesseurs et rivaux dans plus de la moitié des 12 cas d'utilisation représentatifs. Ces cas d'utilisation englobent un large éventail de tâches, notamment la génération de dialogues, la réponse aux questions, la synthèse et la génération de code.

The initial releases of Llama 3 are text-based models, while future releases are expected to be multilingual and multimodal, providing enhanced capabilities in various languages and across different media formats. These upcoming models are anticipated to offer extended context, improved reasoning abilities, and superior coding performance, which Meta deems essential "core LLM capabilities."

Les versions initiales de Llama 3 sont des modèles basés sur du texte, tandis que les versions futures devraient être multilingues et multimodales, offrant des fonctionnalités améliorées dans diverses langues et sur différents formats multimédias. Ces modèles à venir devraient offrir un contexte étendu, des capacités de raisonnement améliorées et des performances de codage supérieures, que Meta considère comme des « capacités LLM de base ».

Meta intends to make Llama 3 universally accessible by deploying it on all major cloud providers, model API providers, and other services, with the objective of making the product ubiquitous. This strategic move aims to democratize AI technology and empower developers and researchers to leverage its vast capabilities.

Meta a l'intention de rendre Llama 3 universellement accessible en le déployant sur tous les principaux fournisseurs de cloud, fournisseurs d'API modèles et autres services, dans le but de rendre le produit omniprésent. Cette décision stratégique vise à démocratiser la technologie de l’IA et à permettre aux développeurs et aux chercheurs de tirer parti de ses vastes capacités.

Complementing the release of Llama 3, Meta is actively expanding access to AI services for end users across the United States and over 12 other countries. The company has launched a dedicated website, Meta AI, which provides users with a comprehensive suite of AI-powered tools, including writing assistance, trivia games, simulated job interviews, and homework assistance.

En complément de la sortie de Llama 3, Meta étend activement l'accès aux services d'IA pour les utilisateurs finaux aux États-Unis et dans plus de 12 autres pays. La société a lancé un site Web dédié, Meta AI, qui offre aux utilisateurs une suite complète d'outils basés sur l'IA, notamment une aide à l'écriture, des jeux-questionnaires, des entretiens d'embauche simulés et une aide aux devoirs.

Meta has also seamlessly integrated Meta AI with its existing products, such as Facebook, Instagram, WhatsApp, and Messenger, providing users with AI-enhanced experiences within their preferred social media and messaging platforms. Furthermore, Meta has integrated the service into its Ray-Ban Meta smart glasses and plans to extend its availability to the Meta Quest VR headset, offering users immersive and hands-free AI interactions.

Meta a également intégré de manière transparente Meta AI à ses produits existants, tels que Facebook, Instagram, WhatsApp et Messenger, offrant aux utilisateurs des expériences améliorées par l'IA au sein de leurs plateformes de médias sociaux et de messagerie préférées. De plus, Meta a intégré le service dans ses lunettes intelligentes Ray-Ban Meta et prévoit d'étendre sa disponibilité au casque Meta Quest VR, offrant aux utilisateurs des interactions IA immersives et mains libres.

"We envision Meta AI as the most intelligent AI assistant that is freely accessible to all users," remarked Mark Zuckerberg, Meta's CEO, in a recent announcement. "Our goal is to empower individuals to harness the transformative power of AI and unlock its potential to enhance their everyday lives."

"Nous envisageons Meta AI comme l'assistant d'IA le plus intelligent, librement accessible à tous les utilisateurs", a fait remarquer Mark Zuckerberg, PDG de Meta, dans une annonce récente. "Notre objectif est de permettre aux individus d'exploiter le pouvoir transformateur de l'IA et de libérer son potentiel pour améliorer leur vie quotidienne."

The unveiling of Llama 3 and the expansion of Meta AI services come amidst an intensifying race among major tech companies to develop and deploy consumer-oriented AI services. Notably, ChatGPT recently upgraded to GPT-4 Turbo on April 11, while Microsoft Copilot incorporated GPT-4 Turbo in March, signaling a surge in the development and refinement of user-friendly AI solutions.

Le dévoilement de Llama 3 et l'expansion des services Meta AI surviennent au milieu d'une course intensifiée entre les grandes entreprises technologiques pour développer et déployer des services d'IA orientés consommateur. Notamment, ChatGPT a récemment été mis à niveau vers GPT-4 Turbo le 11 avril, tandis que Microsoft Copilot a intégré GPT-4 Turbo en mars, signalant une poussée dans le développement et le perfectionnement de solutions d'IA conviviales.