Meta의 Llama 3: 대규모 언어 모델 기술의 거대한 도약

Meta는 80억 및 700억 개의 매개변수를 갖춘 최신 LLM(대형 언어 모델)인 Llama 3을 출시했으며, 향후 모델에는 4,000억 개의 매개변수가 포함될 것으로 예상됩니다. 15조 개 이상의 토큰으로 구성된 방대한 데이터 세트를 기반으로 훈련된 Llama 3는 50% 이상의 사용 사례에서 이전 제품과 경쟁사를 능가하며 텍스트 기반 모델링 기능의 발전을 보여줍니다. Meta는 클라우드 제공업체와 서비스를 통해 Llama 3에 널리 액세스할 수 있도록 하는 것을 목표로 하며 최종 사용자에게 AI 기반 지원을 제공하기 위해 전용 웹사이트 및 제품과의 통합인 Meta AI를 도입했습니다.

Meta Unveils Llama 3: A Quantum Leap in Large Language Model Technology

Meta, Llama 3 공개: 대규모 언어 모델 기술의 비약적인 도약

On April 18, 2023, Meta Platforms, Inc. (Meta) announced the release of Llama 3, the latest iteration of its groundbreaking large language model (LLM), marking a significant milestone in the field of artificial intelligence (AI).

2023년 4월 18일, Meta Platforms, Inc.(Meta)는 획기적인 대형 언어 모델(LLM)의 최신 버전인 Llama 3의 출시를 발표하여 인공 지능(AI) 분야에서 중요한 이정표를 세웠습니다.

Llama 3 represents a quantum leap over its predecessors, showcasing substantial advancements in natural language processing, code generation, and overall reasoning capabilities. The LLM boasts an unprecedented scale, boasting 8 billion and 70 billion parameters in its two initial models, with plans for future models featuring an astounding 400 billion parameters.

Llama 3는 자연어 처리, 코드 생성 및 전반적인 추론 기능에서 상당한 발전을 보여 전작에 비해 비약적인 발전을 보여줍니다. LLM은 두 가지 초기 모델에서 80억 및 700억 개의 매개변수를 자랑하는 전례 없는 규모를 자랑하며, 향후 모델에 대한 계획은 놀라운 4,000억 개의 매개변수를 특징으로 합니다.

Meta meticulously trained Llama 3 on a colossal "large, high-quality training dataset" comprising over 15 trillion tokens, a seven-fold increase over Llama 2. This expansive dataset, containing four times the amount of code, ensures the model's exceptional comprehension and generation capabilities. Additionally, Llama 3 incorporates sophisticated filtering techniques, including NSFW (Not Safe For Work) filters, to safeguard data quality and mitigate potential biases.

Meta는 Llama 2에 비해 7배 증가한 15조 개가 넘는 토큰으로 구성된 거대한 "대형 고품질 교육 데이터 세트"에서 Llama 3을 꼼꼼하게 교육했습니다. 4배의 코드 양을 포함하는 이 광범위한 데이터 세트는 모델의 뛰어난 이해력과 뛰어난 이해력을 보장합니다. 세대 능력. 또한 Llama 3에는 NSFW(Not Safe For Work) 필터를 포함한 정교한 필터링 기술이 통합되어 데이터 품질을 보호하고 잠재적인 편견을 완화합니다.

Benchmark tests conducted by Meta indicate that Llama 3 outperforms its predecessors and rivals in over half of 12 representative use cases. These use cases encompass a wide range of tasks, including dialogue generation, question answering, summarization, and code generation.

Meta에서 실시한 벤치마크 테스트에 따르면 Llama 3는 12가지 대표적인 사용 사례 중 절반 이상에서 이전 제품 및 경쟁 제품보다 뛰어난 성능을 보였습니다. 이러한 사용 사례에는 대화 생성, 질문 답변, 요약 및 코드 생성을 포함한 광범위한 작업이 포함됩니다.

The initial releases of Llama 3 are text-based models, while future releases are expected to be multilingual and multimodal, providing enhanced capabilities in various languages and across different media formats. These upcoming models are anticipated to offer extended context, improved reasoning abilities, and superior coding performance, which Meta deems essential "core LLM capabilities."

Llama 3의 초기 릴리스는 텍스트 기반 모델인 반면, 향후 릴리스에서는 다양한 언어와 다양한 미디어 형식에 걸쳐 향상된 기능을 제공하는 다국어 및 다중 모드가 될 것으로 예상됩니다. 이러한 향후 모델은 Meta가 필수적인 "핵심 LLM 기능"으로 간주하는 확장된 컨텍스트, 향상된 추론 능력 및 뛰어난 코딩 성능을 제공할 것으로 예상됩니다.

Meta intends to make Llama 3 universally accessible by deploying it on all major cloud providers, model API providers, and other services, with the objective of making the product ubiquitous. This strategic move aims to democratize AI technology and empower developers and researchers to leverage its vast capabilities.

Meta는 제품을 유비쿼터스화하려는 목표로 모든 주요 클라우드 제공업체, 모델 API 제공업체 및 기타 서비스에 배포하여 Llama 3를 보편적으로 액세스할 수 있도록 만들 계획입니다. 이러한 전략적 움직임은 AI 기술을 민주화하고 개발자와 연구자가 AI 기술의 방대한 기능을 활용할 수 있도록 지원하는 것을 목표로 합니다.

Complementing the release of Llama 3, Meta is actively expanding access to AI services for end users across the United States and over 12 other countries. The company has launched a dedicated website, Meta AI, which provides users with a comprehensive suite of AI-powered tools, including writing assistance, trivia games, simulated job interviews, and homework assistance.

Llama 3 출시를 보완하면서 Meta는 미국 및 기타 12개 이상의 국가에서 최종 사용자를 위한 AI 서비스에 대한 액세스를 적극적으로 확대하고 있습니다. 이 회사는 작문 지원, 상식 게임, 모의 면접, 숙제 지원 등 포괄적인 AI 기반 도구 제품군을 사용자에게 제공하는 전용 웹사이트인 Meta AI를 출시했습니다.

Meta has also seamlessly integrated Meta AI with its existing products, such as Facebook, Instagram, WhatsApp, and Messenger, providing users with AI-enhanced experiences within their preferred social media and messaging platforms. Furthermore, Meta has integrated the service into its Ray-Ban Meta smart glasses and plans to extend its availability to the Meta Quest VR headset, offering users immersive and hands-free AI interactions.

Meta는 또한 Meta AI를 Facebook, Instagram, WhatsApp, Messenger 등 기존 제품과 원활하게 통합하여 사용자가 선호하는 소셜 미디어 및 메시징 플랫폼 내에서 AI로 강화된 경험을 제공합니다. 또한 Meta는 이 서비스를 Ray-Ban Meta 스마트 안경에 통합했으며 Meta Quest VR 헤드셋으로 가용성을 확장하여 사용자에게 몰입형 핸즈프리 AI 상호 작용을 제공할 계획입니다.

"We envision Meta AI as the most intelligent AI assistant that is freely accessible to all users," remarked Mark Zuckerberg, Meta's CEO, in a recent announcement. "Our goal is to empower individuals to harness the transformative power of AI and unlock its potential to enhance their everyday lives."

Meta의 CEO인 Mark Zuckerberg는 최근 발표에서 “우리는 Meta AI를 모든 사용자가 자유롭게 액세스할 수 있는 가장 지능적인 AI 비서로 생각합니다.”라고 밝혔습니다. "우리의 목표는 개인이 AI의 혁신적인 힘을 활용하고 일상 생활을 향상시킬 수 있는 잠재력을 발휘할 수 있도록 지원하는 것입니다."

The unveiling of Llama 3 and the expansion of Meta AI services come amidst an intensifying race among major tech companies to develop and deploy consumer-oriented AI services. Notably, ChatGPT recently upgraded to GPT-4 Turbo on April 11, while Microsoft Copilot incorporated GPT-4 Turbo in March, signaling a surge in the development and refinement of user-friendly AI solutions.

라마 3의 공개와 메타 AI 서비스의 확장은 소비자 중심의 AI 서비스를 개발하고 배포하기 위한 주요 기술 기업 간의 경쟁이 심화되는 가운데 이루어졌습니다. 특히 ChatGPT는 최근 4월 11일 GPT-4 Turbo로 업그레이드되었으며, Microsoft Copilot은 3월에 GPT-4 Turbo를 통합하여 사용자 친화적인 AI 솔루션의 개발 및 개선이 급증하고 있음을 알렸습니다.