メタAIチーフヤンレクンはLLMSへの関心を失い、次世代アーキテクチャを探しています

メタAIのチーフYann Lecunは、LLMSにもはや興味がなく、現実の世界をより良くモデル化できる次世代AIアーキテクチャを探していると述べています。

Meta AI Chief Yann LeCun has said that he’s no longer interested in Large Language Models or LLMs, and is looking to next-generation AI architectures that’ll be able to better model the real world.

メタAIのチーフYann Lecunは、大規模な言語モデルやLLMにもはや興味がなく、現実の世界をより良くモデル化できる次世代AIアーキテクチャを探していると述べています。

Speaking at the NVIDIA GTC 2025 event, LeCun said that these new AI architectures should enable AI to think more like humans, with persistent memory and the ability to think through complex problems.

NVIDIA GTC 2025イベントで話すと、Lecunは、これらの新しいAIアーキテクチャは、AIが人間のように考えられるようにすることで、持続的な記憶と複雑な問題を介して考える能力があると述べました。

“I am not interested anymore in LLMs,” LeCun said. “They are just token generators and those are limited because tokens are in discrete space. I am more interested in next-gen model architectures, that should be able to do 4 things: understand physical world, have persistent memory and ultimately be more capable to plan and reason.”

「私はもうLLMSに興味がありません」とLecunは言いました。 「それらは単なるトークンジェネレーターであり、それらは個別のモデルアーキテクチャにもっと興味があるため、それらは限られています。それは4つのことをすることができるはずです。

This isn’t the first time that LeCun has spoken about the limitations of LLMs. The models largely learn through text data, and he’s previously said that this is insufficient for achieving human-level AI.

LecunがLLMSの限界について話したのはこれが初めてではありません。モデルは主にテキストデータを通じて学習しており、彼は以前、これは人間レベルのAIを達成するには不十分であると述べています。

“A typical large language model is trained with something on the order of 20 trillion tokens or words,” LeCun had said. “That’s about 10 to the power 14 bytes; one with 14 zeros behind it. It’s an enormous amount of information.”

「典型的な大規模な言語モデルは、20兆のトークンや言葉の注文で何かで訓練されています」とLecunは言いました。 「それは14バイトのパワー14バイトです。1つは14ゼロの後ろにあります。それは膨大な量の情報です。」

“But then you compare this with the amount of information that gets to our brains through the visual system in the first four years of life, and it’s about the same amount. In four years, a young child has been awake a total of about 16,000 hours. The amount of information getting to the brain through the optic nerve is about 2 megabytes per second. Do the calculation and that’s about 10 to the power 14 bytes. It’s about the same. In four years a young child has seen as much information or data as the biggest LLMs.”

「それからあなたはこれを最初の4年間で視覚システムを通して脳に到達します。最大のLLMSとして。」

This, he adds, means that we’re never going to get to human-level AI by just training on text. We’re going to have to get systems to understand the real world.

これは、テキストでトレーニングするだけで、人間レベルのAIに到達することは決してないことを意味します。現実の世界を理解するためにシステムを取得する必要があります。

LeCun has now said that he’s not interested in LLMs any more. Indeed, Meta itself hasn’t released a new version of Llama in a while, and DeepSeek and other companies have taken over the mantle of releasing the top open-source models.

Lecunは今、彼がLLMSにもう興味がないと言っています。実際、Meta自体はしばらくの間Llamaの新しいバージョンをリリースしておらず、Deepseekや他の企業は、トップオープンソースモデルをリリースするマントルを引き継ぎました。

LeCun’s approach seems to be in contrast to OpenAI’s, which has consistently maintained there’s no wall in scaling LLM capabilities, and has instead been coming up with add-ons to LLM training, like test-time compute, to increase their capabilities. It remains to be seen which approach works out, but it appears that Meta is bearish on LLMs, and seems to believe that it’ll take a new technological breakthrough to dramatically improve the performance of current AI systems.

Lecunのアプローチは、LLM機能のスケーリングに壁がないことを常に維持しているOpenaiのアプローチとは対照的であり、代わりにテスト時間コンピューティートなどのLLMトレーニングを追加して、機能を向上させています。どのアプローチがうまくいくかはまだ不明ですが、メタはLLMSに弱まっているようであり、現在のAIシステムのパフォーマンスを劇的に改善するために新しい技術的ブレークスルーが必要だと信じているようです。