AI 事前トレーニングの時代は終わりつつある、OpenAI 共同創設者 Ilya Sutskever 氏が NeurIPS 2024 で主張

OpenAIの共同創設者イリヤ・サツケバー氏は最近、カナダのバンクーバーで開催された神経情報処理システム（NeurIPS）2024カンファレンスで講演し、人工知能の事前トレーニングの時代は終わりつつあると主張し、AI超知能の台頭を予測した。

OpenAI co-founder Ilya Sutskever gave a lecture at the Neural Information Processing Systems (NeurIPS) 2024 conference in Vancouver, arguing that the age of artificial intelligence pre-training is coming to an end and predicting the rise of an AI superintelligence.

OpenAIの共同創設者イリヤ・サツケヴァー氏は、バンクーバーで開催された神経情報処理システム（NeurIPS）2024カンファレンスで講演し、人工知能の事前トレーニングの時代は終わりを迎え、AI超知能の台頭が予測されていると主張した。

Sutskever’s lecture highlighted several key points:

サツケヴァー氏の講演では、いくつかの重要な点が強調されました。

**Computing Power Outpacing Data Availability for AI Pre-Training**

**AI 事前トレーニングのためのデータ可用性を上回るコンピューティング能力**

According to Sutskever, the rate at which computing power is increasing — thanks to better hardware, software, and machine-learning algorithms — outpaces the total amount of data available for AI model training. He likened data to fossil fuels, which will eventually run out.

Sutskever 氏によると、ハードウェア、ソフトウェア、機械学習アルゴリズムの向上により、コンピューティング能力の増加率は、AI モデルのトレーニングに利用できるデータの総量を上回っています。同氏はデータを化石燃料に例えたが、それはやがて枯渇する。

“Computing power is increasing exponentially, but the amount of data is not,” said Sutskever. “This means that at some point, we will reach the limits of what can be achieved with pre-training.”

「コンピューティング能力は指数関数的に増加していますが、データ量は増加していません」とサツケバー氏は述べています。 「これは、ある時点で、事前トレーニングで達成できる限界に達することを意味します。」

**Agentic AI, Synthetic Data, Inference Time Computing as Next Steps**

**次のステップとしてのエージェント AI、合成データ、推論時間コンピューティング**

The OpenAI co-founder predicted that agentic AI, synthetic data, and inference time computing are the next evolutions of artificial intelligence that will eventually give rise to an AI superintelligence.

OpenAI の共同創設者は、エージェント AI、合成データ、推論時間コンピューティングが人工知能の次の進化であり、最終的には AI スーパーインテリジェンスを生み出すだろうと予測しました。

“Agentic AI is able to make decisions without human input and will be able to operate in the real world,” explained Sutskever. “Synthetic data is generated by AI models and can be used to train other AI models on a massive scale.”

「エージェント AI は人間の入力なしで意思決定を行うことができ、現実世界で動作できるようになります」と Sutskever 氏は説明しました。 「合成データは AI モデルによって生成され、大規模な他の AI モデルのトレーニングに使用できます。」

**AI Agents in the Crypto World: A Closer Look**

**暗号通貨の世界における AI エージェント: 詳しく見る**

AI agents are advancing rapidly in the crypto space, going beyond current chatbot models by being able to make decisions without human input.

AI エージェントは暗号通貨分野で急速に進歩しており、人間の入力なしで意思決定を行うことができるため、現在のチャットボット モデルを超えています。

This capability has made AI agents a central topic in the crypto narrative with the rise of AI memecoins and large-language models (LLMs) like Truth Terminal.

この機能により、AI ミームコインや Truth Terminal のような大規模言語モデル (LLM) の台頭により、AI エージェントが暗号通貨の物語の中心的なトピックになりました。

Truth Terminal, an LLM, went viral by promoting a memecoin called Goatseus Maximus (GOAT), which soared to a market capitalization of $1 billion — grabbing the attention of retail investors and venture capitalists.

LLM である Truth Terminal は、Goatseus Maximus (GOAT) と呼ばれるミームコインを宣伝することで急速に広まり、時価総額は 10 億ドルにまで急上昇し、個人投資家やベンチャーキャピタリストの注目を集めました。

“AI agents are able to interact with the world in a way that is not possible for humans,” said Sutskever. “This opens up new possibilities for how we can use AI to solve problems.”

「AI エージェントは、人間には不可能な方法で世界と対話することができます」とサツケヴァー氏は述べています。 「これにより、AI を使用して問題を解決する方法について新たな可能性が開かれます。」

**Google's Gemini 2.0 to Power AI Agents**

**AI エージェントを強化する Google の Gemini 2.0**

Google’s DeepMind artificial intelligence laboratory introduced Gemini 2.0, an artificial intelligence model that will power AI agents.

Google の DeepMind 人工知能研究所は、AI エージェントを強化する人工知能モデルである Gemini 2.0 を導入しました。

According to Google, agents built with the Gemini 2.0 framework will be able to assist in complex tasks such as coordinating between multiple websites and logical reasoning.

Google によると、Gemini 2.0 フレームワークで構築されたエージェントは、複数の Web サイト間の調整や論理的推論などの複雑なタスクを支援できるようになります。

“Gemini 2.0 is a major advance in AI technology and will enable the creation of a new generation of AI agents,” said DeepMind in a statement.

「Gemini 2.0はAI技術の大きな進歩であり、新世代のAIエージェントの作成を可能にする」とDeepMindは声明で述べた。

Advancements in AI agents that can independently act and reason will pave the way for AI to overcome the issue of data hallucinations.

独立して行動し推論できる AI エージェントの進歩により、AI がデータ幻覚の問題を克服する道が開かれるでしょう。

AI hallucinations, a phenomenon that occurs due to incorrect data sets, are becoming more prevalent as AI pre-training relies heavily on using older LLMs to train newer LLMs, which degrades performance over time.

AI の事前トレーニングが古い LLM を使用して新しい LLM をトレーニングすることに大きく依存しているため、誤ったデータセットによって発生する現象である AI 幻覚が蔓延しており、時間の経過とともにパフォーマンスが低下します。