Das Zeitalter des KI-Vortrainings geht zu Ende, argumentierte OpenAI-Mitbegründer Ilya Sutskever auf der NeurIPS 2024

Ilya Sutskever, Mitbegründer von OpenAI, hielt kürzlich einen Vortrag auf der Konferenz Neural Information Processing Systems (NeurIPS) 2024 in Vancouver, Kanada, in dem er argumentierte, dass das Zeitalter der Vorschulung für künstliche Intelligenz zu Ende geht, und prognostizierte den Aufstieg einer KI-Superintelligenz.

OpenAI co-founder Ilya Sutskever gave a lecture at the Neural Information Processing Systems (NeurIPS) 2024 conference in Vancouver, arguing that the age of artificial intelligence pre-training is coming to an end and predicting the rise of an AI superintelligence.

Ilya Sutskever, Mitbegründer von OpenAI, hielt auf der Konferenz Neural Information Processing Systems (NeurIPS) 2024 in Vancouver einen Vortrag, in dem er argumentierte, dass das Zeitalter des Vortrainings für künstliche Intelligenz zu Ende geht, und den Aufstieg einer KI-Superintelligenz vorhersagte.

Sutskever’s lecture highlighted several key points:

Sutskevers Vortrag hob mehrere wichtige Punkte hervor:

**Computing Power Outpacing Data Availability for AI Pre-Training**

**Rechenleistung übertrifft Datenverfügbarkeit für KI-Vorschulung**

According to Sutskever, the rate at which computing power is increasing — thanks to better hardware, software, and machine-learning algorithms — outpaces the total amount of data available for AI model training. He likened data to fossil fuels, which will eventually run out.

Laut Sutskever übersteigt die Geschwindigkeit, mit der die Rechenleistung dank besserer Hardware, Software und Algorithmen für maschinelles Lernen zunimmt, die Gesamtdatenmenge, die für das Training von KI-Modellen zur Verfügung steht. Er verglich Daten mit fossilen Brennstoffen, die irgendwann zur Neige gehen werden.

“Computing power is increasing exponentially, but the amount of data is not,” said Sutskever. “This means that at some point, we will reach the limits of what can be achieved with pre-training.”

„Die Rechenleistung nimmt exponentiell zu, die Datenmenge jedoch nicht“, sagte Sutskever. „Das bedeutet, dass wir irgendwann an die Grenzen dessen stoßen, was wir mit der Vorschulung erreichen können.“

**Agentic AI, Synthetic Data, Inference Time Computing as Next Steps**

**Agentische KI, synthetische Daten, Inferenzzeitberechnung als nächste Schritte**

The OpenAI co-founder predicted that agentic AI, synthetic data, and inference time computing are the next evolutions of artificial intelligence that will eventually give rise to an AI superintelligence.

Der Mitbegründer von OpenAI sagte voraus, dass agentische KI, synthetische Daten und Inferenzzeitberechnung die nächsten Entwicklungen der künstlichen Intelligenz sind, die schließlich zu einer KI-Superintelligenz führen werden.

“Agentic AI is able to make decisions without human input and will be able to operate in the real world,” explained Sutskever. “Synthetic data is generated by AI models and can be used to train other AI models on a massive scale.”

„Agentische KI ist in der Lage, Entscheidungen ohne menschliches Zutun zu treffen und in der realen Welt zu agieren“, erklärte Sutskever. „Synthetische Daten werden von KI-Modellen generiert und können verwendet werden, um andere KI-Modelle in großem Umfang zu trainieren.“

**AI Agents in the Crypto World: A Closer Look**

**KI-Agenten in der Kryptowelt: Ein genauerer Blick**

AI agents are advancing rapidly in the crypto space, going beyond current chatbot models by being able to make decisions without human input.

KI-Agenten machen im Kryptobereich rasante Fortschritte und gehen über aktuelle Chatbot-Modelle hinaus, indem sie in der Lage sind, Entscheidungen ohne menschliches Zutun zu treffen.

This capability has made AI agents a central topic in the crypto narrative with the rise of AI memecoins and large-language models (LLMs) like Truth Terminal.

Diese Fähigkeit hat KI-Agenten mit dem Aufkommen von KI-Memecoins und Large-Language-Modellen (LLMs) wie Truth Terminal zu einem zentralen Thema in der Krypto-Erzählung gemacht.

Truth Terminal, an LLM, went viral by promoting a memecoin called Goatseus Maximus (GOAT), which soared to a market capitalization of $1 billion — grabbing the attention of retail investors and venture capitalists.

Truth Terminal, ein LLM, ging viral, indem es einen Memecoin namens Goatseus Maximus (GOAT) bewarb, der eine Marktkapitalisierung von 1 Milliarde US-Dollar erreichte und damit die Aufmerksamkeit von Privatanlegern und Risikokapitalgebern erregte.

“AI agents are able to interact with the world in a way that is not possible for humans,” said Sutskever. “This opens up new possibilities for how we can use AI to solve problems.”

„KI-Agenten sind in der Lage, mit der Welt auf eine Weise zu interagieren, die für Menschen nicht möglich ist“, sagte Sutskever. „Das eröffnet neue Möglichkeiten, wie wir KI zur Lösung von Problemen einsetzen können.“

**Google's Gemini 2.0 to Power AI Agents**

**Googles Gemini 2.0 zur Unterstützung von KI-Agenten**

Google’s DeepMind artificial intelligence laboratory introduced Gemini 2.0, an artificial intelligence model that will power AI agents.

Das DeepMind-Labor für künstliche Intelligenz von Google stellte Gemini 2.0 vor, ein Modell für künstliche Intelligenz, das KI-Agenten antreiben wird.

According to Google, agents built with the Gemini 2.0 framework will be able to assist in complex tasks such as coordinating between multiple websites and logical reasoning.

Laut Google werden Agenten, die mit dem Gemini 2.0-Framework erstellt wurden, in der Lage sein, bei komplexen Aufgaben wie der Koordination zwischen mehreren Websites und dem logischen Denken zu helfen.

“Gemini 2.0 is a major advance in AI technology and will enable the creation of a new generation of AI agents,” said DeepMind in a statement.

„Gemini 2.0 ist ein großer Fortschritt in der KI-Technologie und wird die Schaffung einer neuen Generation von KI-Agenten ermöglichen“, sagte DeepMind in einer Erklärung.

Advancements in AI agents that can independently act and reason will pave the way for AI to overcome the issue of data hallucinations.

Fortschritte bei KI-Agenten, die unabhängig agieren und argumentieren können, werden der KI den Weg ebnen, das Problem der Datenhalluzinationen zu überwinden.

AI hallucinations, a phenomenon that occurs due to incorrect data sets, are becoming more prevalent as AI pre-training relies heavily on using older LLMs to train newer LLMs, which degrades performance over time.

KI-Halluzinationen, ein Phänomen, das aufgrund falscher Datensätze auftritt, treten immer häufiger auf, da das KI-Vortraining stark auf der Verwendung älterer LLMs zum Trainieren neuerer LLMs beruht, was mit der Zeit zu einer Leistungsminderung führt.