bitcoin
bitcoin

$101847.966640 USD

2.66%

ethereum
ethereum

$3676.802915 USD

0.79%

xrp
xrp

$2.441270 USD

1.63%

tether
tether

$1.000144 USD

0.04%

bnb
bnb

$731.472638 USD

2.56%

solana
solana

$216.440471 USD

1.05%

dogecoin
dogecoin

$0.391855 USD

2.59%

usd-coin
usd-coin

$0.999941 USD

0.00%

cardano
cardano

$1.097527 USD

1.61%

tron
tron

$0.270377 USD

2.40%

avalanche
avalanche

$43.967293 USD

1.33%

sui
sui

$5.070384 USD

-1.73%

chainlink
chainlink

$23.575026 USD

-0.16%

toncoin
toncoin

$5.709617 USD

0.36%

shiba-inu
shiba-inu

$0.000024 USD

0.93%

Nachrichtenartikel zu Kryptowährungen

Revolutionierung der KI: Die bahnbrechende Zusammenarbeit von Apple und Nvidia gestaltet die Zukunft von Sprachmodellen

Jan 05, 2025 at 11:56 pm

In einem spannenden Fortschritt im KI-Bereich haben Apple und Nvidia eine paradigmenwechselnde Technologie namens Recurrent Drafter oder ReDrafter eingeführt.

Revolutionierung der KI: Die bahnbrechende Zusammenarbeit von Apple und Nvidia gestaltet die Zukunft von Sprachmodellen

Apple and Nvidia Join Forces to Spearhead AI Advancements with ReDrafter Technology

Apple und Nvidia bündeln ihre Kräfte, um mit der ReDrafter-Technologie die Weiterentwicklung der KI voranzutreiben

In a groundbreaking collaboration, Apple and Nvidia have unveiled a cutting-edge initiative aimed at revolutionizing language model processing. Their newly introduced technology, Recurrent Drafter, or ReDrafter, promises significant advancements in the field of AI by tackling the computational hurdles of auto-regressive token generation.

In einer bahnbrechenden Zusammenarbeit haben Apple und Nvidia eine hochmoderne Initiative vorgestellt, die darauf abzielt, die Sprachmodellverarbeitung zu revolutionieren. Ihre neu eingeführte Technologie, Recurrent Drafter oder ReDrafter, verspricht erhebliche Fortschritte im Bereich der KI, indem sie die rechnerischen Hürden der automatisch regressiven Token-Generierung überwindet.

Apple, which launched ReDrafter in November 2024, has developed an innovative method focusing on a speculative decoding approach. The technique integrates a recurrent neural network (RNN) with beam search and dynamic tree attention, resulting in an impressive boost in processing speed. According to Apple’s benchmarks, ReDrafter can produce a remarkable 2.7 times more tokens per second compared to traditional methods.

Apple, das ReDrafter im November 2024 auf den Markt brachte, hat eine innovative Methode entwickelt, die sich auf einen spekulativen Dekodierungsansatz konzentriert. Die Technik integriert ein wiederkehrendes neuronales Netzwerk (RNN) mit Strahlsuche und dynamischer Baumaufmerksamkeit, was zu einer beeindruckenden Steigerung der Verarbeitungsgeschwindigkeit führt. Laut Apples Benchmarks kann ReDrafter im Vergleich zu herkömmlichen Methoden bemerkenswerte 2,7-mal mehr Token pro Sekunde produzieren.

The collaboration primarily enhances Nvidia’s TensorRT-LLM framework, thereby delivering accelerated large language model (LLM) inference on Nvidia GPUs. To facilitate these advancements, Nvidia has not only introduced new operators but has also optimized existing ones within TensorRT-LLM. This allows developers to enhance the performance of large-scale models significantly.

Die Zusammenarbeit verbessert in erster Linie das TensorRT-LLM-Framework von Nvidia und ermöglicht so eine beschleunigte LLM-Inferenz (Large Language Model) auf Nvidia-GPUs. Um diese Fortschritte zu ermöglichen, hat Nvidia nicht nur neue Operatoren eingeführt, sondern auch bestehende innerhalb von TensorRT-LLM optimiert. Dadurch können Entwickler die Leistung von Großmodellen deutlich steigern.

Beyond speed, ReDrafter’s efficiency reduces user latency and minimizes the need for GPUs, leading to lower computational costs and energy consumption. This aspect is especially crucial for large-scale AI applications where power efficiency is a priority.

Über die Geschwindigkeit hinaus reduziert die Effizienz von ReDrafter die Benutzerlatenz und minimiert den Bedarf an GPUs, was zu geringeren Rechenkosten und einem geringeren Energieverbrauch führt. Dieser Aspekt ist besonders wichtig für groß angelegte KI-Anwendungen, bei denen die Energieeffizienz im Vordergrund steht.

While the current focus centers on Nvidia, the potential for similar enhancements on AMD and Intel GPUs looms on the horizon, promising a broader impact on the industry. This collaboration marks a substantial leap forward in machine learning capabilities, opening doors to future innovations and efficiencies across AI platforms.

Während der aktuelle Fokus auf Nvidia liegt, zeichnet sich das Potenzial für ähnliche Verbesserungen bei AMD- und Intel-GPUs ab, die eine breitere Auswirkung auf die Branche versprechen. Diese Zusammenarbeit markiert einen erheblichen Fortschritt bei den Fähigkeiten des maschinellen Lernens und öffnet Türen für zukünftige Innovationen und Effizienzsteigerungen auf allen KI-Plattformen.

Nachrichtenquelle:zaman.co.at

Haftungsausschluss:info@kdj.com

The information provided is not trading advice. kdj.com does not assume any responsibility for any investments made based on the information provided in this article. Cryptocurrencies are highly volatile and it is highly recommended that you invest with caution after thorough research!

If you believe that the content used on this website infringes your copyright, please contact us immediately (info@kdj.com) and we will delete it promptly.

Weitere Artikel veröffentlicht am Jan 07, 2025