Supermicro -Systeme mit dem NVIDIA B200 übertrafen die vorherige Generation von Systemen, indem er 3x die Token -Erzeugung pro Sekunde lieferte

Super Micro Computer, Inc. (SMCI), ein IT-Lösungsanbieter für IT-Lösungen für AI/ML, HPC, Cloud, Speicher und 5G/Edge, kündigt die führende führende Leistung in der Branche an

Latest Benchmarks Show Supermicro Systems with the NVIDIA B200 Outperformed the Previous Generation of Systems with 3X the Token Generation Per Second

Die neuesten Benchmarks zeigen Supermicro -Systeme, wobei der Nvidia B200 die vorherige Generation von Systemen mit 3x die Token -Erzeugung pro Sekunde übertrafte

SAN JOSE, Calif., April 3, 2025 /PRNewswire/ -- Super Micro Computer, Inc. (NASDAQ: SMCI), a Total IT Solution Provider for AI/ML, HPC, Cloud, Storage, and 5G/Edge, is announcing first-to-market industry leading performance on several MLPerf Inference v5.0 benchmarks, using the NVIDIA HGX™ B200 8-GPU. The 4U liquid-cooled and 10U air-cooled systems achieved the best performance in select benchmarks. Supermicro demonstrated more than 3 times the tokens per second (Token/s) generation for Llama2-70B and Llama3.1-405B benchmarks compared to H200 8-GPU systems.

San Jose, Kalifornien, 3. April 2025/PRNewswire/-Super Micro Computer, Inc. (NASDAQ: SMCI), ein IT-Lösungsanbieter von IT-Lösungen für AI/ML, HPC, Cloud, Storage und 5G/Edge, kündigen die erstmals-market-führende Leistung an mehreren MLPerf-Inferenz-Benchmarku-Benchmarken mit den NVIDIAGX-B200-8-G-Rand. Die luftgekühlten 4U-Flüssigkeiten und 10U-Systeme erzielten die beste Leistung in ausgewählten Benchmarks. Supermicro zeigte mehr als das Dreifache der Token pro Sekunde (Token/s) Generation für LLAMA2-70B und LAMA3.1-405B Benchmarks im Vergleich zu H200 8-GPU-Systemen.

"Supermicro remains a leader in the AI industry, as evidenced by the first new benchmarks from MLCommons in 2025," said Charles Liang, president and CEO of Supermicro. "Our building block architecture enables us to be first-to-market with a diverse range of systems optimized for various workloads. We continue to collaborate closely with NVIDIA to fine-tune our systems and secure a leadership position in AI workloads."

"Supermicro bleibt führend in der KI -Branche, wie die ersten neuen Benchmarks von Mlcommons im Jahr 2025 belegen", sagte Charles Liang, Präsident und CEO von Supermicro. "Unsere Bausteinarchitektur ermöglicht es uns, erstmals mit einer Vielzahl von Systemen für verschiedene Arbeitsbelastungen optimiert zu sein. Wir arbeiten weiterhin eng mit NVIDIA zusammen, um unsere Systeme zu feinstieren und eine Führungsposition in AI-Arbeitsbelastungen zu sichern."

Learn more about the new MLPerf v5.0 Inference benchmarks at: https://mlcommons.org/benchmarks/inference-datacenter/

Erfahren Sie mehr über die neuen MLPERF V5.0-Inferenz-Benchmarks unter: https://mlcommons.org/benchmarks/inference-datacenter/

Supermicro is the only system vendor publishing record MLPerf inference performance (on select benchmarks) for both the air-cooled and liquid-cooled NVIDIA HGX™ B200 8-GPU systems. Both air-cooled and liquid-cooled systems were operational before the MLCommons benchmark start date. Supermicro engineers optimized the systems and software to showcase the impressive performance. Within the operating margin, the Supermicro air-cooled B200 system exhibited the same level of performance as the liquid-cooled B200 system. Supermicro has been delivering these systems to customers while we conducted the benchmarks.

Supermicro ist die einzige Systemanbieter-Veröffentlichung von MLPerf-Inferenzleistung (für ausgewählte Benchmarks) für die luftgekühlten und flüssiggekühlten NVIDIA HGX ™ B200 8-GPU-Systeme. Sowohl luftgekühlte als auch flüssiggekühlte Systeme waren vor dem Startdatum von MlCommons Benchmark in Betrieb. Supermicro -Ingenieure optimierten die Systeme und die Software, um die beeindruckende Leistung zu präsentieren. Innerhalb des operativen Randes zeigte das luftgekühlte Supermicro-B200-System das gleiche Leistungsniveau wie das flüssiggekühlte B200-System. Supermicro hat diese Systeme an Kunden geliefert, während wir die Benchmarks durchgeführt haben.

MLCommons emphasizes that all results be reproducible, that the products are available and that the results can be audited by other MLCommons members. Supermicro engineers optimized the systems and software, as allowed by the MLCommons rules.

MLCommons betont, dass alle Ergebnisse reproduzierbar sind, dass die Produkte verfügbar sind und dass die Ergebnisse von anderen MLCommons -Mitgliedern geprüft werden können. Supermicro -Ingenieure optimierten die Systeme und die Software, wie die MLCommons -Regeln zulässig.

The SYS-421GE-NBRT-LCC (8x NVIDIA B200-SXM-180GB) and SYS-A21GE-NBRT (8x NVIDIA B200-SXM-180GB) showed performance leadership running the Mixtral 8x7B Inference, Mixture of Experts benchmarks with 129,000 tokens/second. The Supermicro air-cooled and liquid-cooled NVIDIA B200 based system delivered over 1,000 tokens/second inference for the large Llama3.1-405b model, whereas the previous generations of GPU systems have much smaller results. For smaller inferencing tasks, using the LLAMA2-70b benchmark, a Supermicro system with the NVIDIA B200 SXM-180GB installed shows the highest performance from a Tier 1 system supplier.

Der SYS-421GE-NBRT-LCC (8X NVIDIA B200-SXM-180GB) und SYS-A21GE-NBRT (8x NVIDIA B200-SXM-180 GB) zeigte Leistung, die die Leistung der MIMTRAL 8x7B, die Mischung von Experten mit 129.000 bis zu den Mixtral 8x7b-Mischung aus Experten mit 129.000 bis zu den Keks/Seconds/Sekunde leitete. Das luftgekühlte und flüssiggekühlte NVIDIA B200-System lieferte über 1.000 Token/zweite Inferenz für das große Lama3.1-405b-Modell, während die vorherigen Generationen von GPU-Systemen viel kleinere Ergebnisse haben. Bei kleineren Ausführungsaufgaben zeigt ein Supermicro-System mit dem NVIDIA B200 SXM-180 GB ein Supermicro-System mit der installierten NVIDIA B200 SXM-180 GB die höchste Leistung eines Tier-1-Systemlieferanten.

Specifically:

Speziell:

* Supermicro achieved outstanding performance on several MLPerf Inference v5.0 benchmarks with the NVIDIA HGX™ B200 8-GPU in 10U and 4U configurations.

* Supermicro erzielte mit den NVIDIA HGX ™ B200 8-GPU in 10U- und 4U-Konfigurationen eine herausragende Leistung bei mehreren MLPerf-Inferenz v5.0-Benchmarks.

* In select benchmarks, Supermicro's systems delivered the best performance.

* In ausgewählten Benchmarks lieferten die Systeme von Supermicro die beste Leistung.

* Supermicro showcased more than 3x the tokens/second generation for Llama2-70B and Llama3.1-405b benchmarks compared to H200 8-GPU systems.

* Supermicro präsentierte mehr als 3x die Token/Second-Generation für Lama2-70b und Lama3.1-405B Benchmarks im Vergleich zu H200 8-GPU-Systemen.

"MLCommons congratulates Supermicro on their submission to the MLPerf Inference v5.0 benchmark. We are pleased to see their results showcasing significant performance gains compared to earlier generations of systems," said David Kanter, Head of MLPerf at MLCommons. "Customers will be pleased by the performance improvements achieved which are validated by the neutral, representative and reproducible MLPerf results."

"MLCommons gratuliert Supermicro zu ihrer Einreichung bei der MLPERF -Inferenz v5.0 Benchmark. Wir freuen uns, dass ihre Ergebnisse im Vergleich zu früheren Systemen von Systemen signifikante Leistungssteigerungen zeigen", sagte David Kanter, Leiter von MLPERF bei MLCommons. "Die Kunden werden sich über die erreichten Leistungsverbesserungen freuen, die durch die neutralen, repräsentativen und reproduzierbaren MLPerf -Ergebnisse validiert werden."

Supermicro offers a comprehensive AI portfolio with over 100 GPU-optimized systems, both air-cooled and liquid-cooled options, with a choice of CPUs, ranging from single-socket optimized systems to 8-way multiprocessor systems. Supermicro rack-scale systems include computing, storage, and network components, which reduce the time required to install them once they are delivered to a customer.

Supermicro bietet ein umfassendes KI-Portfolio mit über 100 GPU-optimierten Systemen, sowohl mit luftgekühlten als auch flüssigen Optionen, mit einer Auswahl an CPUs, die von einsocketoptimierten Systemen bis zu 8-Wege-Multiprozessor-Systemen reichen. Zu den Supermicro-Rack-Scale-Systemen gehören Computer-, Speicher- und Netzwerkkomponenten, die die für die Installation erforderliche Zeit verkürzt, sobald sie an einen Kunden geliefert werden.

Supermicro's NVIDIA HGX B200 8-GPU systems utilize next-generation liquid-cooling and air-cooling technology. The newly developed cold plates and the new 250kW coolant distribution unit (CDU) more than double the cooling capacity of the previous generation in the same 4U form factor. Available in 42U, 48U, or 52U configurations

Die 8-GPU-Systeme von Supermicro nvidia HGX B200 verwenden Flüssigkühl- und Luftertechnologie der nächsten Generation. Die neu entwickelten Kaltplatten und die neue 250 -kW -Kühlmittelverteilungseinheit (CDU) sind die Kühlkapazität der vorherigen Generation im selben 4U -Formfaktor mehr als doppelt so hoch. Erhältlich in 42U-, 48U- oder 52U -Konfigurationen