Nvidia führt erneut in den MLPerf-Benchmarks: Generative KI an der Spitze

Nvidias Grafikkarten haben erneut die besten Ergebnisse in einem der prestigeträchtigsten Benchmarks zur Messung der Leistung von KI-Chips erzielt – MLPerf. Diesmal lag der Hauptfokus auf generativen KI-Anwendungen wie großen Sprachmodellen (LLMs), insbesondere Llama von Meta. In den Tests dominierten Systeme, die von Unternehmen wie SuperMicro, Hewlett Packard Enterprise und Lenovo gebaut wurden, fast vollständig und belegten in den meisten Kategorien den ersten Platz.

Neue Test-Szenarien für generative KI

MLPerf hat seine Tests aktualisiert und mehrere neue Szenarien hinzugefügt, insbesondere für die Arbeit mit großen Sprachmodellen. Ein neuer Test misst die Geschwindigkeit der Token-Generierung basierend auf Llama 3.1, während ein anderer die Reaktionszeit von Chatbots auf Basis von Llama 2 bewertet. Zusätzlich wurde ein Test eingeführt, um die Geschwindigkeit von Graph-Neuronalen Netzen zu messen, die zunehmend in generativer KI verwendet werden, z. B. für die Vorhersage von Proteinstrukturen.

Während die Konkurrenz begrenzt war, zeigte auch AMD in zwei Llama 2-Tests starke Ergebnisse. Insgesamt demonstrierte Nvidia jedoch die größte Leistung in den Tests, besonders im geschlossenen Bereich, in dem die Anforderungen an die Konfiguration am strengsten waren.