AMD HPC- und KI-Kunden: ROCm™ 5.7 ist da

Die offene AMD ROCm™ Plattform ist eine Open-Source-Software-Plattform, die HPC- und KI-Computing auf Hardware von AMD und anderen Anbietern ermöglicht. Mit ROCm profitieren Kunden bei der Ausführung ihrer HPC-Auslastungen von einem hohen Maß an Freiheit und Zugänglichkeit.

ROCm Update 5.7 bietet eine Fülle neuer Updates, Funktionen und Verbesserungen, die sicherstellen, dass Ihre Kunden die AMD Hardware über verschiedene Anwendungen hinweg noch besser nutzen können. Unterstützung für zusätzliche AMD Grafikkarten, HipTensor-Unterstützung und Performance-Verbesserungen; ROCm™ 5.7 verbessert all dies und vieles mehr für Benutzer.

Maschinelles Lernen auf AMD Radeon™ Grafikkarten, die auf der AMD RDNA™ 3-Architektur basieren

Kunden können jetzt die Leistung der Desktop-Grafikkarten der AMD Radeon™ RX 7900-Serie nutzen, um ihre Modelle und Algorithmen für maschinelles Lernen auszuführen – dank ROCm 5.7 auf Linux®, mit Unterstützung für AMD Radeon™ RX 7900 XTX und AMD Radeon™ PRO W7900 Grafikkarten.

AMD Radeon™ RX 7900-Serie Grafikkarten basieren auf der AMD RDNA™ 3-Architektur und bieten mehr als das Doppelte an KI-Performance pro Recheneinheit im Vergleich zu Produkten der vorherigen Generation.1  Darüber hinaus bieten sie bis zu 192 KI-Beschleuniger und unglaubliche Speicherbandbreite mit bis zu 24 GB oder 48 GB Grafikspeicher, mit dem Kunden auch die größten Modelle für maschinelles Lernen handhaben können.

Kunden können jetzt leicht verfügbare Hardware verwenden, um lokale, private Workflows zu erstellen, die Training für maschinelles Lernen und vieles mehr ermöglichen. Dies ist eine hervorragende Option für diejenigen, die sich zuvor auf cloudbasierte Lösungen verlassen haben.

Unterstützung für HipTensor

ROCm Update 5.7 bietet neue Unterstützung für HipTensor, die AMD C++ Bibliothek zur Beschleunigung von Tensor-Primitiven – Bausteine, die in komplexen HPC- und KI-Workflows verwendet werden können –, und erhöht so ihre Flexibilität, verkürzt die Entwicklungszeit und verbessert die End-to-End-Effizienz.

Die neue Funktion von MIGraphX

MIGraphX ist eine Inferenz-Engine, die sich auf die Beschleunigung der Inferenz von maschinellem Lernen für AMD Hardware konzentriert, indem sie mehrere Umwandlungen und Optimierungen auf Grafikebene nutzt. Dabei werden bereits vorhandene Modelle durch eine Reihe von Optimierungen mit Schwerpunkt auf Geschwindigkeit und Genauigkeit unterstützt.

MIGraphX verfügt jetzt über die neue Funktion Dynamic Batch. Vor ROCm 5.7 mussten Kunden bei unterschiedlichen Batchgrößen verschiedene Modelle zusammenstellen. Für Kunden, die Modelle mit mehreren Batchgrößen je nach Dateneingabe ausführen möchten, ermöglicht diese neue Funktion nun die Verwendung eines einzigen kompilierten Modells zur Unterstützung mehrerer Batchgrößen. Dadurch werden Workflows für maschinelles Lernen optimiert, der Speicherplatzbedarf reduziert und die Skriptlogik reduziert, die das System benötigt, um zu bestimmen, welches Modell verwendet werden soll.

Gesteigerte RocRAND RNG-Performance für diskrete Verteilungen

Die rocRAND-Bibliothek ist Teil der Open-Source-Softwareplattform ROCm und bietet Funktionen zur Generierung von Zufallszahlen auf AMD Grafikkarten, ideal für Simulationen, statistische Modelle und Algorithmen für maschinelles Lernen.

Zusammen mit den anderen Updates, die mit ROCm Update 5.7 verfügbar sind, wurde die Performance für Zufallszahlengenerierung (RNG) von rocRAND für diskrete Distributionen um bis zu 15 % erhöht, sodass Kunden, die AMD Hardware für solche Anwendungen verwenden, von einer höheren Effizienz und einer kürzeren Zeit bis zum Ergebnis profitieren können.

AMD sorgt weiterhin für kontinuierliche Verbesserungen sowohl neuer als auch bestehender Technologien, wodurch Kundenanwendungen für HPC und maschinelles Lernen verbessert werden. Mit einem kontinuierlichen Fokus auf Open Source, leicht zugänglicher Software und besseren Ergebnissen für Kunden können Partner AMD Produkte auch weiterhin zuverlässig an Kunden liefern, da sie wissen, dass sie marktführende Produkte bereitstellen, die die Geschäftsziele über Jahre hinweg unterstützen.

Weitere Informationen zum ROCm Update 5.7 finden Sie hier im AMD Blogbeitrag. Wenn Sie mehr über AMD Produkte und Technologien im HPC-Bereich erfahren möchten, wenden Sie sich an Ihren AMD Vertreter oder kontaktieren Sie uns hier.

Fußnoten
  1. Basiert auf internen Messungen von AMD im November 2022: AMD Radeon™ RX 7900 XTX bei 2,5 GHz Boost-Taktung mit 96 CUs (doppelte Anzahl mathematischer Operationen pro Takt in Bfloat16) im Vergleich zur AMD Radeon™ RX 6900 XT Grafikkarte bei 2,25 GHz Boost-Taktung und 80 CUs (einfache Anzahl mathematischer Operationen pro Takt in Bfloat16). RX-821.