Bildzoom

AMD Instinct™ MI300X Beschleuniger

AMD Instinct™ MI300X Beschleuniger sind so konzipiert, dass sie führende Performance für Generative AI-Auslastungen und HPC-Anwendungen liefern.

Datenblatt lesen

AMD Instinct Lösungen

Vergleiche der Spezifikationen

KI-Performance
HPC-Performance
Speicher

KI-Performance (max. TFLOPs)

Bis zu 1,3-fache KI-Performance im Vergleich zu Beschleunigern der Konkurrenz¹

TF32 (Sparsity)

989,6

1.307,4

1000

2000

3000

4000

5000

6000

7000

H100 SXM5

MI300X OAM

FP16/BF16 (Sparsity)

1.978,9

2.614,9

1000

2000

3000

4000

5000

6000

7000

H100 SXM5

MI300X OAM

FP8 (Sparsity)

3.957,8

5.229,8

1000

2000

3000

4000

5000

6000

7000

H100 SXM5

MI300X OAM

HPC-Performance (max. TFLOPs)

Bis zu 2,4-fache HPC-Performance im Vergleich zu Beschleunigern der Konkurrenz²

FP64 (Vector)

33,5

81,7

100

120

140

160

180

H100 SXM5

MI300X OAM

FP64 (Tensor/Matrix)

66,9

163,4

100

120

140

160

180

H100 SXM5

MI300X OAM

FP32 (Vector)

66,9

163,4

100

120

140

160

180

H100 SXM5

MI300X OAM

Speicherkapazität und -bandbreite

2,4-fache Speicherkapazität und 1,6-fache theoretische max. Speicherbandbreite im Vergleich zu Beschleunigern der Konkurrenz³

Speicherkapazität

192

0GB

50GB

100GB

150GB

200GB

250GB

300GB

H100 SXM5

MI300X OAM

Speicherbandbreite

3,4

5,3

0TB/s

1TB/s

2TB/s

3TB/s

4TB/s

5TB/s

6TB/s

7TB/s

H100 SXM5

MI300X OAM

white pearl gradient medium color divider

Unterstützung und Ressourcen

AMD ROCm™ Software

Optimieren Sie GPU-beschleunigte Anwendungen mit AMD ROCm Software. Basiert auf einem Ansatz, dass sie einmal codiert werden muss und dann überall einsatzbereit ist.

ROCm Entwickler-Hub Über ROCm

AMD CDNA Architektur

Erfahren Sie mehr über die Architektur, auf der die AMD Instinct Beschleuniger beruhen.

CDNA entdecken

AMD Instinct Dokumentation

Dokumentationen über AMD Instinct Beschleuniger finden Sie auf dem Documentation Hub.

MI300X Datenblatt Dokumentation ansehen

Fußnoten

MI300-17: Messungen durchgeführt vom AMD Leistungslabor am 11. November 2023, für die AMD Instinct™ MI300X (750 W) GPU mit AMD CDNA™ 3 5-nm-/6-nm-FinFET-Prozesstechnologie bei max. 2.100 MHz Boost-Speichertakt ergaben folgende theoretische Gleitkommaleistung: max. 653,7 TFLOPS TensorFloat-32 (TF32), max. 1.307,4 TFLOPS mit halber Genauigkeit (FP16), max. 1.307,4 TFLOPS mit Bfloat16-Format-Genauigkeit (BF16), max. 2.614,9 TFLOPS mit 8-Bit-Genauigkeit (FP8), 2.614,9 TOPs INT8. Es wird erwartet, dass der MI300X in der Lage ist, die Vorteile der genauen Structure Sparsity zu nutzen, was eine geschätzte 2-fache Verbesserung der mathematischen Effizienz ermöglicht, die folgende theoretische Gleitkommaleistung mit Sparsity ergibt: max. 1.307,4 TFLOPS TensorFloat-32 (TF32), max. 2.614,9 TFLOPS mit halber Genauigkeit (FP16), max. 2.614,9 TFLOPS mit Bfloat16-Format-Genauigkeit (BF16), max. 5.229,8 TFLOPS mit 8-Bit-Genauigkeit (FP8), 5.229,8 TOPs INT8. Veröffentlichte Ergebnisse auf Nvidia H100 SXM (80 GB) 700 W GPU ergaben eine theoretische Gleitkommaleistung von max. 989,4 TFLOPs TensorFloat-32 (TF32) mit Sparsity, max. 1.978,9 TFLOPS mit halber Genauigkeit (FP16) mit Sparsity, max. 1.978,9 TFLOPS mit Bfloat16-Format-Genauigkeit (BF16) mit Sparsity, max. 3.957,8 TFLOPS 8-Bit-Genauigkeit (FP8) mit Sparsity, max. 3.957,8 TOPs INT8 mit Sparsity. Quelle Nvidia H100: https://resources.nvidia.com/en-us-tensor-core.
MI300-18: Messungen durchgeführt vom AMD Leistungslabor am 11. November 2023, für die AMD Instinct™ MI300X (750 W) GPU mit AMD CDNA™ 3 5-nm-/6-nm-FinFET-Prozesstechnologie bei max. 2.100 MHz Boost-Speichertakt ergaben folgende theoretische Gleitkommaleistung: max. 163,4 TFLOPS mit doppelter Genauigkeit Matrix (FP64 Matrix), max. 81,7 TFLOPS mit doppelter Genauigkeit (FP64), max. 163,4 TFLOPS mit einfacher Genauigkeit Matrix (FP32 Matrix), max. 163,4 TFLOPS mit einfacher Genauigkeit (FP32), max. 653,7 TFLOPS TensorFloat-32 (TF32), max. 1.307,4 TFLOPS mit halber Genauigkeit (FP16), max. 1.307,4 TFLOPS mit Bfloat16-Format-Genauigkeit (BF16), max. 2.614,9 TFLOPS mit 8-Bit-Genauigkeit (FP8), 2.614,9 TOPs INT8. Veröffentlichte Ergebnisse auf der Nvidia H100 SXM (80 GB) GPU ergaben folgende theoretische Gleitkommaleistung: max. 66,9 TFLOPs mit doppelter Genauigkeit (FP64 Tensor), max. 33,5 TFLOPs mit doppelter Genauigkeit (FP64), max. 66,9 TFLOPs mit einfacher Genauigkeit (FP32), max. 494,7 TFLOPs TensorFloat-32 (TF32)*, max. 989,4 TFLOPS mit halber Genauigkeit (FP16 Tensor), max. 133,8 TFLOPS mit halber Genauigkeit (FP16), max. 989,4 TFLOPS mit Bfloat16-Tensor-Format-Genauigkeit (BF16 Tensor), max. 133,8 TFLOPS mit Bfloat16-Format-Genauigkeit (BF16), max. 1.978,9 TFLOPS mit 8-Bit-Genauigkeit (FP8), max. 1.978,9 TOPs INT8. Nvidia H100 Quelle: https://resources.nvidia.com/en-us-tensor-core/ * Nvidia H100 GPUs unterstützen nicht FP32 Tensor.
MI300-05A: Berechnungen durchgeführt vom AMD Leistungslabor am 17. November 2023 für den AMD Instinct™ MI300X OAM-Beschleuniger 750 W (192 GB HBM3), entwickelt mit AMD CDNA™ 3 5-nm-FinFet-Prozesstechnologie, ergaben 192 GB HBM3-Speicherkapazität und eine Performance von 5,325 TFLOPS theoretischer Speicherbandbreite. Die Speicherbus-Schnittstelle von MI300X ist 8.192 und die Speicherdatenrate beträgt 5,2 GB/s für eine Spitzenspeicherbandbreite von insgesamt 5,325 TB/s (8.192 Bit Speicherbus-Schnittstelle * 5,2 GB/s Speicherdatenrate / 8). Die höchsten veröffentlichten Ergebnisse für den Nvidia Hopper H200 (141 GB) SXM-GPU-Beschleuniger ergaben eine Speicherkapazität von 141 GB HBM3e und eine GPU-Speicherbandbreite von 4,8 TB/s.https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446 Die höchsten veröffentlichten Ergebnisse für den Nvidia Hopper H100 (80 GB) SXM5-GPU-Beschleuniger ergaben eine Speicherkapazität von 80 GB HBM3 und eine GPU-Speicherbandbreite von 3,35 TB/s. https://resources.nvidia.com/en-us-tensor-core/nvidia-tensor-core-gpu-datasheet

_{Bestimmte AMD Technologien erfordern möglicherweise die Ermöglichung oder Aktivierung durch Dritte. Die unterstützten Funktionen können je nach Betriebssystem variieren. Bitte informieren Sie sich beim Systemhersteller über spezifische Funktionen. Keine Technologie oder kein Produkt kann vollständig sicher sein.}

Rechenzentrum

Business-Systeme

Personal Computing und Gaming

Embedded

Ressourcen

GPU-Beschleuniger

Adaptive Beschleuniger

DPU-Beschleuniger

Ethernet-Adapter

Workstations

Desktops

Notebooks

Ressourcen

FPGAs und adaptive SoCs

Systemmodule (SOMs)

Technologien

Ressourcen für Entwickler

Probeplatinen und Bausätze

Prozessor-Tools

Grafik-Tools und -Apps

Tools für FPGAs und adaptive SoCs

Urheberrechte und Apps

Tools und Apps für GPU-Beschleuniger

Übersicht

Für Rechenzentren und die Cloud

Für Edge und Endpunkte

Für Entwickler

Branchen

Branchen

Branchen

Branchen

Industrias

Einsatzbereiche

Gaming

Systeme

Technologien

Ressourcen

EPYC Prozessoren

Radeon GPUs und AMD Chipsätze

FPGAs und adaptive SoCs

Alveo-Beschleuniger & Kria-SOMs

Ryzen Prozessoren

Ethernet-Adapter

Übersicht

Prozessoren

Beschleuniger

Adaptive SoCs, FPGAs und SOMs

Grafikprodukte

Übersicht

Ressourcen nach Marktsegment

Ressourcen nach Produkt

Ressourcen nach Typ

Über unsere Partner

Weltweiter AMD Support

Prozessoren und Grafikprodukte

Beschleuniger

FPGAs und adaptive SoCs

Gaming und Personal Computing

Adaptive und Embedded Computing

Get AMD Fan Gear

Buy Direct From AMD

Buy Direct From AMD

Buy Direct From AMD

Buy Direct From AMD

Buy Direct From AMD

AMD Instinct™ MI300X Beschleuniger

Vergleiche der Spezifikationen

KI-Performance (max. TFLOPs)

HPC-Performance (max. TFLOPs)

Speicherkapazität und -bandbreite

Unterstützung und Ressourcen

AMD ROCm™ Software

AMD CDNA Architektur

AMD Instinct Dokumentation

Unternehmen

News und Veranstaltungen

Community

Partner

Investoren