KI-Technologien sorgen für weitreichende Auswirkungen auf die Branche
KI verändert Auslastungen und Branchen maßgeblich und steigert so die Effizienz, Innovation und Konkurrenzfähigkeit. Von der Automatisierung von Prozessen in der Fertigung und der Automobilbranche über die Eindämmung von Finanzbetrug bis hin zur Beschleunigung der medizinische Forschung können Unternehmen die Leistung der KI-Technologien nutzen, um neue Möglichkeiten freizuschalten, Vorgänge zu optimieren und Kunden in einer Art und Weise Mehrwert zu bieten, wie es bisher nicht vorstellbar war.
AMD ist die richtige Lösung für alle Ihre Rechenzentrum-Workloads
Die Integration von KI in Ihr Unternehmen kann überwältigend sein. Wenn Sie verstehen, wie das AMD Portfolio die gesamte Bandbreite an KI-Auslastungen unterstützt, können Sie Ihre Anwendungsanforderungen klären. Wenn Sie verstehen, wie KI-Auslastungen in Rechenzentren von Unternehmen bereitgestellt und verwaltet werden, können Sie die Infrastrukturanforderungen klären.
Universalzwecke
KI-Inferenz
KI-Training
Ideale KI-Lösungen voranbringen
Fläche und Energie für die Aufnahme von KI im Rechenzentrum freigeben
Viele Rechenzentren sind hinsichtlich Fläche und/oder Strom bereits bzw. fast an der Kapazitätsgrenze angelangt.1 Server mit AMD EPYC Prozessoren bieten führende Performance und Effizienz. Dadurch ermöglichen sie eine Auslastungskonsolidierung des Materials, womit wiederum mehr Fläche und Energie zur Unterstützung neuer KI-Auslastungen in Ihren bestehenden Rechenzentren gewonnen werden.
Ersetzen Sie 100 alte 2P Intel® Xeon® Platinum 8280 CPU-basierte Server durch 14 neue AMD EPYC™ 9965 CPU-basierte Server2
* Zur Bereitstellung von insgesamt ~39.000 Einheiten Integer Performance.
Bis zu 86 % weniger Server
Bis zu 69 % weniger Stromverbrauch
Bis zu 65 % niedrigere 3-Jahres-Gesamtbetriebskosten
Zur Senkung der Kosten und Gesamtbetriebskosten AMD EPYC™ 9965 CPU-basierte Server im Vergleich zu Intel® Xeon® Platinum 8592+ CPU-basierten Servern2
* Zur Bereitstellung von insgesamt ~39.000 Einheiten Integer Performance.
Bis zu 60 % weniger Server
Bis zu 40 % weniger Stromverbrauch
Bis zu 41 % niedrigere 3-Jahres-Gesamtbetriebskosten
Führende Inferenz-Performance
Server mit AMD EPYC Prozessoren sind die ideale CPU-basierte KI-Plattform, um Inferenz über eine Vielzahl von Modellen und Anwendungsfällen hinweg auszuführen. AMD EPYC CPUs bieten die Flexibilität, Anforderungen zu unterstützen, die von Echtzeit-Inferenz bis hin zu Batch- oder Offline-Inferenz reichen.
AMD EPYC™ 9965 Prozessoren mit 192 Kernen liefern den 3-fachen Inferenzdurchsatz der Intel Xeon 8592+ Top-of-Stack-Prozessoren mit 64 Kernen (durchschnittliche Läufe/Stunde von 2P-Servern bei Ausführung des beliebten Gradient-Boosting-Modells XGBoost (Higgs Data Set) bei FP32-Präzision).3
Die richtige Host-CPU für GPUs
Für größere und anspruchsvollere KI-Auslastungen sind GPUs die richtige Wahl. Die Aufgabe der Host-CPU ist es, die GPUs zu bedienen, um einen maximalen Durchsatz zu erzielen. Um das Beste aus diesen wertvollen GPUs herauszuholen, ist die Wahl der richtigen Host-Plattform wichtig. Server mit AMD EPYC Prozessoren bieten Performance, Skalierbarkeit, Kompatibilität und Energieeffizienz, um das Hosting fortschrittlicher GPU-KI-Engines zu unterstützen. Erfahren Sie, welche CPU-Funktionen für das Hosten von GPUs wichtig sind.
Wählen Sie aus hunderten GPU-beschleunigten Systemen auf Basis von AMD EPYC CPUs, um KI-Workloads zu beschleunigen. AMD Instinct™ GPU-beschleunigte Lösungen anzeigen.
Fragen Sie nach anderen zertifizierten oder validierten GPU-beschleunigten Lösungen, die bei führenden Anbietern von Plattformlösungen wie Asus, Dell, Gigabyte, HP, Lenovo oder Supermicro erhältlich sind.
Erfahrungsberichte von Kunden
Ressourcen
Pragmatischer Ansatz für die KI-fähige Infrastruktur
Untersuchen Sie KI-Infrastrukturstrategien. Konzentrieren Sie sich dabei auf Rightsizing-Lösungen in der Rechenzentrumsmodernisierung und die Optimierung der CPU-GPU-Nutzung für Aufgaben unterschiedlicher Größe und Komplexität.
Rechenzentren-Infos von AMD abonnieren
Kontakt mit einem AMD EPYC Vertriebsexperten anfordern
Fußnoten
- Analyse basierend auf internen AMD Daten
- 9xx5TCO-001B: Dieses Szenario fußt auf vielen Annahmen und Schätzungen, und obwohl es auf internen Forschungen und bestmöglichen Näherungswerten von AMD basiert, dient es nur als Beispiel zur Veranschaulichung und sollte nicht anstelle eigener Tests als Entscheidungsgrundlage genommen werden. Das AMD Server and Greenhouse Gas Emissions TCO (Total Cost of Ownership) Estimator Tool – Version 1.12 – vergleicht die benötigten AMD EPYC™ und Intel® Xeon® CPU-basierten Server für insgesamt 39.100 Einheiten von SPECrate2017_int_base-Performance (Stand 10. Oktober 2024). Bei diesem Szenario wird ein älterer 2P-Server mit Intel Xeon Platinum_8280 mit 28 Kernen mit einer Bewertung von 391 verglichen mit einem 2P-Server mit EPYC 9965 (192 Kerne) und einer Bewertung von 3000 (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf) sowie mit einem Vergleichs-Upgrade auf einen 2P-Server mit Intel Xeon Platinum 8592+ (64 Kerne) mit einer Bewertung von 1130 (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf). Die tatsächliche SPECrate®2017_int_base-Bewertung für 2P EPYC 9965 kann je nach OEM-Veröffentlichung abweichen. Schätzungen der Umweltauswirkungen auf der Grundlage dieser Daten unter Verwendung der länder- und regionenspezifischen Stromfaktoren aus „2024 International Country Specific Electricity Factors 10 – July 2024“ und „Greenhouse Gas Equivalencies Calculator“ der United States Environmental Protection Agency.
- 9xx5-040A: XGBoost (Läufe/Stunde) Durchsatzergebnisse basierend auf internen Tests von AMD vom 05.09.2024. XGBoost Konfigurationen: v2.2.1, Higgs Data Set, Instanzen mit 32 Kernen, FP32 2P AMD EPYC 9965 (384 Kerne gesamt), Instanzen mit 12 x 32 Kernen, 1,5 TB 24 x 64 GB DDR5-6400 (bei 6000 MT/s), 1,0 Gbit/s NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (tuned-adm profile throughput-performance, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT = off, Determinism = Power, Turbo Boost = Enabled), NPS = 1 2P AMD EPYC 9755 (256 Kerne gesamt), 1,5 TB 24 x 64 GB DDR5-6400 (bei 6000 MT/s), 1 DPC, 1,0 Gbit/s NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT = off, Determinism = Power, Turbo Boost = Enabled), NPS = 1 2P AMD EPYC 9654 (192 Kerne gesamt), 1,5 TB 24 x 64 GB DDR5-4800, 1 DPC, 2 x 1,92 TB Samsung MZQL21T9HCJR-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT = off, Determinism = Power), NPS = 1 Versus 2P Xeon Platinum 8592+ (128 Kerne gesamt), AMX Ein, 1 TB 16 x 64 GB DDR5-5600, 1 DPC, 1,0 Gbit/s NetXtreme BCM5719 Gigabit Ethernet PCIe, 3,84 TB KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS, 6.5.0-35 generic (tuned-adm profile throughput-performance, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT = off, Determinism = Power, Turbo Boost = Enabled) Ergebnisse: CPU Lauf 1 Lauf 2 Lauf 3 Medianwert Relativer Wert Durchsatz Generationenvergleich 2P Turin 192 Kerne, NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 2P Turin 128C, NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 2P Genoa 96C, NPS1 662.577 644.776 640.95 644.776 1.245 1 2P EMR 64C 517.986 421.053 553.846 517.986 1 NA Die Ergebnisse können abhängig von Faktoren wie Systemkonfiguration, Softwareversion und BIOS-Einstellungen variieren.
Fußnoten
- Analyse basierend auf internen AMD Daten
- 9xx5TCO-001B: Dieses Szenario fußt auf vielen Annahmen und Schätzungen, und obwohl es auf internen Forschungen und bestmöglichen Näherungswerten von AMD basiert, dient es nur als Beispiel zur Veranschaulichung und sollte nicht anstelle eigener Tests als Entscheidungsgrundlage genommen werden. Das AMD Server and Greenhouse Gas Emissions TCO (Total Cost of Ownership) Estimator Tool – Version 1.12 – vergleicht die benötigten AMD EPYC™ und Intel® Xeon® CPU-basierten Server für insgesamt 39.100 Einheiten von SPECrate2017_int_base-Performance (Stand 10. Oktober 2024). Bei diesem Szenario wird ein älterer 2P-Server mit Intel Xeon Platinum_8280 mit 28 Kernen mit einer Bewertung von 391 verglichen mit einem 2P-Server mit EPYC 9965 (192 Kerne) und einer Bewertung von 3000 (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf) sowie mit einem Vergleichs-Upgrade auf einen 2P-Server mit Intel Xeon Platinum 8592+ (64 Kerne) mit einer Bewertung von 1130 (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf). Die tatsächliche SPECrate®2017_int_base-Bewertung für 2P EPYC 9965 kann je nach OEM-Veröffentlichung abweichen. Schätzungen der Umweltauswirkungen auf der Grundlage dieser Daten unter Verwendung der länder- und regionenspezifischen Stromfaktoren aus „2024 International Country Specific Electricity Factors 10 – July 2024“ und „Greenhouse Gas Equivalencies Calculator“ der United States Environmental Protection Agency.
- 9xx5-040A: XGBoost (Läufe/Stunde) Durchsatzergebnisse basierend auf internen Tests von AMD vom 05.09.2024. XGBoost Konfigurationen: v2.2.1, Higgs Data Set, Instanzen mit 32 Kernen, FP32 2P AMD EPYC 9965 (384 Kerne gesamt), Instanzen mit 12 x 32 Kernen, 1,5 TB 24 x 64 GB DDR5-6400 (bei 6000 MT/s), 1,0 Gbit/s NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (tuned-adm profile throughput-performance, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT = off, Determinism = Power, Turbo Boost = Enabled), NPS = 1 2P AMD EPYC 9755 (256 Kerne gesamt), 1,5 TB 24 x 64 GB DDR5-6400 (bei 6000 MT/s), 1 DPC, 1,0 Gbit/s NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT = off, Determinism = Power, Turbo Boost = Enabled), NPS = 1 2P AMD EPYC 9654 (192 Kerne gesamt), 1,5 TB 24 x 64 GB DDR5-4800, 1 DPC, 2 x 1,92 TB Samsung MZQL21T9HCJR-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT = off, Determinism = Power), NPS = 1 Versus 2P Xeon Platinum 8592+ (128 Kerne gesamt), AMX Ein, 1 TB 16 x 64 GB DDR5-5600, 1 DPC, 1,0 Gbit/s NetXtreme BCM5719 Gigabit Ethernet PCIe, 3,84 TB KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS, 6.5.0-35 generic (tuned-adm profile throughput-performance, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT = off, Determinism = Power, Turbo Boost = Enabled) Ergebnisse: CPU Lauf 1 Lauf 2 Lauf 3 Medianwert Relativer Wert Durchsatz Generationenvergleich 2P Turin 192 Kerne, NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 2P Turin 128C, NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 2P Genoa 96C, NPS1 662.577 644.776 640.95 644.776 1.245 1 2P EMR 64C 517.986 421.053 553.846 517.986 1 NA Die Ergebnisse können abhängig von Faktoren wie Systemkonfiguration, Softwareversion und BIOS-Einstellungen variieren.