業界に幅広いインパクトをもたらす AI テクノロジ
AI はワークロードと産業を根本的に変革して、革新を促し、効率と競争力を高めています。製造業や自動車業界におけるプロセスの自動化から、金融詐欺の抑制や医学研究のスピードアップまで、企業は AI テクノロジの力を活用することで、新たな機会を生み出し、業務を最適化し、従来は想像もできなかった方法で顧客に価値を提供できます。
AMD がデータセンターのあらゆるワークロードをパワーアップ
企業が AI を取り入れることは、大きな負担となることがあります。AMD のポートフォリオは、AI のあらゆるワークロードをサポートします。その方法を理解すれば、アプリケーション要件を明確にできます。また、AI のワークロードがエンタープライズ データセンターにどのように展開され、維持されているかを理解すれば、インフラストラクチャのニーズを明確にできます。
汎用
AI 推論
AI トレーニング
理想的な AI ソリューションの実現に向けて
AI をデータセンターに収容するためのスペースと電力を創出
多くのデータセンターは既に、利用可能なスペースや電力、あるいはその両方において、キャパシティの限界、またはそれに近い状態で稼働しています。1 AMD EPYC プロセッサ搭載サーバーは、最先端のパフォーマンスと効率性を提供し、重要なワークロードの統合を可能にします。これにより、既存のデータセンターであっても今まで以上のスペースと電力で新しい AI ワークロードをサポートできるようになります。
100 台の旧型 2P Intel® Xeon® Platinum 8280 CPU 搭載サーバーを 14 台の新型 AMD EPYC™ 9965 CPU 搭載サーバーに置き換え2
*整数演算性能で合計約 39,000 ユニットを実現
サーバー台数を最大 86% 削減
電力消費を最大 69% 削減
3 年間の総保有コストを最大 65% 削減
コスト削減と TCO 削減に貢献。AMD EPYC™ 9965 CPU 搭載サーバーと Intel® Xeon® Platinum 8592+ CPU 搭載サーバーの比較2
*整数演算性能で合計約 39,000 ユニットを実現
サーバー台数を最大 60% 削減
電力消費を最大 40% 削減
3 年間の総保有コストを最大 41% 削減
優れた推論パフォーマンス
AMD EPYC プロセッサ搭載サーバーは、さまざまなモデルやユース ケースにわたって推論を実行する理想的な CPU ベースの AI プラットフォームです。AMD EPYC CPU は、リアルタイム推論からバッチまたはオフライン推論に至るまで、幅広い要件に対応する柔軟性を提供します。
192 コアの AMD EPYC™ 9965 プロセッサは、最高クラスの 64 コアの Intel Xeon 8592+ プロセッサの 3 倍の推論スループットを実現します (FP32 精度で一般的な勾配ブースティング モデル XGBoost (Higgs データ セット) を実行している 2P サーバーの平均実行/時)。3
GPU に最適なホスト CPU
より大規模で負荷の高い AI ワークロードを実行するための最適な選択肢は、GPU です。GPU を最大限に活用して最高のスループットを実現するのが、ホスト CPU の役割です。これらの貴重な GPU を最大限に活用するためには、適切なホスト プラットフォームを選択することが重要です。AMD EPYC プロセッサ搭載サーバーは、高度な GPU AI エンジンのホスティングをサポートするパフォーマンス、スケーラビリティ、互換性、電力効率を備えています。GPU のホスティングに重要な CPU の機能についてご確認ください。
AMD EPYC CPU を搭載した数百もの認定 GPU アクセラレーテッド システムからお選びいただけます。AMD Instinct™ GPU アクセラレーテッド ソリューションをご参照ください。
Asus、Dell、Gigabyte、HPE、Lenovo、Supermicro をはじめとする業界トップクラスのプラットフォーム ソリューション プロバイダーが提供する、認証または検証済みのその他 GPU アクセラレーテッド ソリューションについてお問い合わせください。
お客様の声
リソース
AI 対応のインフラストラクチャへの実用的なアプローチ
データセンターのモダナイゼーションにおける適切なサイズのソリューションと、サイズや複雑さが異なるさまざまなタスクに合わせた CPU-GPU の使用の最適化に焦点を当てて、AI インフラストラクチャ戦略を調査します。
AMD のデータセンターに関する知見を購読する
AMD EPYC 営業担当者からの連絡をリクエスト
脚注
- 解析は AMD 社内データに基づきます
- 9xx5TCO-001B: このシナリオには多くの仮定と推定が含まれており、AMD の内部調査と最良近似に基づいています。このシナリオ中に示される数値は、情報提供のみを目的とした例であり、実際のテストに対する意思決定の基礎としては使用しないでください。AMD サーバーと温室効果ガス排出量 TCO (総所有コスト) 評価ツール (バージョン 1.12) では、2024 年 10 月 10 日時点において、SPECrate2017_int_base で 39100 ユニットの TOTAL_PERFORMANCE を実現するために必要となる特定の AMD EPYC™ と Intel® Xeon® CPU 搭載のサーバー ソリューションを比較しています。このシナリオは、スコア 391 のレガシ 2P Intel Xeon 28 コア Platinum_8280 搭載サーバーと、スコア 3000 の 2P EPYC 9965 (192C) 搭載サーバーを比較したもので (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf)、さらにスコア 1130 の 2P Intel Xeon Platinum 8592+ (64 コア) 搭載サーバーへのアップグレードを比較しています (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf)。2P EPYC 9965 の実際の SPECrate®2017_int_base スコアは、OEM の公表値によって異なります。環境負荷への試算は、このデータを活用し、「2024 International Country Specific Electricity Factors 10 – 2024 年 7 月」の国/地域特定の電気要因、および米国環境保護庁「Greenhouse Gas Equivalencies Calculator」を使用しています。
- 9xx5-040A: XGBoost (実行/時) のスループットは、2024 年 9 月 5 日時点の AMD 社内テストに基づきます。XGBoost 構成: v2.2.1、Higgs データ セット、32 コア インスタンス、FP32 2P AMD EPYC 9965 (合計 384 コア)、12 x 32 コア インスタンス、1.5 TB 24x64 GB DDR5-6400 (6000 MT/秒時)、1.0 Gbps NetXtreme BCM5720 PCIe ギガビット イーサネット、3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®、Ubuntu® 22.04.4 LTS、6.8.0-45-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198078840、ulimit -n 1024、ulimit -s 8192)、BIOS RVOT1000C (SMT=off、Determinism=Power、Turbo Boost=Enabled)、NPS=1 2P AMD EPYC 9755 (合計 256 コア)、1.5 TB 24x64 GB DDR5-6400 (6000 MT/秒時)、1DPC、1.0 Gbps NetXtreme BCM5720 PCIe ギガビット イーサネット、3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®、Ubuntu 22.04.4 LTS、6.8.0-40-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198094956、ulimit -n 1024、ulimit -s 8192)、BIOS RVOT0090F (SMT=off、Determinism=Power、Turbo Boost=Enabled)、NPS=1 2P AMD EPYC 9654 (合計 192 コア)、1.5 TB 24x64 GB DDR5-4800、1DPC、2 x 1.92 TB Samsung MZQL21T9HCJR-00A07 NVMe®、Ubuntu 22.04.4 LTS、6.8.0-40-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198120988、ulimit -n 1024、ulimit -s 8192)、BIOS TTI100BA (SMT=off、Determinism=Power)、NPS=1 に対し、2P Xeon Platinum 8592+ (合計 128 コア)、AMX On、1 TB 16x64 GB DDR5-5600、1DPC、1.0 Gbps NetXtreme BCM5719 PCIe ギガビット イーサネット、3.84 TB KIOXIA KCMYXRUG3T84 NVMe®、Ubuntu 22.04.4 LTS、6.5.0-35 generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 132065548、ulimit -n 1024、ulimit -s 8192)、BIOS ESE122V (SMT=off、Determinism=Power、Turbo Boost = Enabled) を比較。結果: CPU Run 1、Run 2、Run 3 相対スループット中央値 (世代間) 2P Turin 192C、NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 2P Turin 128C、NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 2P Genoa 96C、NPS1 662.577 644.776 640.95 644.776 1.245 1 2P EMR 64C 517.986 421.053 553.846 517.986 1 NA。システム構成、ソフトウェアのバージョン、BIOS 設定などの要因により、結果は異なる場合があります。
脚注
- 解析は AMD 社内データに基づきます
- 9xx5TCO-001B: このシナリオには多くの仮定と推定が含まれており、AMD の内部調査と最良近似に基づいています。このシナリオ中に示される数値は、情報提供のみを目的とした例であり、実際のテストに対する意思決定の基礎としては使用しないでください。AMD サーバーと温室効果ガス排出量 TCO (総所有コスト) 評価ツール (バージョン 1.12) では、2024 年 10 月 10 日時点において、SPECrate2017_int_base で 39100 ユニットの TOTAL_PERFORMANCE を実現するために必要となる特定の AMD EPYC™ と Intel® Xeon® CPU 搭載のサーバー ソリューションを比較しています。このシナリオは、スコア 391 のレガシ 2P Intel Xeon 28 コア Platinum_8280 搭載サーバーと、スコア 3000 の 2P EPYC 9965 (192C) 搭載サーバーを比較したもので (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf)、さらにスコア 1130 の 2P Intel Xeon Platinum 8592+ (64 コア) 搭載サーバーへのアップグレードを比較しています (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf)。2P EPYC 9965 の実際の SPECrate®2017_int_base スコアは、OEM の公表値によって異なります。環境負荷への試算は、このデータを活用し、「2024 International Country Specific Electricity Factors 10 – 2024 年 7 月」の国/地域特定の電気要因、および米国環境保護庁「Greenhouse Gas Equivalencies Calculator」を使用しています。
- 9xx5-040A: XGBoost (実行/時) のスループットは、2024 年 9 月 5 日時点の AMD 社内テストに基づきます。XGBoost 構成: v2.2.1、Higgs データ セット、32 コア インスタンス、FP32 2P AMD EPYC 9965 (合計 384 コア)、12 x 32 コア インスタンス、1.5 TB 24x64 GB DDR5-6400 (6000 MT/秒時)、1.0 Gbps NetXtreme BCM5720 PCIe ギガビット イーサネット、3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®、Ubuntu® 22.04.4 LTS、6.8.0-45-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198078840、ulimit -n 1024、ulimit -s 8192)、BIOS RVOT1000C (SMT=off、Determinism=Power、Turbo Boost=Enabled)、NPS=1 2P AMD EPYC 9755 (合計 256 コア)、1.5 TB 24x64 GB DDR5-6400 (6000 MT/秒時)、1DPC、1.0 Gbps NetXtreme BCM5720 PCIe ギガビット イーサネット、3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®、Ubuntu 22.04.4 LTS、6.8.0-40-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198094956、ulimit -n 1024、ulimit -s 8192)、BIOS RVOT0090F (SMT=off、Determinism=Power、Turbo Boost=Enabled)、NPS=1 2P AMD EPYC 9654 (合計 192 コア)、1.5 TB 24x64 GB DDR5-4800、1DPC、2 x 1.92 TB Samsung MZQL21T9HCJR-00A07 NVMe®、Ubuntu 22.04.4 LTS、6.8.0-40-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198120988、ulimit -n 1024、ulimit -s 8192)、BIOS TTI100BA (SMT=off、Determinism=Power)、NPS=1 に対し、2P Xeon Platinum 8592+ (合計 128 コア)、AMX On、1 TB 16x64 GB DDR5-5600、1DPC、1.0 Gbps NetXtreme BCM5719 PCIe ギガビット イーサネット、3.84 TB KIOXIA KCMYXRUG3T84 NVMe®、Ubuntu 22.04.4 LTS、6.5.0-35 generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 132065548、ulimit -n 1024、ulimit -s 8192)、BIOS ESE122V (SMT=off、Determinism=Power、Turbo Boost = Enabled) を比較。結果: CPU Run 1、Run 2、Run 3 相対スループット中央値 (世代間) 2P Turin 192C、NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 2P Turin 128C、NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 2P Genoa 96C、NPS1 662.577 644.776 640.95 644.776 1.245 1 2P EMR 64C 517.986 421.053 553.846 517.986 1 NA。システム構成、ソフトウェアのバージョン、BIOS 設定などの要因により、結果は異なる場合があります。