運用適合所有 AI 工作負載的技術，驅動您的企業邁向成功
在 AI 創新步調和急迫性不斷加快之際，Supermicro 和 AMD 攜手合作，協助您保持領先地位。部署搭載 AMD EPYC™ 處理器以及 AMD Instinct™ 加速器的 Supermicro 機架就緒伺服器，為現在與未來龐大規模的 AI 工作負載釋放效能、成本效益與擴充性。
透過顯示卡加速克服 AI 挑戰
Supermicro 與 AMD 共同攜手合作，提供開放、強大的生態系統，以及 AI 生命週期所需的突破性能力，並以領先業界的效能與效率，滿足您獨特的需求。
AMD EPYC 處理器可用於小型 AI 模型和工作負載，鄰近資料是這類工作的關鍵，而 AMD Instinct 加速器則可在大型模型和要求極高效能的專用 AI 部署上發光發熱。相較於 Nvidia H100 HGX，AMD Instinct 平台在 LLM（例如 BLOOM 176B）上執行推論時，輸送量可提升高達 1.6 倍。1
輕鬆為 AI 進化
探索採用 AMD Instinct M1300X 加速器的 Supermicro H13 伺服器，如何為最大型的 AI 模型簡化大規模部署作業。
透過處理器/顯示卡整合提升效能
探索採用 AMD Instinct M1300A APU 的 Supermicro H13 系統，如何結合 AMD Instinct 加速器與具有共用記憶體的 AMD EPYC 處理器的威力，大幅強化您的 AI 計畫。
附註：白盒系統的測試結果；請參閱 www.supermicro.com/aplus 以取得 Supermicro 產品/平台資訊。
現代化，為 AI 騰出空間
為了將 IT 預算的效益最大化，許多資料中心已經在挑戰可用空間、電力或兩者的極限。搭載 AMD EPYC 處理器的 Supermicro 伺服器提供領先業界的效能與效率，可整合您的核心工作負載，釋出空間、電力與冷卻能力，以支援全新的關鍵業務 AI 工作負載。
將 100 部採用舊式雙路 Intel® Xeon® Platinum 8280 處理器的伺服器更換為 14 部全新的 AMD EPYC 9965 處理器伺服器2
伺服器數量減少高達 87%
電力減少高達 71%
3 年 TCO 降低高達 67%
與採用 Intel® Xeon® Platinum 8592+ 處理器的伺服器相比，採用 AMD EPYC 9965 處理器的伺服器可協助您降低成本和 TCO2
伺服器數量減少高達 63%
電力減少高達 45%
3 年 TCO 降低高達 44%
附註：白盒系統的測試結果；請參閱 www.supermicro.com/aplus 以取得 Supermicro 產品/平台資訊。
為何現在需要現代化？IDC 的觀點
瞭解 AI 如何推動高配置伺服器的需求，以及 IDC 為何認為現在就必須採用現代化的技術堆疊。
AMD 與 Supermicro 攜手讓繁重的推論工作變得輕鬆寫意
親身體驗，請求試用搭載 AMD EPYC 處理器的 Supermicro H14 伺服器，測試您的 AI 工作負載。
客戶故事
資源
時事通訊與要求聯絡人
訂閱 AMD 的資料中心深入見解
要求與 AMD EPYC™ 和 Supermicro 銷售專家聯絡
尾註
- MI300-34：根據截至 2023 年 11 月 17 日為止的 AMD 內部測試，使用 DeepSpeed Inference 與 Bloom-176b 模型（輸入序列長度為 1,948 個 Token，輸出序列長度為 100 個 Token，批次大小經調整以在每個系統上產生最大輸送量）且為各系統使用自訂 Docker 容器的 Token 產生輸送量比較。
配置：
採用雙路 Intel Xeon Platinum 8480C 處理器的伺服器，搭載 8x AMD Instinct™ MI300X 192GB 750W 顯示卡、預發行版的 ROCm™ 6.0，以及 Ubuntu 22.04.2。
對比
Nvidia DGX H100，搭載 2x Intel Xeon Platinum 8480CL 處理器、8x Nvidia H100 80GB 700W 顯示卡、CUDA 12.0，以及 Ubuntu 22.04.3。
此測試在每個系統上使用 8 個顯示卡。
伺服器製造商可能會改變配置，而得到不同的結果。效能可能會因使用了最新驅動程式及最佳化而不同。
- 9xx5TCO-001B：這個方案包含許多假設和估算，儘管其以 AMD 內部研究和最佳近似值為基礎，但應視為僅供參考的示例，不得未經實際測試並以其作為決策依據。AMD 伺服器與溫室氣體排放 TCO（整體持有成本）預估工具 - 第 1.12 版，比較搭載特定 AMD EPYC™ 處理器的伺服器解決方案，與搭載 Intel® Xeon® 處理器的伺服器解決方案，若以總效能 39100 單位 SPECrate2017_int_base 為目標，各可節省多少成本及產生多少環境衝擊，資料截至 2024 年 10 月 10 日為止。此情境比較了搭載舊式雙路 Intel Xeon 28 核心 Platinum_8280 的伺服器，其分數為 391，以及搭載雙路 EPYC 9965 (192C) 的伺服器，其分數為 3000 (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf)；此外，還比較升級至雙路 Intel Xeon Platinum 8592+ (64C) 的伺服器，其分數為 1130 (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf)。雙路 EPYC 9965 的實際 SPECrate®2017_int_base 分數會隨 OEM 發佈資料而異。使用「2024 年國際特定國家電力係數 10 – 2024 年 7 月」中的國家/地區特定電力係數和美國環境保護局「溫室氣體當量計算器」，利用該資料進行環境影響評估。
- MI300-34：根據截至 2023 年 11 月 17 日為止的 AMD 內部測試，使用 DeepSpeed Inference 與 Bloom-176b 模型（輸入序列長度為 1,948 個 Token，輸出序列長度為 100 個 Token，批次大小經調整以在每個系統上產生最大輸送量）且為各系統使用自訂 Docker 容器的 Token 產生輸送量比較。
配置：
採用雙路 Intel Xeon Platinum 8480C 處理器的伺服器，搭載 8x AMD Instinct™ MI300X 192GB 750W 顯示卡、預發行版的 ROCm™ 6.0，以及 Ubuntu 22.04.2。
對比
Nvidia DGX H100，搭載 2x Intel Xeon Platinum 8480CL 處理器、8x Nvidia H100 80GB 700W 顯示卡、CUDA 12.0，以及 Ubuntu 22.04.3。
此測試在每個系統上使用 8 個顯示卡。
伺服器製造商可能會改變配置，而得到不同的結果。效能可能會因使用了最新驅動程式及最佳化而不同。 - 9xx5TCO-001B：這個方案包含許多假設和估算，儘管其以 AMD 內部研究和最佳近似值為基礎，但應視為僅供參考的示例，不得未經實際測試並以其作為決策依據。AMD 伺服器與溫室氣體排放 TCO（整體持有成本）預估工具 - 第 1.12 版，比較搭載特定 AMD EPYC™ 處理器的伺服器解決方案，與搭載 Intel® Xeon® 處理器的伺服器解決方案，若以總效能 39100 單位 SPECrate2017_int_base 為目標，各可節省多少成本及產生多少環境衝擊，資料截至 2024 年 10 月 10 日為止。此情境比較了搭載舊式雙路 Intel Xeon 28 核心 Platinum_8280 的伺服器，其分數為 391，以及搭載雙路 EPYC 9965 (192C) 的伺服器，其分數為 3000 (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf)；此外，還比較升級至雙路 Intel Xeon Platinum 8592+ (64C) 的伺服器，其分數為 1130 (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf)。雙路 EPYC 9965 的實際 SPECrate®2017_int_base 分數會隨 OEM 發佈資料而異。使用「2024 年國際特定國家電力係數 10 – 2024 年 7 月」中的國家/地區特定電力係數和美國環境保護局「溫室氣體當量計算器」，利用該資料進行環境影響評估。