
优化的 GPU 软件栈
AMD ROCm 是一个开放的软件栈,包含驱动程序、开发工具和 API,支持从底层内核到最终用户应用程序各个层级的 GPU 编程。ROCm 针对生成式 AI 和 HPC 应用进行了优化,并且可以轻松地将现有代码迁移到 ROCm 软件中。

ROCm 7 的最新功能
全面支持 AMD Instinct MI350 系列 GPU
ROCm 操作平台,完整集成 Kubernetes 和 Slurm
主要功能包括企业安全、集群规模控制、专家级的并行性,以及新数据类型 FP6 和 FP4(增强灵活性和性能)
通过 vLLM-d、DeepEP、SGLang 和 GPU Direct Access 实现生产级机架规模的推理,从而优化运营效率
更广泛的开源生态系统支持,无缝集成 Hugging Face 模型和 Triton 3.3,实现跨平台加速

ROCm 多年来的演变
近十年来,领先的企业和研究机构一直在利用 ROCm。敬请探索 ROCm 发展历程中的各个里程碑。


精诚合作与成功案例

处理要求最苛刻的工作负载
ROCm 支持针对各种要求苛刻的工作负载进行 AI 和 HPC 应用程序开发。
AI
大语言模型
图片与视频生成
推荐
计算机视觉
HPC
生命科学
计算流体动力学
能源
环境科学


适用于 AI 工作负载的 ROCm
ROCm 为 AI 工作负载提供了一套优化,支持更广泛的 AI 软件生态系统,包括开放框架、模型和工具。
简化模型开发
支持 Hugging Face 上的多种模型,可以用来开发用户具体的解决方案
支持领先框架
为 TensorFlow 和 PyTorch 等领先的 AI 框架提供上游支持
机器学习库
提供机器学习专用库,包括 MIOpen 和 MIVisionX
横向扩展部署
支持领先的容器化工具,包括 Docker、Singularity、Kubernetes ®和 Slurm,以实现大规模部署


在 AMD 开发者云上构建您的 AI 模型
申请访问 AMD Instinct 加速器并简化您的开发。


ROCm 用于 HPC 和超级计算机
ROCm 软件助力各学科的高性能计算 (HPC),解决全球诸多严峻挑战。ROCm 还助力一些全球顶级超级计算机的应用开发。
HPC 编程语言
支持 HPC 工作负载的多种编程语言选择,为开发人员提供一系列工具来帮助解决当前问题,包括 OpenMP®、HIP、OpenCL™ 和 Python™
数学和通信代码库
包含各种数学和通信代码库,帮助开发人员完成功能更强大的 HPC 代码并提高性能


丰富全面的开发人员工具集
ROCm 包含一套丰富全面的工具,为开发人员和研究人员带来灵活的管理、质量控制和监控功能。
开发工具、分析器和调试
支持一系列工具,帮助开发人员跟踪、分析和调试,有助于减少完成应用程序开发所需的时间
容器部署管理解决方案
支持领先的容器化工具,帮助简化系统和工作负载部署,并帮助管理用于 AI 和 HPC 的大规模 AMD GPU 加速集群
系统资源监控工具
面向系统管理员和集群管理员的用于检测问题和排除故障的工具
远程管理器功能
包括先进的带外管理电路,用于简化大规模系统中的 GPU 监控


支持的 GPU

开发人员资源


附注
©2024 Advanced Micro Devices, Inc. 保留所有权利。AMD、AMD 箭头标识、AMD ROCm、AMD Instinct、EPYC、霄龙、Radeon Instinct 及其组合均为 Advanced Micro Devices, Inc. 的商标。PyTorch 是 PyTorch 的商标或注册商标。本文中使用的其他产品名称仅供辨别之用,可能为其各自公司的商标。
- 有关 ROCm 支持的 Radeon 产品的完整列表,请访问 https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html
- Radeon AI 技术兼容所有 AMD Radeon 7000 系列及更新型号的显卡。购买前请咨询您的系统制造商,了解该功能是否可用。GD-232。
©2024 Advanced Micro Devices, Inc. 保留所有权利。AMD、AMD 箭头标识、AMD ROCm、AMD Instinct、EPYC、霄龙、Radeon Instinct 及其组合均为 Advanced Micro Devices, Inc. 的商标。PyTorch 是 PyTorch 的商标或注册商标。本文中使用的其他产品名称仅供辨别之用,可能为其各自公司的商标。
- 有关 ROCm 支持的 Radeon 产品的完整列表,请访问 https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html
- Radeon AI 技术兼容所有 AMD Radeon 7000 系列及更新型号的显卡。购买前请咨询您的系统制造商,了解该功能是否可用。GD-232。