优化的 GPU 软件栈

AMD ROCm 是一个开放的软件栈,包含驱动程序、开发工具和 API,支持从底层内核到最终用户应用程序各个层级的 GPU 编程。ROCm 针对生成式 AI 和 HPC 应用进行了优化,并且可以轻松地将现有代码迁移到 ROCm 软件中。

ROCm 7 的最新功能

全面支持 AMD Instinct MI350 系列 GPU

ROCm 操作平台,完整集成 Kubernetes 和 Slurm

主要功能包括企业安全、集群规模控制、专家级的并行性,以及新数据类型 FP6 和 FP4(增强灵活性和性能)

通过 vLLM-d、DeepEP、SGLang 和 GPU Direct Access 实现生产级机架规模的推理,从而优化运营效率

更广泛的开源生态系统支持,无缝集成 Hugging Face 模型和 Triton 3.3,实现跨平台加速

AMD ROCm Lockup White

ROCm 多年来的演变

近十年来,领先的企业和研究机构一直在利用 ROCm。敬请探索 ROCm 发展历程中的各个里程碑。

精诚合作与成功案例

处理要求最苛刻的工作负载

ROCm 支持针对各种要求苛刻的工作负载进行 AI 和 HPC 应用程序开发。

AI

大语言模型

图片与视频生成

推荐

计算机视觉

HPC

生命科学

计算流体动力学

能源

环境科学

适用于 AI 工作负载的 ROCm

ROCm 为 AI 工作负载提供了一套优化,支持更广泛的 AI 软件生态系统,包括开放框架、模型和工具。

简化模型开发

支持 Hugging Face  上的多种模型,可以用来开发用户具体的解决方案

支持领先框架

为 TensorFlow 和 PyTorch 等领先的 AI 框架提供上游支持

机器学习库

提供机器学习专用库,包括 MIOpen 和 MIVisionX

横向扩展部署

支持领先的容器化工具,包括 Docker、Singularity、Kubernetes ®和 Slurm,以实现大规模部署

AMD Data Center and Cloud Computing

在 AMD 开发者云上构建您的 AI 模型

申请访问 AMD Instinct 加速器并简化您的开发。

ROCm 用于 HPC 和超级计算机

ROCm 软件助力各学科的高性能计算 (HPC),解决全球诸多严峻挑战。ROCm 还助力一些全球顶级超级计算机的应用开发。

HPC 编程语言

支持 HPC 工作负载的多种编程语言选择,为开发人员提供一系列工具来帮助解决当前问题,包括 OpenMP®、HIP、OpenCL™ 和 Python™

数学和通信代码库

包含各种数学和通信代码库,帮助开发人员完成功能更强大的 HPC 代码并提高性能

丰富全面的开发人员工具集

ROCm 包含一套丰富全面的工具,为开发人员和研究人员带来灵活的管理、质量控制和监控功能。

开发工具、分析器和调试

支持一系列工具,帮助开发人员跟踪、分析和调试,有助于减少完成应用程序开发所需的时间

容器部署管理解决方案

支持领先的容器化工具,帮助简化系统和工作负载部署,并帮助管理用于 AI 和 HPC 的大规模 AMD GPU 加速集群

系统资源监控工具

面向系统管理员和集群管理员的用于检测问题和排除故障的工具

远程管理器功能

包括先进的带外管理电路,用于简化大规模系统中的 GPU 监控

支持的 GPU

开发人员资源

ROCm Developer screen shot

ROCm 开发者中心

开始开发 AMD GPU 加速应用程序。访问 ROCm 开发者中心,获取最新的用户指南、容器、培训视频、网络研讨会等资源。

基于 AMD Radeon GPU 的机器学习开发

使用 PyTorch 开发 ML 模型和算法的研究人员和开发人员现在还可以在 Ubuntu® Linux® 上使用 ROCm(从 5.7 版开始),从而利用最新 AMD Radeon 7900 系列台式机 GPU 的并行计算能力。²

附注

©2024 Advanced Micro Devices, Inc. 保留所有权利。AMD、AMD 箭头标识、AMD ROCm、AMD Instinct、EPYC、霄龙、Radeon Instinct 及其组合均为 Advanced Micro Devices, Inc. 的商标。PyTorch 是 PyTorch 的商标或注册商标。本文中使用的其他产品名称仅供辨别之用,可能为其各自公司的商标。

  1. 有关 ROCm 支持的 Radeon 产品的完整列表,请访问 https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html
  2. Radeon AI 技术兼容所有 AMD Radeon 7000 系列及更新型号的显卡。购买前请咨询您的系统制造商,了解该功能是否可用。GD-232。