Aceleradores AMD Instinct™ MI325X

Los aceleradores de GPU AMD Instinct™ MI325X establecen nuevos estándares en el rendimiento de la IA, que ofrece un rendimiento y eficiencia increíbles para el entrenamiento y la inferencia.

Software AMD ROCm™

Optimiza las aplicaciones aceleradas de GPU con el software AMD ROCm. Basado en un enfoque de una sola codificación y uso en todas partes.

Centro de desarrolladores de ROCm Acerca de ROCm

Arquitectura de AMD CDNA

Obtén más información acerca de la arquitectura que sustenta los aceleradores AMD Instinct.

Descubre CDNA

Documentación de aceleradores AMD Instinct

Encuentra documentación sobre los aceleradores AMD Instinct en el centro de documentación.

Hoja de datos de MI300X Consultar documentos

Notas al pie

MI325-002: los cálculos realizados por los laboratorios de rendimiento de AMD al 28 de mayo del 2024 para la GPU AMD Instinct™ MI325X alcanzaron 1307,4 TFLOPS de máximo teórico de precisión media (FP16), 1307,4 TFLOPS de máximo teórico de precisión de formato Bfloat16 (BF16), 2614,9 TFLOPS de máximo teórico de precisión de 8 bits (FP8) y 2614,9 TOPS de rendimiento de punto flotante INT8. El rendimiento real variará según las especificaciones finales y la configuración del sistema.
Resultados publicados sobre la GPU Nvidia H200 SXM (141 GB): 989,4 TFLOPS de máximo teórico de precisión media de tensor (tensor FP16), 989,4 TFLOPS de máximo teórico de precisión de formato de tensor Bfloat16 (tensor BF16), 1978,9 TFLOPS de máximo teórico de precisión de 8 bits (FP8), 1978,9 TOPS de máximo teórico de rendimiento de punto flotante INT8. Nvidia publicó el rendimiento de BFLOAT16 Tensor Core, FP16 Tensor Core, FP8 Tensor Core e INT8 Tensor Core usando escasez; a los efectos de comparación, AMD convirtió estos números a no escasez/densidad dividiéndolos por dos, y estos números aparecen arriba.
Fuente Nvidia H200: https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446 y https://www.anandtech.com/show/21136/nvidia-at-sc23-h200-accelerator-with-hbm3e-and-jupiter-supercomputer-for-2024
Nota: Las GPU NVIDIA H200 tienen el mismo rendimiento de FLOPS publicado que los productos H100 https://resources.nvidia.com/en-us-tensor-core/. MI325-02
MI325-008: los cálculos realizados por los laboratorios de rendimiento de AMD al 2 de octubre del 2024 para la GPU AMD Instinct™ MI325X (1000 W) diseñada con tecnología de proceso FinFET de 5 nm | 6 nm de AMD CDNA™ 3 a una frecuencia de reloj de motor con impulso máximo de 2100 MHz alcanzaron 163,4 TFLOPS de máximo teórico de precisión doble (matriz FP64), 81,7 TFLOPS de máximo teórico de precisión doble (FP64), 163,4 TFLOPS de máximo teórico de matriz de precisión simple (matriz FP32), 163,4 TFLOPS de máximo teórico de precisión simple (FP32), 653,7 TFLOPS de máximo teórico TensorFloat-32 (TF32), 1307,4 TFLOPS de máximo teórico de media precisión (FP16). El rendimiento real puede variar según las especificaciones finales y la configuración del sistema.
Resultados publicados sobre la GPU Nvidia H200 SXM (141 GB): 66,9 TFLOPS de máximo teórico de precisión doble de tensor (tensor FP64), 33,5 TFLOPS de máximo teórico de precisión doble (FP64), 66,9 TFLOPS de máximo teórico de precisión simple (FP32), 494,7 TFLOPS de máximo teórico de TensorFloat-32 (TF32), 989,5 TFLOPS de máximo teórico de precisión media de tensor (tensor FP16). Nvidia publicó el rendimiento de TF32 Tensor Core usando escasez; a los efectos de comparación, AMD convirtió estos números a no escasez/densidad dividiéndolos por 2, y este número aparece arriba.
Fuente Nvidia H200: https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446 y https://www.anandtech.com/show/21136/nvidia-at-sc23-h200-accelerator-with-hbm3e-and-jupiter-supercomputer-for-2024
Nota: Las GPU NVIDIA H200 tienen el mismo rendimiento de FLOPS publicado que los productos H100 https://resources.nvidia.com/en-us-tensor-core/.
* Las GPU Nvidia H200 no admiten Tensor FP32.
MI325-001A: los cálculos realizados por los laboratorios de rendimiento de AMD al 26 de septiembre del 2024, con base en las especificaciones o estimaciones actuales. El acelerador AMD Instinct™ MI325X OAM tendrá una capacidad de memoria HBM3E de 256 GB y un rendimiento teórico máximo del ancho de banda de memoria de GPU de 6 TB/s. Los resultados reales basados en silicio para producción pueden variar.
Los resultados más altos publicados sobre el acelerador GPU NVidia Hopper H200 (141 GB) SXM arrojaron como resultado 141 GB de capacidad de memoria HBM3E y un rendimiento de ancho de banda de memoria de GPU de 4,8 TB/s. https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446
Los resultados más altos publicados sobre el acelerador GPU NVidia Blackwell HGX B100 (192 GB) 700 W arrojaron como resultado 192 GB de capacidad de memoria HBM3E y un rendimiento de ancho de banda de memoria de GPU de 8 TB/s.
Los resultados publicados más altos sobre el acelerador de GPU NVidia Blackwell HGX B200 (192 GB) arrojaron como resultado una capacidad de memoria HBM3E de 192 GB y un rendimiento de ancho de banda de memoria de GPU de 8 TB/s.
Especificaciones de Nvidia Blackwell en https://resources.nvidia.com/en-us-blackwell-architecture?_gl=1*1r4pme7*_gcl_aw*R0NMLjE3MTM5NjQ3NTAuQ2p3S0NBancyNkt4QmhCREVpd0F1NktYdDlweXY1dlUtaHNKNmhPdHM4UVdPSlM3dFdQaE40WkI4THZBaWFVajFy

Centro de datos

Sistemas Comerciales

Dispositivos personales y para gaming

Productos Integrados

Recursos

Aceleradores de GPU

Aceleradores Adaptables

Aceleradores de DPU

Adaptadores de ethernet

Workstations

Equipos de Escritorio

Computadoras Portátiles

Recursos

FPGA y SoC Adaptables

Sistemas en Módulos (SOM)

Tecnologías

Recursos para el Desarrollador

Placas y Kits de Prueba

Herramientas para Procesadores

Herramientas y Aplicaciones para Tarjetas Gráficas

Herramientas de FPGA y SoC Adaptables

Propiedad Intelectual y Aplicaciones

Herramientas y Apps para Aceleradores de GPU

Resumen

Para centros de datos y la nube

Para el borde y los puntos de conexión

Para desarrolladores

Industrias

Industrias

Industrias

Industrias

Industrias

Cargas de Trabajo

Juegos

Sistemas

Tecnologías

Recursos

Procesadores EPYC

Tarjetas gráficas Radeon y chipsets AMD

FPGA y SoC Adaptables

Aceleradores Alveo y SOM Kria

Procesadores Ryzen

Adaptadores de Ethernet

Resumen

Procesadores

Aceleradores

SOM, FPGA y SoC adaptables

Tarjetas Gráficas

Página de inicio del Centro para socios

Recursos por segmento de mercado

Recursos por producto

Recursos por tipo

Acerca de nuestros socios

Soporte global de AMD

Procesadores y Tarjetas Gráficas

Aceleradores

FPGA y SoC Adaptables

Experiencia de juego y computación personal

Informática embebida y adaptable

Get AMD Fan Gear

Buy Direct From AMD

Buy Direct From AMD

Buy Direct From AMD

Buy Direct From AMD

Buy Direct From AMD

Aceleradores AMD Instinct™ MI325X

Comparaciones de especificaciones

Rendimiento AI (TFLOPS máximos)

Rendimiento HPC (TFLOPS máximos)

Capacidad de memoria y ancho de banda

Recursos y soporte

Software AMD ROCm™

Arquitectura de AMD CDNA

Documentación de aceleradores AMD Instinct

Empresa

Noticias y Eventos

Comunidad

Socios de Negocios

Inversionistas