Las tecnologías de IA tienen un gran impacto en los sectores
La IA está transformando profundamente las cargas de trabajo y los sectores, ya que impulsa la eficiencia, la innovación y la competitividad. Desde la automatización de procesos en la fabricación y el sector automotor hasta la lucha contra el fraude financiero y la aceleración de la investigación médica, las empresas pueden aprovechar el poder de las tecnologías de IA para descubrir nuevas oportunidades, optimizar las operaciones y ofrecer valor a los clientes de formas que antes eran inimaginables.
AMD potencia la gama completa de cargas de trabajo del centro de datos
Adoptar la IA en tu empresa puede ser abrumador. Comprender cómo la cartera de AMD admite toda la gama de cargas de trabajo de IA puede aclarar los requisitos de tu aplicación. Comprender cómo se implementan y mantienen las cargas de trabajo de IA en los centros de datos empresariales ayuda a aclarar las necesidades de infraestructura.
Propósito general
Inferencia de IA
Entrenamiento de IA
Avances en las soluciones ideales de IA
Libera espacio y energía para acomodar la IA en tu centro de datos
Muchos centros de datos ya funcionan al límite o casi al límite de su capacidad en cuanto a espacio o energía disponible, o ambos1. Los servidores basados en procesadores AMD EPYC ofrecen un rendimiento y una eficiencia líderes para permitir la consolidación de cargas de trabajo materiales, lo que permite disponer de más espacio y energía para admitir nuevas cargas de trabajo de IA en tus centros de datos existentes.
Reemplaza 100 servidores antiguos basados en CPU 2P Intel® Xeon® Platinum 8280 por 14 servidores nuevos basados en CPU AMD EPYC™ 99652
* para entregar un total de ≈39 000 unidades de rendimiento de enteros
Hasta un 86 % menos servidores
Hasta un 69 % menos energía
Hasta un 65 % menos en el TCO a 3 años
Ayuda a reducir el costo y el TCO con los servidores basados en CPU AMD EPYC™ 9965 frente a servidores basados en CPU Intel® Xeon® Platinum 8592+2
* para entregar un total de ≈39 000 unidades de rendimiento de enteros
Hasta un 60 % menos servidores
Hasta un 40 % menos energía
Hasta un 41 % menos en el TCO a 3 años
Rendimiento de inferencia líder
Los servidores basados en procesadores AMD EPYC son la plataforma de IA basada en CPU ideal para ejecutar inferencia en una variedad de modelos y casos de uso. Las CPU AMD EPYC ofrecen la flexibilidad necesaria para admitir requisitos que van desde la inferencia en tiempo real hasta la inferencia por lotes o fuera de línea.
Los procesadores AMD EPYC™ 9965 de 192 núcleos ofrecen un rendimiento de inferencia 3 veces superior al de los procesadores Intel Xeon 8592+ de 64 núcleos de la parte superior de la pila (promedio de ejecuciones/hora de servidores de 2P que ejecutan el popular modelo de refuerzo de gradiente XGBoost [conjunto de datos de Higgs] con precisión FP32)3.
La CPU host adecuada para las GPU
Para ejecutar cargas de trabajo de la IA más grandes y exigentes, las GPU son la elección correcta. Proporcionar el máximo rendimiento a las GPU es tarea de la CPU host. Para aprovechar al máximo estas valiosas GPU, es importante elegir la plataforma host correcta. Los servidores basados en procesadores AMD EPYC presentan el rendimiento, la escalabilidad, la compatibilidad y la eficiencia energética para admitir el alojamiento de motores de IA de GPU avanzados. Aprende qué características de la CPU son importantes para alojar las GPU.
Elige entre cientos de sistemas certificados acelerados con GPU con tecnología de CPU AMD EPYC para acelerar las cargas de trabajo de IA. Mira las soluciones aceleradas de GPU AMD Instinct™.
Consulta por otras soluciones con aceleración de GPU certificadas o validadas disponibles de los principales proveedores de soluciones de plataforma, incluidos Asus, Dell, Gigabyte, HPE, Lenovo y Supermicro.
Testimonios de clientes
Recursos
Adopción de un enfoque pragmático para la infraestructura lista para la IA
Investiga las estrategias de infraestructura de IA, centrándote en dimensionar correctamente las soluciones en la modernización del centro de datos y optimizando el uso de CPU-GPU para tareas que varían en tamaño y complejidad.
Suscríbete a la información del centro de datos de AMD
Solicita el contacto de un experto en ventas de AMD EPYC
Notas al pie
- Análisis basado en datos internos de AMD
- 9xx5TCO-001B: Este caso contiene muchas suposiciones y estimaciones y, si bien se basa en la investigación interna de AMD y en las mejores aproximaciones, debe considerarse solo como un ejemplo a título informativo y no usarse como base para la toma de decisiones por sobre las pruebas reales. La herramienta AMD Server & Greenhouse Gas Emissions TCO (costo total de propiedad) Estimator Tool, versión 1.12, compara las soluciones de servidor basadas en CPU AMD EPYC™ e Intel® Xeon® seleccionadas que son necesarias para ofrecer un TOTAL_PERFORMANCE de 39 100 unidades de rendimiento SPECrate2017_int_base al 10 de octubre del 2024. Esta estimación compara un servidor heredado basado en 2P Intel Xeon Platinum 8280 de 28 núcleos con un puntaje de 391 frente a un servidor con tecnología 2P EPYC 9965 (de 192 núcleos) con un puntaje de 3000 (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf) junto con una actualización comparativa a un servidor basado en 2P Intel Xeon Platinum 8592+ (de 64 núcleos) con un puntaje de 1130 (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf). El puntaje real de SPECrate® 2017_int_base para 2P EPYC 9965 variará según las publicaciones del OEM (Original Equipment Manufacturer, fabricante de equipo original). Estimaciones de impacto ambiental realizadas aprovechando estos datos, mediante los factores de electricidad correspondientes al país o la región que se especifican en 2024 International Country Specific Electricity Factors 10 – July 2024 , y en la Calculadora de equivalencias de gases de efecto invernadero (Greenhouse Gas Equivalencies Calculator) de la Agencia de Protección Medioambiental de los Estados Unidos.
- 9xx5-040A: resultados de rendimiento de XGBoost (ejecuciones/hora) basados en pruebas internas de AMD realizadas al 5/9/2024. Configuraciones de XGBoost: v2.2.1, conjunto de datos de Higgs, instancias de 32 núcleos, FP32 2P AMD EPYC 9965 (384 núcleos totales), 12 instancias de 32 núcleos, 24 DDR5-6400 de 64 GB (a 6000 MT/s) de 1,5 TB, 1,0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (tuned-adm profile throughput-performance, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=off, Determinism=Power, Turbo Boost=Enabled), NPS=1 2P AMD EPYC 9755 (256 núcleos totales), 24 DDR5-6400 de 64 GB (a 6000 MT/s) de 1,5 TB, 1DPC, 1,0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT=off, Determinism=Power, Turbo Boost=Enabled), NPS=1 2P AMD EPYC 9654 (192 núcleos totales), 24 DDR5-4800 de 64 GB de 1,5 TB, 1DPC, dos Samsung MZQL21T9HCJR-00A07 NVMe® de 1,92 TB, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT=off, Determinism=Power), NPS=1 en comparación con 2P Xeon Platinum 8592+ (128 núcleos totales), AMX activado, 16 DDR5-5600 de 64 GB de 1 TB, 1DPC, 1,0 Gbps NetXtreme BCM5719 Gigabit Ethernet PCIe, KIOXIA KCMYXRUG3T84 NVMe® de 3,84 TB, Ubuntu 22.04.4 LTS, 6.5.0-35-generic (tuned-adm profile throughput-performance, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=off, Determinism=Power, Turbo Boost = Enabled) Resultados: CPU Ejecución 1 Ejecución 2 Ejecución 3 Rendimiento relativo medio generacional 2P Turin 192C, NPS1 1565,217 1537,367 1553,957 1553,957 3 2,41 2P Turin 128C, NPS1 1103,448 1138,34 1111,969 1111,969 2,147 1,725 2P Genoa 96C, NPS1 662,577 644,776 640,95 644,776 1,245 1 2P EMR 64C 517,986 421,053 553,846 517,986 1 NA Los resultados pueden variar debido a factores como las configuraciones del sistema, las versiones de software y la configuración del BIOS.
Notas al pie
- Análisis basado en datos internos de AMD
- 9xx5TCO-001B: Este caso contiene muchas suposiciones y estimaciones y, si bien se basa en la investigación interna de AMD y en las mejores aproximaciones, debe considerarse solo como un ejemplo a título informativo y no usarse como base para la toma de decisiones por sobre las pruebas reales. La herramienta AMD Server & Greenhouse Gas Emissions TCO (costo total de propiedad) Estimator Tool, versión 1.12, compara las soluciones de servidor basadas en CPU AMD EPYC™ e Intel® Xeon® seleccionadas que son necesarias para ofrecer un TOTAL_PERFORMANCE de 39 100 unidades de rendimiento SPECrate2017_int_base al 10 de octubre del 2024. Esta estimación compara un servidor heredado basado en 2P Intel Xeon Platinum 8280 de 28 núcleos con un puntaje de 391 frente a un servidor con tecnología 2P EPYC 9965 (de 192 núcleos) con un puntaje de 3000 (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf) junto con una actualización comparativa a un servidor basado en 2P Intel Xeon Platinum 8592+ (de 64 núcleos) con un puntaje de 1130 (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf). El puntaje real de SPECrate® 2017_int_base para 2P EPYC 9965 variará según las publicaciones del OEM (Original Equipment Manufacturer, fabricante de equipo original). Estimaciones de impacto ambiental realizadas aprovechando estos datos, mediante los factores de electricidad correspondientes al país o la región que se especifican en 2024 International Country Specific Electricity Factors 10 – July 2024 , y en la Calculadora de equivalencias de gases de efecto invernadero (Greenhouse Gas Equivalencies Calculator) de la Agencia de Protección Medioambiental de los Estados Unidos.
- 9xx5-040A: resultados de rendimiento de XGBoost (ejecuciones/hora) basados en pruebas internas de AMD realizadas al 5/9/2024. Configuraciones de XGBoost: v2.2.1, conjunto de datos de Higgs, instancias de 32 núcleos, FP32 2P AMD EPYC 9965 (384 núcleos totales), 12 instancias de 32 núcleos, 24 DDR5-6400 de 64 GB (a 6000 MT/s) de 1,5 TB, 1,0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (tuned-adm profile throughput-performance, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=off, Determinism=Power, Turbo Boost=Enabled), NPS=1 2P AMD EPYC 9755 (256 núcleos totales), 24 DDR5-6400 de 64 GB (a 6000 MT/s) de 1,5 TB, 1DPC, 1,0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT=off, Determinism=Power, Turbo Boost=Enabled), NPS=1 2P AMD EPYC 9654 (192 núcleos totales), 24 DDR5-4800 de 64 GB de 1,5 TB, 1DPC, dos Samsung MZQL21T9HCJR-00A07 NVMe® de 1,92 TB, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT=off, Determinism=Power), NPS=1 en comparación con 2P Xeon Platinum 8592+ (128 núcleos totales), AMX activado, 16 DDR5-5600 de 64 GB de 1 TB, 1DPC, 1,0 Gbps NetXtreme BCM5719 Gigabit Ethernet PCIe, KIOXIA KCMYXRUG3T84 NVMe® de 3,84 TB, Ubuntu 22.04.4 LTS, 6.5.0-35-generic (tuned-adm profile throughput-performance, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=off, Determinism=Power, Turbo Boost = Enabled) Resultados: CPU Ejecución 1 Ejecución 2 Ejecución 3 Rendimiento relativo medio generacional 2P Turin 192C, NPS1 1565,217 1537,367 1553,957 1553,957 3 2,41 2P Turin 128C, NPS1 1103,448 1138,34 1111,969 1111,969 2,147 1,725 2P Genoa 96C, NPS1 662,577 644,776 640,95 644,776 1,245 1 2P EMR 64C 517,986 421,053 553,846 517,986 1 NA Los resultados pueden variar debido a factores como las configuraciones del sistema, las versiones de software y la configuración del BIOS.