Avançando no desempenho em redes de IA
Rápido, eficiente e com tecnologia de ponta: A AI Networking Revolution chegou, trazendo produtos e soluções inovadoras. A plataforma AMD Pensando™ utiliza tecnologia avançada para oferecer serviços de nuvem, computação, rede, armazenamento e segurança em escala de nuvem.
AMD Advancing AI – Grupo de Soluções em Tecnologia de Rede – Apresentação para Analistas
Soni Jiandani, VP Sênior do Grupo de Soluções em Tecnologia de Rede da AMD, conversa com líderes da IBM Cloud, Microsoft Azure, Oracle Cloud, Tensorwave e Cisco sobre resultados inovadores e o futuro da rede para cargas de trabalho de IA.
Produtos em destaque
Rede de back-end com Adaptadores AMD Pensando™ Pollara 400
Projetada para atender às demandas únicas da rede de IA, a NIC Pollara 400 permite transferências de dados eficientes, confiáveis e em alta velocidade, permitindo que as empresas aproveitem ao máximo o potencial da computação em nuvem com IA.
Recursos
- UEC-ready RDMA
- Distribuição de pacotes adaptativa
- Controle de congestionamento baseado no caminho
- Retransmissão seletiva da perda
- Recursos avançados de monitoramento e telemetria
- Otimizado para tarefas de treinamento e inferência de IA
Benefícios
- Compatibilidade com Ethernet aberta para escolha de fornecedores
- Pronto para o futuro com suporte ao Ultra Ethernet Consortium (UEC)
- Tempos rápidos de conclusão de tarefas
- Desempenho acelerado de cargas de trabalho de IA
O UEC-ready RDMA supera RoCEv2
Tempo de conclusão de mensagens 6x mais rápido1
Resultados de desempenho estimados
Tempo de conclusão coletiva 5x mais rápido1
Resultados de desempenho estimados
Desempenho robusto para continuar a elevar o nível
A DPU AMD Pensando Salina é totalmente programável em P4 e otimizada para requisitos mínimos de latência, jitter e energia. Proporcionando uma incrível eficiência de energia e, ao mesmo tempo, uma produtividade significativa para pipelines P4, a DPU Salina também preserva a compatibilidade de software com as DPUs AMD Pensando™ anteriores, facilitando a adoção pelos clientes.
Recursos
- Observabilidade aprimorada
- Rede em nuvem
- Segurança avançada
- Aceleração de armazenamento
- Criptografia
Benefícios
- O dobro de desempenho e escala em comparação com as DPUs da geração anterior6
- Otimize o desempenho da infraestrutura front-end da nuvem e da IA
- Latência determinística, baixo jitter
- Caminho de dados em P4 totalmente programável
Explore os produtos da Cisco criados com as DPUs AMD Pensando™
Switch Hypershield Cisco N9300
As plataformas Cisco Nexus 9300 com tecnologia da DPU AMD Pensando™ e Hypershield oferecem uma arquitetura de segurança completa para o data center, aprimorando a conformidade e reduzindo os riscos para as empresas por meio da infusão nativa do Hypershield no switch incorporado às DPUs.
Switch Cisco 8102 DPU
A Cisco 8102-28FH-DPU-O é uma plataforma de switch, com DPUs AMD Pensando incorporadas, que aprimora significativamente o desempenho dos serviços de rede para cargas de trabalho de alta demanda no Microsoft Azure.
Saiba mais sobre o caso de uso dos ganhos de desempenho do Microsoft Azure com a AMD e a Cisco.
Switch inteligente HPE Aruba CX 10000 com DPUs AMD Pensando™
O Aruba CX 10000 fornece 800 G de firewall com informação de estado distribuído para tráfego leste-oeste, segmentação de confiança zero e telemetria abrangente.
Proporcionando resultados significativos para nossos clientes
5 vezes o desempenho de SDNs2
Multisserviço
Preparado para o futuro
100 vezes o ganho de CPS3
Economia de custos
Bare-metal e VSI
Economia no custo total de propriedade4
Setores regulamentados
Economia de US$ 65 milhões5 no custo total de propriedade
Switch de rede DPU Cisco SiliconOne e AMD Pensando™
Experiências de clientes com DPUs AMD Pensando™
Recursos
Notas de rodapé
- Yanfang Le, Rong Pan, Peter Newman, Jeremias Blendin, Abdul Kabbani, Vipin Jain, Raghava Sivaramu, Francis Matus. Estudo de caso: STrack: Um transporte multipath confiável para Clusters AI/ML . Resultados não específicos para a NIC para AI 400, o desempenho real pode variar.
- Vithal Shirodkar, Vice-presidente sênior, Desenvolvimento de Software, OCI Networking: "Essa solução desenvolvida em conjunto tem sido fundamental para acelerar o desempenho das cargas de trabalho mais exigentes dos clientes. As melhorias foram drásticas, com aumento de desempenho de 5 vezes para redes SDN." – Publicado em amd.com: https://www.amd.com/pt/solutions/data-center/data-center-ai-premiere/industry-support.html
- Gerald de Grace, Líder na Microsoft Azure Accelerated Connections: "Nossa colaboração com a AMD usando o dispositivo inteligente baseado na DPU AMD Pensando e o software AMD completo em produção para conexões aceleradas resultou em uma melhoria de 100 vezes no desempenho de CPS em relação à nossa solução existente e se estenderá a níveis mais amplos dentro da rede Azure no futuro."
- Satinder Sethi, Gerente geral da IBM Cloud Infrastructure Services: "Ao colaborar com a AMD e utilizar sua DPU programável e software de serviços de segurança e SDN pronto para uso, a IBM Cloud conseguiu acelerar o lançamento no mercado da nossa premiada oferta de "servidores bare-metal de alto desempenho para VPC" para cargas de trabalho VMware, Red Hat e SAP, impulsionando melhorias significativas na produtividade da rede para os clientes, e obter uma economia de 30% no custo total de propriedade com a maior densidade da carga de trabalho e núcleos de CPU preservados." – Publicado em amd.com: https://www.amd.com/pt/solutions/data-center/data-center-ai-premiere/industry-support.html
- Jayant Tulsiani, Vice-presidente da DXC, Serviços de nuvem e infraestrutura: "Anteriormente, o que exigia centenas de firewalls físicos e virtuais para atender aos nossos requisitos de segmentação e conformidade agora está sendo fornecido nativamente em linha na plataforma, que tem sido a transformação para o modelo de custo total de propriedade dos nossos negócios, resultando em uma economia projetada de custo total de propriedade de aproximadamente 65 milhões de dólares." – Publicado em amd.com: https://www.amd.com/pt/solutions/data-center/data-center-ai-premiere/industry-support.html
- PEN-012: Medições realizadas pelo AMD Performance Labs em 27 de agosto de 2024, com base na especificação atual do acelerador DPU AMD Pensando™ Salina, projetado com a tecnologia de processo de 5 nm da AMD Pensando™, com desempenho estimado de 400 Gb/s na taxa de linha. Os resultados estimados calculados para a DPU AMD Pensando™ Elba projetada com a tecnologia de processo AMD Pensando de 7 nm resultaram em um desempenho de taxa de linha de 200 Gb/s. Os resultados reais baseados na produção de silício podem variar.
Notas de rodapé
- Yanfang Le, Rong Pan, Peter Newman, Jeremias Blendin, Abdul Kabbani, Vipin Jain, Raghava Sivaramu, Francis Matus. Estudo de caso: STrack: Um transporte multipath confiável para Clusters AI/ML . Resultados não específicos para a NIC para AI 400, o desempenho real pode variar.
- Vithal Shirodkar, Vice-presidente sênior, Desenvolvimento de Software, OCI Networking: "Essa solução desenvolvida em conjunto tem sido fundamental para acelerar o desempenho das cargas de trabalho mais exigentes dos clientes. As melhorias foram drásticas, com aumento de desempenho de 5 vezes para redes SDN." – Publicado em amd.com: https://www.amd.com/pt/solutions/data-center/data-center-ai-premiere/industry-support.html
- Gerald de Grace, Líder na Microsoft Azure Accelerated Connections: "Nossa colaboração com a AMD usando o dispositivo inteligente baseado na DPU AMD Pensando e o software AMD completo em produção para conexões aceleradas resultou em uma melhoria de 100 vezes no desempenho de CPS em relação à nossa solução existente e se estenderá a níveis mais amplos dentro da rede Azure no futuro."
- Satinder Sethi, Gerente geral da IBM Cloud Infrastructure Services: "Ao colaborar com a AMD e utilizar sua DPU programável e software de serviços de segurança e SDN pronto para uso, a IBM Cloud conseguiu acelerar o lançamento no mercado da nossa premiada oferta de "servidores bare-metal de alto desempenho para VPC" para cargas de trabalho VMware, Red Hat e SAP, impulsionando melhorias significativas na produtividade da rede para os clientes, e obter uma economia de 30% no custo total de propriedade com a maior densidade da carga de trabalho e núcleos de CPU preservados." – Publicado em amd.com: https://www.amd.com/pt/solutions/data-center/data-center-ai-premiere/industry-support.html
- Jayant Tulsiani, Vice-presidente da DXC, Serviços de nuvem e infraestrutura: "Anteriormente, o que exigia centenas de firewalls físicos e virtuais para atender aos nossos requisitos de segmentação e conformidade agora está sendo fornecido nativamente em linha na plataforma, que tem sido a transformação para o modelo de custo total de propriedade dos nossos negócios, resultando em uma economia projetada de custo total de propriedade de aproximadamente 65 milhões de dólares." – Publicado em amd.com: https://www.amd.com/pt/solutions/data-center/data-center-ai-premiere/industry-support.html
- PEN-012: Medições realizadas pelo AMD Performance Labs em 27 de agosto de 2024, com base na especificação atual do acelerador DPU AMD Pensando™ Salina, projetado com a tecnologia de processo de 5 nm da AMD Pensando™, com desempenho estimado de 400 Gb/s na taxa de linha. Os resultados estimados calculados para a DPU AMD Pensando™ Elba projetada com a tecnologia de processo AMD Pensando de 7 nm resultaram em um desempenho de taxa de linha de 200 Gb/s. Os resultados reais baseados na produção de silício podem variar.