Performance in KI-Netzwerken voranbringen
Schnell, effizient und hochmodern: Die KI-Networking-Revolution ist da – mit bahnbrechenden Produkten und Lösungen. Die AMD Pensando™ Plattform nutzt fortschrittliche Technologie, um Cloud-, Computing-, Netzwerk-, Speicher- und Sicherheitsservices auf Cloud-Ebene bereitzustellen.
AMD bringt KI voran – Networking Technology Solutions Group – Analysten-Briefing
Soni Jiandani, SVP der Networking Technology Solutions Group von AMD, spricht mit Führungskräften von IBM Cloud, Microsoft Azure, Oracle Cloud, Tensorwave und Cisco über bahnbrechende Ergebnisse und die Zukunft des Networking für KI-Auslastungen.
Vorgestellte Produkte
Backend-Networking mit AMD Pensando™ Pollara 400 Adaptern
Die Pollara 400 NIC ist für die einzigartigen Anforderungen des KI-Networking konzipiert und ermöglicht effiziente und zuverlässige Datenübertragungen mit Hochgeschwindigkeit, damit Unternehmen das Potenzial des KI-Cloud-Computing voll ausschöpfen können.
Funktionen
- UEC-bereite RDMA
- Adaptives Packet Spray
- Vermeidung einer pfadabhängigen Überlastung
- Selektive erneute Übertragung bei Verlust
- Erweiterte Überwachungs- und Telemetriefunktionen
- Optimiert für KI-Training und Inferenzaufgaben
Vorteile
- Offene Ethernet-Kompatibilität für die Wahl des Anbieters
- Zukunftsbereit mit UEC-Unterstützung (Ultra Ethernet Consortium)
- Schnelle Job-Abwicklungszeiten
- Beschleunigte KI-Auslastungs-Performance
UEC-bereite RDMA übertrifft RoCEv2
6-mal schnellere Abwicklungszeit für Nachrichten1
Geschätzte Performance-Ergebnisse
5-mal schnellere kollektive Abwicklungszeit1
Geschätzte Performance-Ergebnisse
Mit stabiler Performance die Messlatte immer höher legen
Die AMD Pensando Salina DPU ist vollständig P4-programmierbar und optimiert für Latenz, Jitter und Energiebedarf auf Minimalniveau. Die Salina DPU liefert unglaubliche Energieeffizienz bei gleichzeitiger Erhöhung des Durchsatzes für P4-Pipelines und ermöglicht zugleich Softwarekompatibilität mit vorherigen AMD Pensando™ DPUs, was den Kunden die Übernahme erleichtert.
Funktionen
- Erweiterte Überwachbarkeit
- Cloud-Networking
- Advanced Security
- Speicherbeschleunigung
- Verschlüsselung
Vorteile
- Doppelte Performance und Skalierung im Vergleich zu DPUs der vorherigen Generation6
- Optimierte Cloud- und KI-Frontend-Infrastruktur-Performance
- Deterministische Latenz, geringer Jitter
- Vollständig programmierbarer P4-Datenpfad
Produkte von Cisco entdecken, die mit AMD Pensando™ DPUs entwickelt wurden
Cisco N9300 Hypershield Switching
Die Cisco Nexus 9300 Plattformen mit AMD Pensando™ DPU Technologie und Hypershield bieten eine umfassende Sicherheitsarchitektur für Rechenzentren. Durch die native Integration von Hypershield in den Switch mit eingebetteten DPUs wird die Compliance verbessert und das Risiko für Unternehmen verringert.
Cisco 8102 DPU-Switch
Cisco 8102-28FH-DPU-O ist eine Switching-Plattform mit eingebetteten AMD Pensando DPUs, die die Performance von Netzwerkservices für anspruchsvolle Workloads in Microsoft Azure erheblich verbessert.
Erfahren Sie mehr über Anwendungsfälle und Performance-Steigerungen für Microsoft Azure mit AMD und Cisco.
HPE Aruba CX 10000 Smart Switch mit AMD Pensando™ DPUs
Der Aruba CX 10000 bietet eine verteilte Stateful-Firewall mit 800G für Ost-West-Verkehr, Zero-Trust-Segmentierung und durchgängige Telemetrie.
Aussagekräftige Ergebnisse für unsere Kunden bereitstellen
5-fache SDN-Performance2
Multi-Service
Zukunftsbereit
100-fache Verbesserung der CPS-Performance3
Kosteneinsparungen
Bare-Metal und VSI
Einsparungen bei Gesamtbetriebskosten4
Regulierte Branchen
Einsparungen bei Gesamtbetriebskosten in Höhe von 65 Mio. $5
Cisco SiliconOne und AMD Pensando™ DPU Netzwerk-Switch
Kundenerfahrungen mit AMD Pensando™ DPUs
Ressourcen
Fußnoten
- Yanfang Le, Rong Pan, Peter Newman, Jeremias Blendin, Abdul Kabbani, Vipin Jain, Raghava Sivaramu, Francis Matus. Fallstudie: STrack: Ein zuverlässiger Multipath-Transport für KI-/ML-Cluster. Ergebnisse nicht spezifisch für AI NIC 400, die tatsächliche Performance kann abweichen.
- Vithal Shirodkar, SVP, Software Development, OCI Networking: „Diese gemeinsam entwickelte Lösung war entscheidend für die Beschleunigung der Performance für die anspruchsvollsten Auslastungen der Kunden. Die Verbesserungen waren äußerst umfangreich und beinhalteten eine 5-fache Steigerung der Performance für SDN-Networking.“ – veröffentlicht auf AMD.com: https://www.amd.com/en/solutions/data-center/data-center-ai-premiere/industry-support.html
- Gerald De Grace, Lead, Microsoft Azure Accelerated Connections: „Unsere Zusammenarbeit mit AMD mithilfe der auf der AMD Pensando DPU basierenden Appliance und der vollständigen AMD Software in Produktion für ‚Accelerated Connections‘ hat zu einer 100-fachen Verbesserung der CPS-Performance gegenüber unserer bestehenden Lösung geführt und wird sich in Zukunft auf weitere Ebenen innerhalb des Azure Netzwerks ausweiten.“
- Satinder Sethi, GM, IBM Cloud Infrastructure Services: „Aufgrund der Zusammenarbeit mit AMD und der Nutzung seiner programmierbaren DPU, schlüsselfertiger SDN- und Sicherheitsservices-Software konnte IBM Cloud die Vermarktung unseres preisgekrönten sicheren High-Performance-Angebots „Bare-Metal Servers for VPC“ für VMware-, Red Hat- und SAP-Auslastungen beschleunigen und so erhebliche Verbesserungen des Netzwerkdurchsatzes für die Kunden und Einsparungen von 30 % bei den Gesamtbetriebskosten durch höhere Auslastungsdichte und eingesparte CPU-Kerne erzielen.“ – veröffentlicht auf AMD.com: https://www.amd.com/en/solutions/data-center/data-center-ai-premiere/industry-support.html
- Jayant Tulsiani, DXC VP Cloud and Infrastructure Services: „Was früher Hunderte von virtuellen und physischen Firewalls erforderte, um unsere Segmentierungs- und Konformitätsanforderungen zu erfüllen, wird jetzt nativ inline auf der Plattform bereitgestellt, was eine Transformation für unser Unternehmensmodell für die Gesamtbetriebskosten darstellt und zu prognostizierten Einsparungen bei den Gesamtbetriebskosten von ~65 Mio. $ führt.“ – veröffentlicht auf AMD.com: https://www.amd.com/en/solutions/data-center/data-center-ai-premiere/industry-support.html
- PEN-012: Messungen durchgeführt im AMD Leistungslabor am 27. August 2024 anhand der aktuellen Spezifikation für den AMD Pensando™ Salina DPU-Beschleuniger, konzipiert mit AMD Pensando™ 5-nm-Prozesstechnologie, die zu einer geschätzten linearen Performance von 400 Gb/s führen soll. Geschätzte gelieferte Ergebnisse berechnet für AMD Pensando™ Elba DPU mit AMD Pensando 7-nm-Prozesstechnologie ergaben eine lineare Performance von 200 Gb/s. Die tatsächlichen Ergebnisse auf Basis von Chips aus der Produktion können abweichen.
Fußnoten
- Yanfang Le, Rong Pan, Peter Newman, Jeremias Blendin, Abdul Kabbani, Vipin Jain, Raghava Sivaramu, Francis Matus. Fallstudie: STrack: Ein zuverlässiger Multipath-Transport für KI-/ML-Cluster. Ergebnisse nicht spezifisch für AI NIC 400, die tatsächliche Performance kann abweichen.
- Vithal Shirodkar, SVP, Software Development, OCI Networking: „Diese gemeinsam entwickelte Lösung war entscheidend für die Beschleunigung der Performance für die anspruchsvollsten Auslastungen der Kunden. Die Verbesserungen waren äußerst umfangreich und beinhalteten eine 5-fache Steigerung der Performance für SDN-Networking.“ – veröffentlicht auf AMD.com: https://www.amd.com/en/solutions/data-center/data-center-ai-premiere/industry-support.html
- Gerald De Grace, Lead, Microsoft Azure Accelerated Connections: „Unsere Zusammenarbeit mit AMD mithilfe der auf der AMD Pensando DPU basierenden Appliance und der vollständigen AMD Software in Produktion für ‚Accelerated Connections‘ hat zu einer 100-fachen Verbesserung der CPS-Performance gegenüber unserer bestehenden Lösung geführt und wird sich in Zukunft auf weitere Ebenen innerhalb des Azure Netzwerks ausweiten.“
- Satinder Sethi, GM, IBM Cloud Infrastructure Services: „Aufgrund der Zusammenarbeit mit AMD und der Nutzung seiner programmierbaren DPU, schlüsselfertiger SDN- und Sicherheitsservices-Software konnte IBM Cloud die Vermarktung unseres preisgekrönten sicheren High-Performance-Angebots „Bare-Metal Servers for VPC“ für VMware-, Red Hat- und SAP-Auslastungen beschleunigen und so erhebliche Verbesserungen des Netzwerkdurchsatzes für die Kunden und Einsparungen von 30 % bei den Gesamtbetriebskosten durch höhere Auslastungsdichte und eingesparte CPU-Kerne erzielen.“ – veröffentlicht auf AMD.com: https://www.amd.com/en/solutions/data-center/data-center-ai-premiere/industry-support.html
- Jayant Tulsiani, DXC VP Cloud and Infrastructure Services: „Was früher Hunderte von virtuellen und physischen Firewalls erforderte, um unsere Segmentierungs- und Konformitätsanforderungen zu erfüllen, wird jetzt nativ inline auf der Plattform bereitgestellt, was eine Transformation für unser Unternehmensmodell für die Gesamtbetriebskosten darstellt und zu prognostizierten Einsparungen bei den Gesamtbetriebskosten von ~65 Mio. $ führt.“ – veröffentlicht auf AMD.com: https://www.amd.com/en/solutions/data-center/data-center-ai-premiere/industry-support.html
- PEN-012: Messungen durchgeführt im AMD Leistungslabor am 27. August 2024 anhand der aktuellen Spezifikation für den AMD Pensando™ Salina DPU-Beschleuniger, konzipiert mit AMD Pensando™ 5-nm-Prozesstechnologie, die zu einer geschätzten linearen Performance von 400 Gb/s führen soll. Geschätzte gelieferte Ergebnisse berechnet für AMD Pensando™ Elba DPU mit AMD Pensando 7-nm-Prozesstechnologie ergaben eine lineare Performance von 200 Gb/s. Die tatsächlichen Ergebnisse auf Basis von Chips aus der Produktion können abweichen.