Tomahawk 6 von Broadcom und die Zukunft der Verkabelung von KI-Rechenzentren

Der neue 102,4-TBit/s-Switch-Chip von Broadcom stellt einen großen Sprung in der Vernetzung von Rechenzentren dar und beseitigt Bandbreiten- und Latenzengpässe, die durch die Zunahme von KI-Workloads entstehen. Eine Hochgeschwindigkeitsinfrastruktur mit geringer Latenz ist jetzt unerlässlich.

Der weltweit erste Switch-Chip mit 102,4 Tbps

Anfang Juni sorgte Broadcom mit der Veröffentlichung seiner Switch-Chip-Serie der nächsten Generation - Tomahawk6 -für Schlagzeilen. Es handelt sich dabei umden weltweit ersten Switch-Chip, der eine Bandbreite von 102,4 Tbps (Terabit pro Sekunde)bietet und damit die Kapazität der heutigen Mainstream-Ethernet-Switches für Rechenzentren mit 51,2 Tbps verdoppelt. Der speziell für KI-Rechenzentren entwickelte Tomahawk 6 verbessert Scale-up-/Scale-out-Architekturen und umfasst 100G/200G-SerDes- (Serializer/Deserializer) und CPO-Technologien(Co-Packaged Optics), um die ständig wachsenden Anforderungen von KI-Clustern zu erfüllen, einschließlich solcher mit mehr als 100.000 XPUs.

Mit dem jüngsten Anstieg bei der Einführung großer KI-Modelle wird der Bedarf an einer hochleistungsfähigen Infrastruktur in großem Maßstab dringender denn je. Netzwerkbandbreite und niedrige Latenzzeiten sind nun zu den wichtigsten Engpässen bei der Skalierung von KI-Rechenzentren geworden.

 

Neudefinition der Verkabelung in der KI-Ära

Tomahawk 6 verringert den Bandbreitendruck im Netzwerk erheblich. Ausgestattet mit 200G SerDes liefert er 512 Kanäle mit 200Gbps und bietet außerdem eine 1024 x 100G-Version zur Unterstützung älterer 100G SerDes-Infrastrukturen. Für massive KI-Cluster-Netzwerke unterstützt die Unified-Ethernet-Architektur des Chips eine Erweiterung von 512 auf bis zu 100K XPUs.

Abbildung: TH6 ermöglicht effizientes Scale-up Networking für 512 XPUs (Quelle: Broadcom)

Als Switch-Chip, der auf 200G SerDes basiert, weist Tomahawk 6 einen klaren Weg in Richtung 1,6T-Netzwerke, ein Upgrade der heutigen 400G/800G-Implementierungen. Er markiert auch den Beginn einer neuen Ära der Verkabelung für KI-Rechenzentren.

Bandbreite verdoppelt: Aufbruch in die 1,6T-Ära

KI-Rechenzentrumsnetzwerke unterscheiden sich in zwei wesentlichen Aspekten von traditionellen Netzwerken:

1. Die Nachfrage nach extrem schnellen Netzwerken.
2. Der Bedarf an einer extrem niedrigen Latenzzeit.

Groß angelegte KI-Modelle stützen sich in hohem Maße auf GPU-Verbindungen, die häufig RDMA (Remote Direct Memory Access) verwenden , um die CPU-Nutzung zu minimieren und die Zugriffseffizienz zu steigern. Diese Verbindungen erfordern extreme Bandbreiten, und herkömmliches Ethernet reicht nicht mehr aus. Zwar haben Technologien wie InfiniBand (ein Hochgeschwindigkeits-Netzwerkstandard mit geringer Latenz, der im Supercomputing eingesetzt wird) und RoCE (RDMA over Converged Ethernet, das schnelle Datenübertragungen über Ethernet ermöglicht) die allgemeine Vernetzung verbessert, doch selbst 800G reichen nicht mehr aus. Der Übergang zu 1,6T ist unvermeidlich.

 

Die Verbesserung der Bandbreite hängt von zwei Schlüsselfaktoren ab:

• Die Geschwindigkeit der einzelnen SerDes-Kanäle
• Die Anzahl der Kanäle

Zum Beispiel können 800G-Netzwerke erreicht werden durch:

• 16 x 50G-Kanäle
• 8 x 100G-Kanäle
• 4 x 200G-Kanäle

Abbildung: Kanalanzahl und 800G-Verhältnis (Quelle: Ethernet Alliance)

Eine 16-Kanal-Lösung erfordert in der Regel zwei MPO-16- (oder MPO-24-) Anschlüsse für die Vollduplex-Kommunikation. Im Gegensatz dazu benötigt eine 4-Kanal-Lösung nur einen MPO-8/12-Anschluss, was die Infrastruktur erheblich vereinfacht. Je höher die Geschwindigkeit der einzelnen Kanäle ist, desto geringer sind die Verkabelungskosten und desto besser ist die Energieeffizienz pro Gbit/s.

Geringere Latenz, bessere Skalierung: Neuaufbau des KI-Netzwerks

Die Latenz ist ein weiteres großes Hindernis für die KI-Leistung. In großen Rechenzentren erhöht jede zusätzliche Switch-Ebene die Latenz. Bei einer Skalierung auf mehr als 10.000 GPUs wird häufig eine dreistufige Switch-Architektur verwendet, die potenziell bis zu fünf Switch-Sprünge umfasst , waszu einer Latenz führt, die weit über die des physischen Mediums (Glasfaser oder Kupfer) hinausgeht.

Tomahawk 6 ermöglicht die direkte Verbindung von bis zu 512 XPUs und kann auf über 100.000 GPUs skaliert werden, indem ein zweistufiges Clos-Netzwerk verwendet wird - eine hocheffiziente, mehrstufige Switch-Architektur, die üblicherweise in großen Rechenzentren verwendet wird und auf 200G-Links basiert. Im Vergleich zu herkömmlichen dreistufigen Designs wird die Anzahl der Switch-Hops um zwei reduziert, was die Latenz für KI-Implementierungen im großen Maßstab deutlich verringert.

Bild: Tomahawk 6 ermöglicht vereinfachte 2-Tier-Clos für Netzwerke mit mehr als 100.000 GPUs (Quelle: Broadcom)

Neue Verkabelungstrends für KI-Rechenzentren

Mit zunehmender Größe und technischer Komplexität muss sich die Verkabelung von KI-Rechenzentren schneller entwickeln als herkömmliche Rechenzentren. Eine flexible, zukunftssichere Verkabelungsinfrastruktur hilft Anwendern, sich an den raschen technologischen Wandel anzupassen, ohne die versteckte Infrastruktur wiederholt zu überholen.

Standards wie ISO/IEC 11801-5 und TIA 942 betonen, wie strukturierte Verkabelung ToR- (Top-of-Rack), Spine-Leaf- und Mesh-Topologien unterstützen kann - eine solide Grundlage für dynamische und skalierbare Architekturen.

Aginode bietet seine speziell entwickelte LANmark ENSPACE-Lösung für Rechenzentren der nächsten Generation an. Mit vier Kernvorteilen hilft sie Rechenzentren, den Übergang zu 800G- und 1,6T-Netzwerken sicher zu bewältigen.

Aginode ENSPACE

Die Grundlage für ein AI-fähiges Verkabelungs-Backbone

• Höhere Effizienz
  Unterstützt sowohl 8-Core- als auch 16-Core-Glasfaserverbindungen. Das High-Density-Design maximiert den Platzbedarf und steigert den Datendurchsatz.
• Zukunftssichere Skalierbarkeit
  Kompatibel mit optischen Modulen von 100G bis 1,6T, erfüllt es unterschiedliche Anforderungen und vereinfacht die Migration bei technischen Upgrades.
• Optimierung der Kosten
  Optimierte Architektur und vereinfachte Installation senken die Gesamtbetriebskosten (TCO).
• Vereinfachter Betrieb
  Patch-Systeme mit hoher Dichte reduzieren die Komplexität der Verkabelung und verbessern die Wartungseffizienz.

Share this