CENTRE DE DONNÉES
4 erreurs d’infrastructure qui ralentissent le déploiement de l’IA - et comment les éviter
La plupart des analyses menées après des déploiements d’IA décevants se concentrent sur le choix des modèles, la qualité des données ou la sélection des outils. L’infrastructure, elle, reste rarement au centre des discussions. Elle devrait pourtant l’être.
La couche physique du réseau - câblage, connectivité, conception des voies, architecture des fibres - est désormais un facteur déterminant de la performance des grappes de GPU. La densité des connexions par fibre, la qualité des connexions physiques : ce ne sont pas des conditions de base. Ce sont des variables de performance. Et les décisions prises au début de la conception d'un centre de données, souvent avant que les exigences en matière de charge de travail d'IA ne soient pleinement évaluées, peuvent limiter les performances d'une manière qui est coûteuse et perturbante à annuler.
Voici quatre erreurs d'infrastructure qui apparaissent régulièrement dans les déploiements d'IA - et ce qu'il faut faire pour les éviter.
Concevoir pour la bande passante sans tenir compte des pertes
La conception traditionnelle des réseaux informatiques est axée sur le débit : combien de données la structure peut-elle déplacer par seconde ? Pour les charges de travail de formation et d'inférence de l'IA, ce cadrage ne tient pas compte des variables critiques.
La communication entre GPU dans la formation distribuée à l'IA repose sur des opérations collectives - AllReduce, AllGather, Broadcast - qui nécessitent une synchronisation étroite entre des dizaines ou des centaines d'accélérateurs simultanément. Le transport sous-jacent, généralement RDMA over Converged Ethernet (RoCEv2) ou InfiniBand, est extrêmement sensible à la perte de paquets et aux variations de latence. Même une perte de paquets inférieure à 0,1 % peut déclencher des événements de retransmission qui bloquent la synchronisation des GPU, entraînant l'accumulation de temps morts dans l'ensemble de la grappe. Dans un cluster de formation de 512 GPU, un seul lien encombré peut dégrader l'utilisation totale du cluster par un facteur qui rend la période de formation économiquement non viable.
Concevoir pour l'IA signifie spécifier une structure sans perte et à faible latence dès le départ : des connexions optiques de qualité qui éliminent les variations de perte d'insertion, une infrastructure de fibre qui élimine les causes physiques de dégradation du signal. La capacité de la bande passante est nécessaire mais pas suffisante.
S'enfermer dans un câblage de génération unique
Les cycles de rafraîchissement de l'infrastructure d'IA sont de plus en plus courts. Les déploiements construits pour 100G il y a deux ans dans le cadre d'un déploiement DC traditionnel subissent déjà la pression des interconnexions GPU de 400G. Les déploiements spécifiés pour 400G aujourd'hui ont besoin d'un chemin crédible vers 800G - et 1,6T est déjà sur la feuille de route.
L'erreur consiste à optimiser la couche physique pour le niveau de vitesse actuel sans laisser de place à l'évolution. Cela se traduit généralement par des choix de câblage qui ne peuvent pas prendre en charge des formats de modulation plus élevés, des configurations de connecteurs qui ne peuvent pas accepter les facteurs de forme des émetteurs-récepteurs de la prochaine génération, ou des taux de remplissage des voies qui ne laissent pas de place pour des câbles supplémentaires au fur et à mesure que la densité des ports s'accroît.
L'infrastructure de l'IA nécessite également une architecture de réseau différente, telle que Mesh et Spine/leaf. Une conception de câblage à l'épreuve du temps tient compte de l'évolution de la technologie, et pas seulement de son emplacement actuel. Pour la fibre, cela signifie qu'il faut spécifier le multimode OM4 ou OM5 - ou le monomode - à des densités qui permettent d'accueillir la prochaine génération d'émetteurs-récepteurs sans qu'il soit nécessaire de procéder à une replantation complète. Pour les panneaux de brassage des fibres, la conception modulaire permet une expansion future en raison du changement de facteur de forme des émetteurs-récepteurs, et une nouvelle densité en raison de la nouvelle génération d'AI-POD. Le câblage a une durée de vie qui se mesure en décennies, ce qui n'est pas le cas de l'électronique active qui se trouve au-dessus. Les considérer comme ayant le même horizon de rafraîchissement est l'une des erreurs les plus courantes et les plus coûteuses dans la planification de l'infrastructure d'un centre de données.
Sous-estimer le nombre de fibres nécessaires
Rien ne révèle plus rapidement la différence entre la conception traditionnelle d'un réseau informatique et la conception d'une structure d'IA que le nombre de fibres. Les modèles conventionnels de planification des centres de données - construits autour de la connectivité serveur-ToR et des schémas de trafic nord-sud - sous-estiment considérablement les besoins en fibres des clusters de GPU.
Les réseaux d'IA sont dominants d'est en ouest. Chaque GPU a besoin d'une bande passante élevée et d'un chemin à faible latence vers tous les autres GPU avec lesquels il travaille, directement ou par l'intermédiaire de la colonne vertébrale. Les commutateurs spine à haut rayonx, qui constituent l'épine dorsale de toute structure d'IA sérieuse, peuvent présenter 64 ports 400G ou plus par appareil. Un seul pod de serveurs GPU, entièrement câblé à une structure non bloquante, peut nécessiter des milliers de connexions individuelles en fibre optique, également appelées "Scale-up networking". Les réseaux évolutifs qui se connectent à un déploiement multi-pods deviennent également l'un des changements physiques les plus importants induits par l'impact de l'IA.
La densité des fibres déployées pour ce changement peut entraîner l'installation de plusieurs fois plus de fibres avant que la formation à l'IA n'ait lieu.
Les systèmes de câblage MPO préterminés à haute densité - conçus pour un déploiement rapide et sans erreur au nombre de fibres exigé par les tissus d'IA - sont la réponse pratique à ce problème, tant pour le déploiement initial que pour les expansions progressives qui suivront.
Traiter la gestion des câbles comme un élément secondaire
La gestion des câbles dans les environnements à forte densité de GPU n'est pas une question d'entretien. C'est une question de fiabilité.
La gestion des câbles détermine la maintenabilité de l'infrastructure au cours de sa durée de vie. Un chemin de câbles encombré dans un environnement 400G signifie que tout changement - un échange d'émetteur-récepteur, une réaffectation de port, une extension de tissu - risque de perturber les connexions adjacentes. Dans un environnement où la qualité des connecteurs physiques est une variable directe des performances, ce risque n'est pas négligeable. Une fibre pliée en dessous du rayon de courbure minimal, soumise à des contraintes au niveau des interfaces des connecteurs ou à des manipulations répétées sans décharge de traction appropriée est une fibre qui dégradera l'intégrité du signal au fil du temps.
Le routage, l'étiquetage et la capacité des voies doivent faire partie du processus de conception de l'infrastructure dès le premier jour - et non pas être résolus lors de la mise en service lorsque les options sont limitées.
Une infrastructure conçue pour les besoins réels de l'IA
Le point commun de ces quatre erreurs est la chronologie : des décisions prises avant de comprendre toutes les exigences de la charge de travail de l'IA, optimisées pour des conditions qui ne persisteront pas. La solution consiste à concevoir la couche physique avec la même discipline prospective que celle appliquée à l'architecture informatique et logicielle - en spécifiant la longévité, la densité et la marge de manœuvre plutôt que la configuration minimale viable pour aujourd'hui.
Le portefeuille de connectivité des centres de données d'Aginode - comprenant le câblage fibre haute densité, les solutions MPO préterminées et la connectivité LC duplex supportant des vitesses allant jusqu'à 400G et au-delà - est conçu exactement pour ces environnements.
Partager
A propos de l'auteur
