La start-up chinoise Biren défend une nouvelle génération de liaisons optiques pour connecter des grappes de puces IA à très grande échelle, avec un objectif annoncé de 1 024 cartes accélératrices dans un même ensemble. L’enjeu est de dépasser les limites physiques des interconnexions en cuivre, souvent citées comme un plafond autour de 128 GPU dans les architectures actuelles. Cette bataille technique devient centrale à mesure que les modèles et agents IA exigent des infrastructures capables de fonctionner comme un seul système.
Dans la course à l’IA, la performance d’une puce isolée pèse moins que la capacité à faire travailler des milliers d’accélérateurs comme une seule machine, sans goulots d’étranglement.
Ding Yunfan décrit la fin du gain par GPU seul
Pour Ding Yunfan, vice-président en charge de l’architecture des frameworks IA chez Biren, l’industrie arrive à un point où l’augmentation de la puissance d’un GPU pris individuellement ne suffit plus. Les modèles gagnent en taille, en complexité et en exigences de synchronisation, ce qui déplace la contrainte principale vers l’infrastructure, en particulier l’échange de données entre accélérateurs. Dans les charges d’entraînement distribuées, la latence, la bande passante et la cohérence de communication deviennent des facteurs aussi déterminants que le nombre de curs ou la fréquence.
Ce diagnostic s’inscrit dans une tendance globale, la valeur se déplace vers la capacité à assembler des grappes d’accélérateurs en une plateforme unifiée, perçue par les logiciels comme une ressource unique. L’objectif recherché est un comportement monolithique à l’échelle d’un cluster, avec des communications rapides et prévisibles, pour limiter les temps d’attente lors des opérations collectives, comme l’all-reduce, et éviter que des centaines de puces restent inactives en attendant des données.
Dans ce contexte, Biren met en avant la notion de supernode, une brique d’infrastructure conçue pour regrouper un grand nombre d’accélérateurs dans un domaine de communication dense. L’approche vise à réduire la fragmentation, simplifier l’orchestration et faciliter l’exploitation à grande échelle. Les opérateurs de centres de données cherchent des systèmes capables d’absorber des modèles à trillions de paramètres, tout en maintenant une efficacité énergétique et économique acceptable.
Le discours de Ding souligne aussi un changement de métriques. Au-delà des benchmarks par puce, les acteurs regardent davantage le débit d’entraînement par rack, la stabilité des performances entre nuds, la facilité d’extension, et la capacité à faire évoluer une installation sans multiplier les couches de commutation et les câbles. Cette lecture donne un avantage aux architectures d’interconnexion, domaine où la différenciation se joue désormais au moins autant que dans la gravure ou les unités de calcul.
Biren vise 1 024 cartes via la near-packaged optics
Biren affirme que la prochaine étape de l’informatique IA à grande échelle passe par un remplacement progressif des interconnexions électriques classiques par des technologies optiques. Selon les éléments rapportés, les connexions en cuivre approchent de limites physiques qui se traduisent par des pertes de signal, des contraintes de distance et une complexité de routage croissante. Dans ce cadre, un plafond de l’ordre de 128 GPU est cité comme référence de ce que les architectures actuelles peuvent agréger efficacement sans compromis majeurs.
Pour dépasser ce goulot d’étranglement, Biren met en avant une architecture de supernode distribuée et découplée reposant sur la near-packaged optics (NPO). Le principe consiste à rapprocher la fibre optique des puces, en positionnant l’optique près du package plutôt que de s’appuyer sur des liaisons électriques longues avant conversion. L’objectif annoncé est d’augmenter la bande passante, d’améliorer l’intégrité du signal et de réduire certaines pénalités liées aux distances et au câblage.
Dans la description fournie, cette approche pourrait permettre des grappes atteignant jusqu’à 1 024 cartes accélératrices IA, un ordre de grandeur destiné à répondre à la montée des besoins en calcul pour l’entraînement et l’inférence avancée. Le saut d’échelle visé ne concerne pas seulement la quantité de puces, mais la capacité à maintenir des communications suffisamment rapides pour que le cluster se comporte comme une machine cohérente. À ce niveau, la topologie réseau, le placement des commutateurs et la gestion des chemins deviennent des éléments structurants du rendement.
La NPO n’est pas qu’un changement de support, elle touche aussi aux contraintes d’intégration, de dissipation thermique et de fiabilité. Rapprocher l’optique du calcul impose de gérer l’environnement physique du serveur, la maintenance, et la compatibilité avec les chaînes de fabrication. Biren présente cette voie comme une réponse nécessaire à la demande de supernodes plus grands, tout en suggérant que l’optique devient une condition pour franchir certains seuils de densité et de performance inter-nuds.
Cette orientation reflète une dynamique plus large dans l’industrie, où l’on cherche à limiter l’explosion de la complexité électrique à mesure que les grappes grossissent. Dans les centres de données, chaque centimètre de câblage, chaque connecteur et chaque étage de commutation pèsent sur le coût, la consommation et le risque de panne. L’optique promet de déplacer une partie de ces contraintes, même si les arbitrages technologiques restent importants et que l’industrialisation à grande échelle constitue un chantier à part entière.
MetaX, Enflame et Alibaba se positionnent face à Nvidia NVL72
Le mouvement n’est pas limité à Biren. D’autres entreprises chinoises, comme MetaX, Enflame et Alibaba, sont présentées comme actives sur des architectures de supernode destinées à rivaliser avec les plateformes de Nvidia, dont NVL72 et une génération suivante évoquée comme NVL144. La compétition se joue sur la capacité à proposer des systèmes denses, faciles à déployer, avec des performances stables lorsque l’on augmente le nombre d’accélérateurs.
MetaX, en particulier, a introduit son supernode Xijing S600. L’entreprise met en avant un rack unique connectant 64 GPU, et explique réduire les pertes de signal en supprimant des câbles externes entre nuds de calcul, nuds de commutation et systèmes d’interconnexion. Cette logique vise une meilleure efficacité pour les charges IA à grande échelle, où la moindre dégradation de communication se répercute sur l’ensemble du cluster.
Cette diversité d’approches illustre une réalité industrielle, la bataille se mène à la fois sur le silicium et sur l’architecture système. Les accélérateurs IA sont utiles s’ils s’intègrent dans une pile complète, du matériel au logiciel, avec des interconnexions capables de soutenir des échanges massifs. Les supernodes, qu’ils soient pensés en électrique optimisé ou en optique, cherchent à réduire les zones de friction, comme les conversions multiples, les câbles longs, ou les sauts réseau trop nombreux.
Pour les clients, l’intérêt se mesure en indicateurs concrets, densité par rack, consommation, facilité de montée en charge, résilience opérationnelle. Les choix d’architecture influencent aussi l’approvisionnement, car certaines solutions dépendent de composants spécifiques, de transceivers, de connectiques et de chaînes de production. Dans un marché sous tension, la capacité à livrer des systèmes complets et maintenables compte autant que la promesse de performance.
Le tableau ci-dessous synthétise les éléments cités publiquement dans la source, sans préjuger des performances réelles en production, qui dépendent des versions matérielles, des logiciels et des conditions d’exploitation.
| Acteur | Plateforme citée | Échelle mentionnée | Type d’interconnexion évoqué |
|---|---|---|---|
| Biren | Supernode NPO | Jusqu’à 1 024 cartes | Optique proche du package (NPO) |
| MetaX | Xijing S600 | Un rack de 64 GPU | Optimisation des liaisons, moins de câblage externe |
| Nvidia | NVL72, NVL144 | Plateformes multi-GPU | Interconnexion propriétaire à haute bande passante |
ZTE et Biren testent une architecture orthogonale et un prototype NPO
Biren indique travailler sur plusieurs axes en parallèle pour augmenter l’échelle de ses systèmes. Un des volets mentionnés est une architecture matérielle orthogonale co-développée avec ZTE, acteur des télécommunications. Cette piste repose sur des connexions électriques traditionnelles, ce qui suggère une démarche pragmatique, tirer le maximum des liaisons existantes tout en préparant une transition vers l’optique là où elle devient indispensable.
En parallèle, Biren teste un prototype d’interconnexion NPO. L’entreprise avance que l’approche optique pourrait, à terme, supporter des supernodes dépassant 512 cartes accélératrices, avec une trajectoire allant plus loin selon la maturité de l’intégration. Dans les faits, ce type d’annonce renvoie à des défis d’ingénierie concrets, packaging, alignement optique, tolérances mécaniques, gestion thermique, et procédures de maintenance en centre de données.
Le recours à un partenaire télécom comme ZTE peut aussi se lire comme un transfert de savoir-faire. Les réseaux optiques sont un domaine historique des télécommunications, avec des contraintes de fiabilité, de gestion de signal et d’industrialisation. Pour un fabricant de puces IA, l’enjeu est d’adapter ces technologies à des distances courtes, des densités élevées, et des environnements soumis à de fortes contraintes thermiques, tout en gardant des coûts compatibles avec des déploiements en volume.
À l’échelle des exploitants, la promesse d’un supernode très grand ne se limite pas à la performance brute. Elle touche la manière d’acheter et d’opérer le calcul, moins de fragmentation entre îlots de GPU, une planification plus simple, une meilleure utilisation des ressources, et potentiellement moins de surprovisionnement. Mais ces gains supposent une pile logicielle solide, gestion de la communication, compilation, tolérance aux pannes, et outils d’observabilité capables de diagnostiquer rapidement une dégradation sur des centaines de liens.
La trajectoire décrite par Biren, combiner une architecture électrique optimisée et des tests NPO, reflète une phase de transition. Les interconnexions optiques sont présentées comme une réponse aux limites du cuivre, mais leur adoption dépendra de la capacité à produire, intégrer et maintenir ces systèmes à grande échelle, dans un marché où les cycles d’innovation sont rapides et où les clients exigent des garanties opérationnelles.
