AI Infrastructure Database

Un rack H100 consommait environ 40 kW et les ventilateurs suffisaient. Les racks GB200 consomment ~120 kW et sont livrés en refroidissement liquide uniquement — et des racks ~600 kW sont annoncés pour 2027. Chaque nouvelle salle est en cours de réaménagement autour de plaques froides.

L'unité de conception est passée d'un boîtier à 8 GPU à un rack NVLink à 72 GPU que le logiciel perçoit comme un seul accélérateur. Le camp UALink ouvert s'empresse de répondre avant que le schéma ne se fige.

Les modèles de raisonnement ont déplacé le calcul vers le temps de réponse. L'inférence dépasse désormais l'entraînement dans l'ensemble du secteur et tire la demande vers des chips conçus uniquement à cet effet.

Les dies ont atteint la limite de la lithographie, si bien que la frontière s'est déplacée vers le boîtier — GPU multi-dies, empilement 3D et capacité CoWoS faisant office de quota mondial de GPU.

Les campus ont cessé d'attendre dans les files d'interconnexion : des réacteurs arrêtés redémarrés sous des contrats de 20 ans, des turbines derrière le compteur, des piles à combustible en clôture de site.

Le tournant des composants en 2026 : la HBM4 double l'interface mémoire tandis que l'optique co-packagée commence à remplacer les émetteurs-récepteurs enfichables — les listes de pièces derrière Rubin, MI400 et les prochains TPU.