AI Infrastructure Database

Un rack H100 assorbiva circa 40 kW e le ventole reggevano. I rack GB200 assorbono ~120 kW e vengono forniti solo con raffreddamento a liquido — e rack da ~600 kW sono annunciati per il 2027. Ogni nuova sala viene riprogettata attorno alle cold plate.

L'unità di progettazione è passata da un box con 8 GPU a un rack NVLink con 72 GPU che il software vede come un singolo acceleratore. Il fronte open UALink corre per rispondere prima che il modello si consolidi.

I modelli di ragionamento hanno spostato il calcolo al momento della risposta. L'inferenza supera ora il training in tutto il settore e attrae chip progettati esclusivamente per questo.

I die hanno raggiunto il limite litografico, così la frontiera si è spostata nel package — GPU multi-die, stacking 3D e capacità CoWoS come razionamento mondiale delle GPU.

I campus hanno smesso di aspettare nelle code di interconnessione: reattori spenti riavviati con contratti ventennali, turbine dietro il contatore, celle a combustibile al perimetro.

La svolta dei componenti nel 2026: HBM4 raddoppia l'interfaccia di memoria mentre l'ottica co-packaged inizia a sostituire i ricetrasmettitori pluggable — le distinte materiali alla base di Rubin, MI400 e delle prossime TPU.