La conclusión es la conclusión
Las fábricas de IA Frontier, en camino a una capacidad de cómputo de 1 GW, utilizan tantas o más de 250.000 GPUs.
Las GPUs están en camino de consumir el 50% de la energía total de la compañía eléctrica entregada a las fábricas de IA del futuro.
La pérdida térmica intermedia agregada de 6 V en el bus del regulador de voltaje multifásico para 250.000 GPUs (usando el TDP de 3 kW por procesador modelo de GPU) es de unos 12,5 MW (Megavatios), mientras que la pérdida térmica agregada correspondiente de 48 V en el bus factorizado es de unos 195 kW (kilovatios).
Este factor de reducción de 64 veces equivale a unos 12,3 MW, o unos 108 GWh (Gigavatios-hora) anuales.
De nuevo, estos procesadores funcionan las 24 horas del día, 365 días al año. Suponiendo 45.000 dólares por 1 GWh para electricidad mayorista a escala de servicios públicos, una reducción de 109 GWh equivale a una reducción anual de aproximadamente 4,9 millones de dólares de USD.
Durante un periodo de depreciación de cuatro años, la reducción agregada de OPEX se acerca a los 20 millones de dólares.
En resumen
Los 5 millones de dólares ahorrados anualmente en un OPEX eléctrico de fábrica de 1 GW con IA, más los 55 W de pérdidas de calor reducidas por GPU habilitadas gracias al uso de 48 V para la GPU en comparación con la arquitectura multifásica de 6 V, dejan claro que la arquitectura de potencia factorizada basada en 48 V va en la dirección correcta, en cuanto a rendimiento, coste operativo y ahorro energético en la infraestructura de IA del futuro.
Nota: FPA es una marca registrada de Vicor Corporation.
