Inicio Artículos de fondo Módulos de potencia con alta densidad para la GenAI

Módulos de potencia con alta densidad para la GenAI

4904
0

Módulos de potencia avanzados 3Di (interconexión tridimensional)

Los módulos de potencia que utilizan la multiplicación de corriente basada en transformadores, en lugar del promedio de voltaje tradicional, tienen la ventaja de ganancias de multiplicador de corriente más altas, en el rango de 48 a 60x.

Esta topología tiene voltajes de funcionamiento de interruptores inherentemente más bajos, por ejemplo, con una multiplicación de corriente factorial de 48x (K = 48/1), los interruptores de potencia de bajo voltaje se pueden usar en el PoL.

Estos módulos funcionan por encima de 1 MHz con eficiencias en el rango del 94%, debido a las técnicas de conmutación de voltaje cero (ZVS), conmutación de corriente cero (ZCS) y almacenamiento de energía cero.

Los componentes magnéticos se utilizan solo para la transformación de voltaje y corriente, y no se utilizan para el almacenamiento de energía magnética. Con altas frecuencias de conmutación, los módulos pueden hacerse notablemente pequeños. Con el nuevo paquete de módulo de potencia 3Di, se puede lograr la densidad de corriente requerida de 3 A / mm2 para VPD puro en el carril VDD central, y es posible que se produzcan más avances en la densidad de corriente en el futuro.

Los avances en el encapsulado de módulos de potencia para permitir VPD también deben ser propicios para entornos de fabricación por contrato de alto volumen. El paquete de módulos (Figura 7) debe ser térmicamente adecuado para simplificar la solución de gestión del calor para VPD.

Los avances en la ciencia de los materiales y el magnetismo con frecuencias de conmutación superiores a 1 MHz han permitido las tecnologías 3Di, lo que ha dado como resultado encapsulados muy delgados (<1,8 mm) con una resistencia térmica muy baja y capacidades de montaje en superficie favorables. Los paquetes 3Di son mecánicamente rígidos, tienen un alto grado de coplanaridad y el revestimiento del paquete 3Di ayuda a mitigar la interferencia electromagnética radiada (EMI).

A medida que los futuros procesadores de entrenamiento de genAI se vuelven más complejos, con matrices de chips apiladas y multiprocesador en un solo paquete, los niveles de corriente de funcionamiento continuo se precipitan hacia los 2.000 Amperios y los 1.500 vatios o más.

Los superordenadores genAI a exaescala que ejecutan modelos de lenguaje grandes de varios billones de parámetros seguirán utilizando miles de procesadores de IA y CPU por sistema.

(12) Esta aplicación seguirá siendo, sin lugar a duda, la más intensiva en energía y térmicamente desafiante en el mundo informático moderno en un futuro previsible. Los proveedores del ecosistema de componentes de genAI están éticamente obligados a ayudar a mitigar el consumo de energía de esta nueva y sorprendente tecnología.

Reconocimientos

El autor agradece a sus colegas de Vicor Corporation por su perspicacia y orientación a la hora de escribir este artículo.

Referencias

  1. https://www.nvidia.com/en-us/data-center/gb200-nvl72/
  2. https://www.hpcwire.com/2024/03/18/nvidias-new-blackwell-gpu-can-train-ai-models-with-trillions-of-parameters/?utm_source=HPCwire+Newsletter&utm_medium=email&utm_campaign=&utm_term=5245H9859712A5Y&oly_enc_id=5245H9859712A5Y
  3. https://www.nytimes.com/2023/10/10/climate/ai-could-soon-need-as-much-electricity-as-an-entire-country.html
  4. https://developer.nvidia.com/blog/nvidia-hopper-architecture-in-depth/
  5. https://www.allaboutcircuits.com/tools/trace-resistance-calculator/
  6. https://www.analog.com/media/en/technical-documentation/application-notes/ee-253.pdf
  7. https://ieeexplore.ieee.org/document/6803344
  8. https://edc.intel.com/content/www/us/en/design/ipla/software-development-platforms/servers/platforms/intel-pentium-silver-and-intel-celeron-processors-datasheet-volume-1-of-2/005/fully-integrated-voltage-regulator-fivr/
  9. https://www.servethehome.com/checking-out-the-nvidia-h100-in-our-first-look-at-hopper/
  10. https://www.hpcwire.com/2023/08/17/nvidia-h100-are-550000-gpus-enough-for-this-year/#:~:text=The%20flagship%20H100%20GPU%20(14%2C592,based%20supercomputer%20called%20Shaheen%20III
  11. https://aiindex.stanford.edu/report/

Más información

Si te interesas más datos sobre Vicor, sus productos o su tecnología, mira en estos enlaces:

Módulos de potencia con alta densidad para la GenAI

Biografía del autor

Maury Wood es vicepresidente de marketing estratégico en Vicor Corporation. Antes de unirse a Vicor, Maury ocupó puestos de sénior en empresas de pruebas de fibra óptica y semiconductores, como EXFO, AFL, Broadcom, NXP, Analog Devices y Cypress.

Además, es licenciado por la Universidad de Michigan y realizó estudios de posgrado en la Universidad Northeastern, el Babson College y el MIT.

Le gusta escalar, esquiar, andar en bicicleta de montaña y tocar el bajo de jazz.

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.