- La IA requiere hasta cinco veces más potencia y enfriamiento que los servidores tradicionales.
- Los racks para IA superan los 40 kW y apuntan a configuraciones de hasta 100 kW.
- El enfriamiento líquido directo al chip se consolida como la solución técnica necesaria para gestionar el calor.
El avance de las cargas de trabajo asociadas a IA está llevando a los centros de datos hacia mayores niveles de densidad, con racks que ya alcanzan los 40 kW y que podrían superar los 100 kW. Este escenario también está impulsando nuevas tecnologías de enfriamiento, especialmente soluciones basadas en líquidos.
El desarrollo de la inteligencia artificial está generando cambios que van más allá de los modelos y aplicaciones que utilizan esta tecnología. El aumento de las cargas de trabajo de IA y de la computación de alto rendimiento (HPC) también está modificando los requerimientos de infraestructura de los centros de datos, particularmente en materia de alimentación eléctrica y gestión térmica.
La incorporación de unidades de procesamiento gráfico (GPU), utilizadas para acelerar los cálculos necesarios para los modelos de inteligencia artificial, está llevando la densidad de procesamiento a niveles superiores a los que tradicionalmente se observaban en los centros de datos.
De acuerdo con Vertiv, los chips utilizados para aplicaciones de IA pueden requerir aproximadamente cinco veces más potencia y cinco veces más capacidad de enfriamiento que un servidor tradicional instalado en el mismo espacio.
Este aumento de los requerimientos está modificando también la densidad de los racks. Mientras configuraciones de entre 5 y 10 kilovatios (kW) eran habituales y aquellas superiores a 20 kW se consideraban de alta densidad para aplicaciones específicas, las implementaciones de IA están llevando estos niveles significativamente más arriba.
Según Vertiv, los racks de 40 kW se encuentran actualmente en el extremo inferior de lo requerido para facilitar implementaciones de IA, mientras que las densidades superiores a 100 kW por rack se están encaminando hacia despliegues comunes y de gran escala en un futuro cercano.
Este escenario implica aumentar la capacidad de toda la infraestructura que alimenta a los servidores, desde la red eléctrica hasta la distribución de energía dentro de cada rack. Al mismo tiempo, la mayor densidad de procesamiento plantea un desafío térmico: las GPU utilizadas para cargas de trabajo de IA generan niveles de calor que los sistemas tradicionales de enfriamiento no podrían gestionar en la mayoría de las implementaciones.
El avance del enfriamiento líquido
Ante este escenario, las tecnologías de enfriamiento líquido están adquiriendo un papel cada vez más relevante en la infraestructura destinada a cargas de trabajo de inteligencia artificial.
Una de las principales alternativas es el enfriamiento líquido directo al chip, que utiliza placas frías instaladas sobre componentes generadores de calor, como CPU y GPU. A través de ellas circula un fluido que permite extraer el calor de los componentes y trasladarlo fuera del centro de datos.
Según las estimaciones de Vertiv, esta tecnología puede eliminar aproximadamente entre 70% y 75% del calor generado por los equipos de un rack, mientras que el 25% a 30% restante debe ser gestionado mediante sistemas de enfriamiento por aire u otras soluciones complementarias.
Otra alternativa son los intercambiadores de calor de puerta trasera, que reemplazan la puerta posterior del rack por un sistema de intercambio térmico. El fluido circula por bobinas que absorben el calor generado por los equipos y permiten mantener bajo control la temperatura de la sala.
Estas soluciones también pueden utilizarse como parte de una transición gradual hacia el enfriamiento líquido, especialmente en instalaciones existentes que necesitan incorporar infraestructura de mayor densidad sin modificar completamente sus sistemas actuales.
Nuevos diseños para centros de datos
El desafío de la IA no se limita a los nuevos centros de datos. Las instalaciones existentes también deben encontrar alternativas para incorporar servidores de mayor densidad y capacidad de procesamiento.
En este ámbito, Vertiv presentó su plataforma 360AI, que reúne soluciones de alimentación, enfriamiento y servicios para infraestructuras orientadas a inteligencia artificial. La compañía señala que sus diseños de referencia contemplan configuraciones de hasta 132 kW por rack para distintos casos de uso, desde pruebas piloto e inferencia en el borde hasta fábricas de IA.
La propuesta también contempla configuraciones de mayor capacidad, de hasta 300 kW y 500 kW por rack, basadas en enfriamiento líquido. Para instalaciones existentes, la compañía plantea alternativas que combinan enfriamiento líquido directo al chip con intercambiadores de calor de puerta trasera, con el objetivo de incorporar mayor densidad sin afectar las cargas de trabajo que ya operan en la sala.
El crecimiento de la inteligencia artificial está planteando así un nuevo desafío para la infraestructura digital. El aumento de la capacidad de procesamiento requiere no solo servidores más potentes, sino también sistemas capaces de entregar mayores niveles de energía y gestionar el calor generado por estas cargas de trabajo.
En este contexto, la evolución hacia centros de datos de mayor densidad y la incorporación de tecnologías de enfriamiento líquido aparecen como elementos relevantes para acompañar el desarrollo de la computación acelerada y las aplicaciones de inteligencia artificial.