Lo que hoy conocemos como “centros de datos” ha evolucionado significativamente en poco tiempo. Primero llegaron las salas de ordenadores, seguidas de las granjas de servidores, que más adelante dieron lugar a nuevas variantes como los centros de datos de colocación, telco o carrier hotels. A mediados y finales de los años 2000 proliferó la computación en la nube, y hoy en día nos referimos a los centros de datos más grandes como “hiperescala”. Todos estos términos hacen referencia a una forma de centro de datos, que IBM define como “una sala física, edificio o instalación que alberga la infraestructura de TI necesaria para crear, ejecutar y ofrecer aplicaciones y servicios. También almacena y gestiona los datos asociados a dichas aplicaciones y servicios”.
Pero, como suele ocurrir en nuestra industria en constante evolución, un nuevo término está ganando fuerza. Con un 65 % de todos los centros de datos construyéndose para servir a aplicaciones de inteligencia artificial, el término más reciente para referirse a estos centros es “fábricas de IA”, y parece estar en boca de todos.
¿Qué es una fábrica de IA? En pocas palabras, es una fábrica que produce resultados digitales y conocimiento a partir de un centro de datos. Esencialmente, se trata de un centro de datos dedicado al ciclo de vida completo de las aplicaciones de IA: desde el entrenamiento, pasando por la afinación del modelo, hasta la inferencia.
Una nueva forma de ver los centros de datos
Según NVIDIA, “las fábricas de IA hacen algo más que almacenar y procesar datos: fabrican inteligencia a escala, transformando datos en bruto en conocimiento en tiempo real”. Esta visión de NVIDIA ofrece una forma novedosa de ver un centro de datos, que se centra en el resultado que produce y en el valor que aporta.
Una fábrica de IA opera el ciclo completo de la IA, comenzando por el entrenamiento del modelo, su afinación y, posteriormente, realizando inferencias. Mientras que el entrenamiento ha sido el foco de la IA, es en la inferencia donde realmente se manifiesta el valor de la IA. Decimos esto porque la inferencia es esencialmente donde la IA se vuelve más autónoma, capaz de utilizar sus conocimientos para hacer predicciones, utilizar el razonamiento para resolver consultas complejas y realizar tareas. Las cargas de inferencia optimizadas que se ejecutan una y otra vez sobre los nuevos datos son la próxima ola de la IA, y es donde las empresas planean recuperar sus importantes inversiones.
La IA está evolucionando desde la “IA de un solo uso” (con grandes modelos de lenguaje) hacia modelos más avanzados que requieren una capacidad de cómputo significativamente mayor. Por ejemplo, el escalado post-entrenamiento en el que los modelos de IA se ajustan para aplicaciones específicas del mundo real, necesitan hasta 30 veces más capacidad de procesamiento que los modelos tradicionales de inferencia. El escalado en tiempo de prueba (test-time scaling), o “pensamiento prolongado”, permite aplicaciones avanzadas como la IA agéntica o la IA física, y es aún más intenso desde el punto de vista computacional. Dado que utiliza el razonamiento iterativo para resolver consultas complejas, el escalado en tiempo de prueba puede consumir hasta 100 veces más potencia de cálculo que la inferencia tradicional.
Es justo decir que con este tipo de modelos emergentes, más empresas buscarán que sus fábricas de IA tengan el máximo rendimiento y estén lo más preparadas posible para el crecimiento exponencial que se avecina. ¿Dónde estarán ubicadas las fábricas de IA? Inicialmente, la mayoría formará parte de los centros de datos de propiedad de gigantes de Internet y proveedores de la nueva generación en la nube (neocloud). A partir de ahí, las veremos cada vez más en instalaciones de colocación y, eventualmente, en las instalaciones de las empresas.
Soluciones de energía y refrigeración para cada evolución de la IA
Por tanto, una fábrica de IA es un centro de datos que cubre todo el ciclo de vida de la IA y producirá o fabricará resultados valiosos en el futuro. El próximo reto que debemos abordar es que los centros de datos tradicionales enfrentan importantes desafíos para dar soporte a las fábricas de IA.
Muchas instalaciones heredadas no fueron diseñadas para soportar las elevadas densidades de potencia ni los requisitos de refrigeración que exigen las fábricas de IA. Los servidores acelerados por IA pueden consumir hasta 132 kW por rack de TI (como el NVIDIA GB200 NVL72 AI), y se prevé que esa cifra alcance los 240 kW por rack el próximo año. Actualmente, ya se están desarrollando diseños para racks de TI con una capacidad de hasta 1 MW.
Aprovechar los diseños de referencia que proporcionan detalles sobre materiales, esquemas, disposiciones especiales y especificaciones de rendimiento, dará una mayor comprensión sobre lo que se necesita para alimentar y refrigerar estas fábricas de IA.
Schneider Electric trabaja con NVIDIA y proporciona diseños de referencia para cada nueva evolución de GPU, incluida la NVIDIA GB200/300 NVL72, que alcanza los 132 kW por rack.
A medida que las fábricas de IA evolucionan para dar soporte a la inferencia y el despliegue de la inteligencia artificial, Schneider Electric apoyará esta transformación con soluciones innovadoras de energía y refrigeración.
