Reduzca los costos del centro de datos al aumentar la eficiencia energética
La implementación de la IA privada requiere cambios de diseño significativos en la infraestructura del centro de datos, incluida la refrigeración de las GPU y la administración de energía, lo que requiere recursos y habilidades especializados.
Alimentación y refrigeración
Consideraciones
Los diseñadores de GPU superan las limitaciones físicas del silicio con requisitos de densidad de núcleo nunca antes vistos, lo que supera los límites de la escala y el rendimiento de la IA. El resultado es un inmenso consumo de energía y una generación de calor nunca antes vistos en un centro de datos.
El uso de tecnologías con uso intensivo de datos, como la inteligencia artificial (IA), el aprendizaje automático (ML) y el Internet de las cosas (IoT), está estimulando un crecimiento exponencial del espacio de los servidores, lo que impone demandas térmicas y de energía cada vez mayores a los centros de datos modernos.
Para prepararse para los requisitos futuros de la infraestructura de IA, las empresas están implementando tecnologías que les permitirán introducir densidades de racks más altas y GPU de mayor rendimiento para maximizar el rendimiento de los centros de datos y, al mismo tiempo, ayudarlas a cumplir con los compromisos de sostenibilidad de los recursos y minimizar el impacto ambiental de sus instalaciones.
Las estrategias específicas incluyen la adopción de fuentes de energía renovables y la implementación de infraestructuras energéticamente eficientes, como sistemas de refrigeración innovadores, que incluyen refrigeración directa por chip, refrigeración líquida e inmersión, lo que reduce los costos de energía y respalda sus objetivos de sostenibilidad.
Experiencia en potencia y refrigeración
El modelado de IA requiere densidades de racks de GPU que aumentan rápidamente, con requisitos de potencia crecientes de hasta 50 kW por rack o más. Por ejemplo, un rack H100 con solo cuatro nodos requiere 44 kW, un marcado contraste con el promedio de la industria de 8,6-10 kW por rack tradicional para centros de datos convencionales.
La inmensa potencia informática en los centros de datos de IA supera con creces la capacidad de rendimiento de los métodos tradicionales de refrigeración por aire. A medida que las densidades de chips y la producción térmica aumentan exponencialmente, también lo hacen las cargas de calor generadas por los procesadores GPU, lo que resulta en un uso ineficiente de la energía, mayores emisiones de carbono y huellas de centros de datos en expansión que disipan el calor. Los puntos calientes dentro de estas instalaciones exacerban la situación, lo que lleva a ineficiencias térmicas y cuellos de botella en el rendimiento.
Cuando se trata del diseño de la infraestructura de IA, la potencia lo dicta todo. Por eso Penguin Solutions planifica el diseño del trazado físico de la huella del centro de datos teniendo en cuenta tecnologías de refrigeración avanzadas como la refrigeración líquida y la inmersión líquida.
Directo al chip
Este método de refrigeración enfría directamente los servidores bombeando refrigerante a través de una placa fría absorbente o un disipador de calor que está en contacto directo con el chip.
Inmersión líquida monofásica
Con este enfoque, los servidores se sumergen en un fluido refrigerante monofásico no conductivo, como aceites, fluorocarbonos o ésteres sintéticos, que absorbe el calor.
Inmersión líquida bifásica
Este proceso de dos pasos aprovecha el ciclo de evaporación y condensación al sumergir los servidores en un baño de fluido dieléctrico especializado que luego se evapora para disipar el calor.
Más de 25
Años de experiencia
Más de 99.000
GPU implementadas y administradas
Más de 4 mil millones
Horas de tiempo de ejecución de la GPU
Refrigeración sostenible con
Enfriamiento por inmersión
Con el aumento del consumo de energía de las cargas de trabajo con uso intensivo de cómputos y los requisitos de entrenamiento y ajuste de los modelos de IA, los sistemas no se pueden enfriar de forma sostenible mediante métodos de refrigeración convencionales.
Descubra cómo Penguin Solutions se asoció con AMD y Shell para aumentar el rendimiento con menos emisiones en el centro de datos de Shell en Houston mediante la implementación de sistemas listos para la inmersión.
La infraestructura de IA se enfría mediante sistemas avanzados, como la refrigeración líquida directa al chip, la refrigeración por inmersión monofásica o bifásica, la refrigeración por aire de alta eficiencia o combinaciones híbridas de estas estrategias de refrigeración.
Los centros de IA y HPC son los que más se benefician de la refrigeración líquida directa al chip, los intercambiadores de calor de las puertas traseras y la refrigeración por inmersión monofásica o bifásica para gestionar de forma sostenible las crecientes cargas térmicas y densidades de los racks.
Los sistemas de refrigeración eliminan el calor de los equipos de TI a través de controladores de aire, sistemas de agua fría, líquido bombeado directamente a las placas frías o sumergiendo los servidores en fluidos dieléctricos. Los métodos de inmersión y líquido directo eliminan los ventiladores de los servidores integrados y reducen la sobrecarga de infraestructura, al administrar de manera eficiente los entornos de CPU/GPU de alta potencia.
Los centros de datos de IA combinan hardware de bajo consumo, planificación inteligente del diseño a nivel de bastidor, uso de energía renovable y sistemas de refrigeración, como las soluciones de inmersión y de líquido directo. Este diseño integrado minimiza el consumo de energía, admite racks de alta densidad, mejora la huella de carbono y reduce el PUE, a la vez que mantiene el rendimiento.improves carbon footprint, and lowers power usage effectiveness (PUE) while maintaining performance.
Las consideraciones clave incluyen la densidad de procesamiento (kW por rack), la carga térmica, el diseño de las instalaciones, los costos de energía, el impacto ambiental, como la reducción de carbono, y la escalabilidad continua. La estrategia de refrigeración debe alinearse con los objetivos de sostenibilidad y la complejidad operativa.
Industrias con altas exigencias informáticas o térmicas, como petróleo y gas, investigación científica, financiar, aplicaciones automotrices y de IA a gran escala en fabricación discreta y por procesos y cuidado de la salud, vea las ganancias directas a través de estrategias optimizadas de administración térmica y de energía.
Hable con los expertos de Penguin Solutions
Póngase en contacto hoy mismo y obtenga más información sobre cómo podemos ayudarlo con el diseño de su centro de datos de IA y HPC, incluidos sus requisitos de alimentación y refrigeración, a la vez que cumple sus objetivos de sostenibilidad.