Reduzca los costos del centro de datos al aumentar la eficiencia energética
La implementación de la IA privada requiere cambios de diseño significativos en la infraestructura del centro de datos, incluida la refrigeración de las GPU y la administración de energía, lo que requiere recursos y habilidades especializados.
Alimentación y refrigeración
Consideraciones
Los diseñadores de GPU superan las limitaciones físicas del silicio con requisitos de densidad de núcleo nunca antes vistos, lo que supera los límites de la escala y el rendimiento de la IA. El resultado es un inmenso consumo de energía y una generación de calor nunca antes vistos en un centro de datos.
El uso de tecnologías con uso intensivo de datos, como la inteligencia artificial (IA), el aprendizaje automático (ML) y el Internet de las cosas (IoT), está estimulando un crecimiento exponencial del espacio de los servidores, lo que impone demandas térmicas y de energía cada vez mayores a los centros de datos modernos.
Para prepararse para los requisitos futuros de la infraestructura de IA, las empresas están implementando tecnologías que les permitirán introducir densidades de racks más altas y GPU de mayor rendimiento para maximizar el rendimiento de los centros de datos y, al mismo tiempo, ayudarlas a cumplir con los compromisos de sostenibilidad de los recursos y minimizar el impacto ambiental de sus instalaciones.
Las estrategias específicas incluyen la adopción de fuentes de energía renovables y la implementación de infraestructuras energéticamente eficientes, como sistemas de refrigeración innovadores, que incluyen refrigeración directa por chip, refrigeración líquida e inmersión, lo que reduce los costos de energía y respalda sus objetivos de sostenibilidad.
Experiencia en alimentación y refrigeración
El modelado con IA viene acompañado de un aumento de la densidad de los racks de las GPU, que aumentan rápidamente, con requisitos de energía de hasta 50 kW por rack y más. En concreto, un rack H100 con solo 4 nodos requiere 44 kW. Esto contrasta marcadamente con el promedio del sector de entre 8,6 y 10 kW por rack tradicional para los centros de datos convencionales.
Con esta inmensa potencia informática dentro de los centros de datos modernos, los métodos tradicionales de refrigeración por aire se están topando con barreras de rendimiento, ya que las densidades de los chips y la producción térmica siguen aumentando exponencialmente, lo que aumenta exponencialmente las cargas de calor generadas por los procesadores GPU modernos.
Dado que la energía lo dicta todo en el diseño de la infraestructura de IA, Penguin Solutions planifica el diseño físico del espacio del centro de datos teniendo en cuenta tecnologías de refrigeración avanzadas, como la refrigeración líquida y la inmersión en líquidos.power dictates everything. That's why Penguin Solutions plans the physical layout design of the data center footprint with advanced cooling technologies such as liquid cooling and liquid immersion in mind.
Directo al chip
Este método de refrigeración del centro de datos enfría directamente los servidores bombeando refrigerante a una placa fría que contrae los componentes directamente.
Inmersión líquida monofásica
Los servidores se sumergen en un fluido refrigerante monofásico no conductor, como aceites, fluorocarbonos o ésteres sintéticos, que absorben el calor.
Inmersión líquida bifásica
Los servidores se sumergen en un baño de fluido dieléctrico que se evapora para eliminar el calor.
Más de 25
Años de experiencia
Más de 85.000
GPU implementadas y administradas
Más de 2 mil millones
Horas de tiempo de ejecución de la GPU
Refrigeración sostenible con
Enfriamiento por inmersión
Con el aumento del consumo de energía de las cargas de trabajo con uso intensivo de cómputos y los requisitos de entrenamiento y ajuste de los modelos de IA, los sistemas no se pueden enfriar de forma sostenible mediante métodos de refrigeración convencionales.
Descubra cómo Penguin Solutions se asoció con AMD y Shell para aumentar el rendimiento con menos emisiones en el centro de datos de Shell en Houston mediante la implementación de sistemas listos para la inmersión.
La infraestructura de IA se enfría mediante sistemas avanzados, como la refrigeración líquida directa al chip, la refrigeración por inmersión monofásica o bifásica, la refrigeración por aire de alta eficiencia o combinaciones híbridas de estas estrategias de refrigeración.
Los centros de IA y HPC son los que más se benefician de la refrigeración líquida directa al chip, los intercambiadores de calor de las puertas traseras y la refrigeración por inmersión monofásica o bifásica para gestionar de forma sostenible las crecientes cargas térmicas y densidades de los racks.
Los sistemas de refrigeración eliminan el calor de los equipos de TI a través de controladores de aire, sistemas de agua fría, líquido bombeado directamente a las placas frías o sumergiendo los servidores en fluidos dieléctricos. Los métodos de inmersión y líquido directo eliminan los ventiladores de los servidores integrados y reducen la sobrecarga de infraestructura, al administrar de manera eficiente los entornos de CPU/GPU de alta potencia.
Los centros de datos de IA combinan hardware de bajo consumo, planificación inteligente del diseño a nivel de bastidor, uso de energía renovable y sistemas de refrigeración, como las soluciones de inmersión y de líquido directo. Este diseño integrado minimiza el consumo de energía, admite racks de alta densidad, mejora la huella de carbono y reduce el PUE, a la vez que mantiene el rendimiento.improves carbon footprint, and lowers power usage effectiveness (PUE) while maintaining performance.
Las consideraciones clave incluyen la densidad de procesamiento (kW por rack), la carga térmica, el diseño de las instalaciones, los costos de energía, el impacto ambiental, como la reducción de carbono, y la escalabilidad continua. La estrategia de refrigeración debe alinearse con los objetivos de sostenibilidad y la complejidad operativa.
Industrias con altas exigencias informáticas o térmicas, como petróleo y gas, investigación científica, financiar, aplicaciones automotrices y de IA a gran escala en fabricación discreta y por procesos y cuidado de la salud, vea las ganancias directas a través de estrategias optimizadas de administración térmica y de energía.
Hable con los expertos de Penguin Solutions
Póngase en contacto hoy mismo y obtenga más información sobre cómo podemos ayudarlo con el diseño de su centro de datos de IA y HPC, incluidos sus requisitos de alimentación y refrigeración, a la vez que cumple sus objetivos de sostenibilidad.