Centros de datos de IA y HPC
Soluciones tolerantes a fallos
Memoria integrada

El nuevo Penguin Solutions MemoryAI™ Photonic Appliance, construido sobre la plataforma tecnológica Marvell Photonic Fabric™, introduce un cambio radical en la tecnología y la arquitectura para la memoria compartida.
A medida que las cargas de trabajo de AI con agentes se vuelven más exigentes, la capacidad de memoria puede convertirse en una limitación para el rendimiento y la escala de la AI.
Mediante el uso de fotónica de silicio, que posee un ancho de banda significativamente mayor que las interconexiones de cobre tradicionales, el dispositivo de memoria permitirá el uso compartido transparente de memoria de gran ancho de banda (HBM) desagregada entre múltiples servidores basados en CPU y GPU, lo que proporciona una mayor flexibilidad para escalar la capacidad de memoria para las cargas de trabajo de AI.
La HBM proporciona el acceso a memoria de alta velocidad necesario para las cargas de trabajo de AI exigentes, pero la HBM conectada a la GPU está limitada por los límites físicos del paquete de la GPU. El MemoryAI Photonic Appliance ampliará el acceso a la memoria a velocidades de datos de clase HBM a través de una estructura de memoria fotónica, lo que ofrecerá velocidades de datos de terabytes por segundo y aliviará las limitaciones del muro de memoria.
Diseñado para complementar la HBM conectada a la GPU, el dispositivo ampliará la capacidad disponible con HBM compartida y memoria DDR5 a la que se puede acceder a través de la infraestructura de AI. Las aplicaciones podrán acceder a esta memoria compartida como si estuviera conectada directamente, sin necesidad de rutinas de acceso especializadas ni copias de datos.


Al desagregar la memoria de los procesadores individuales, las organizaciones obtienen más flexibilidad en la forma en que se accede, comparte y asigna la capacidad de memoria en un centro de datos de AI.
Amplíe la capacidad de memoria disponible más allá de las limitaciones físicas de la HBM conectada directamente para admitir las crecientes cargas de trabajo de agentes e inferencia.
Permita que las CPU y las GPU accedan de forma transparente a la memoria compartida, lo que crea una mayor flexibilidad en la forma en que se utilizan los recursos de memoria en toda la infraestructura de AI.
Admita la asignación de memoria estática o dinámica, poniendo la capacidad de memoria a disposición donde las cargas de trabajo la necesiten y permitiendo una arquitectura de memoria más eficiente.
Complemente la HBM conectada a la GPU con capacidad de memoria compartida adicional, preservando la memoria de alta velocidad de la GPU para la generación activa de tokens a medida que escalan las cargas de trabajo de inferencia.
Penguin Solutions aporta 30 años de experiencia en memoria avanzada a las crecientes demandas de infraestructura de AI actuales. En nuestro taller AI Factory Foundations, nuestros expertos colaboran con sus equipos técnicos y comerciales para identificar las oportunidades de AI que vale la pena aprovechar y desarrollar una hoja de ruta práctica para llevarlas a producción.
Programe una conversación de descubrimiento con nuestro equipo para obtener más información sobre nuestro MemoryAI Photonic Appliance y analizar sus iniciativas de AI actuales, prioridades comerciales, entorno técnico y cómo podemos ayudarle a acelerar su camino hacia la AI agéntica.