Data center controls
产品 > MemoryAI™ 光子设备

业界首款面向智能体 AI 的基于光子技术的 HBM 级内存设备

全新的 Penguin Solutions MemoryAI™ 光子设备基于 Marvell Photonic Fabric™ 技术平台 构建,在共享内存的技术和架构方面实现了阶跃式变革。

联系我们
阅读新闻稿

将高带宽内存扩展至 GPU 之外

随着代理式 AI 工作负载的需求日益增长,内存容量可能成为制约 AI 性能和规模的瓶颈。

该内存设备采用带宽远高于传统铜互连的硅光子技术,能够实现跨多个基于 CPU 和 GPU 的服务器对解耦高带宽内存 (HBM) 的透明共享,从而为扩展 AI 工作负载的内存容量提供了更大的灵活性。

HBM 提供了严苛 AI 工作负载所需的高速内存访问能力,但 GPU 附带的 HBM 受限于 GPU 封装的物理极限。MemoryAI 光子设备将通过光子内存架构,以 HBM 级的数据速率扩展内存访问,提供每秒数太字节的数据传输速率,从而缓解内存墙的限制。

该设备旨在作为 GPU 附带 HBM 的补充,通过共享 HBM 和 DDR5 内存来扩展可用容量,并可在整个 AI 基础设施中进行访问。应用程序将能够像访问直接连接的内存一样访问这些共享内存,而无需专门的访问例程或数据复制。

AI on chip

一种更灵活的 AI 内存方案

Data center
通过将内存与单个处理器解耦,企业在 AI 数据中心内访问、共享和分配内存容量的方式上获得了更大的灵活性。

超越 GPU 的内存扩展

突破直接连接的 HBM 的物理限制,扩展可用内存容量,以支持不断增长的智能体和推理工作负载。

跨 AI 基础设施共享内存

使 CPU 和 GPU 能够透明地访问共享内存,从而在 AI 基础设施中更灵活地使用内存资源。

根据工作负载需求分配内存

支持静态或动态内存分配,在工作负载需要的地方提供内存容量,并实现更高效的内存架构。

为活动 AI 工作负载保留 HBM

以额外的共享内存容量补充 GPU 连接的 HBM,在推理工作负载扩展时,为活动令牌生成保留高速 GPU 内存。

A placeholder Image

咨询
内存专家

供货情况: MemoryAI Photonic Appliance 预计将于 2027 日历年下半年全面上市。

功能与规格如有变更,恕不另行通知。

专为智能体 AI 设计的内存创新

Penguin Solutions 在先进内存领域拥有 30 年的深厚积淀,能够满足当今 AI 基础设施日益增长的需求。在我们的 AI Factory Foundations 研讨会中,专家团队将与您的业务及技术部门协作,识别值得投入的 AI 机会,并制定切实可行的路线图,助力您将这些机会转化为生产力。

预约我们的团队进行初步沟通,深入了解 MemoryAI Photonic Appliance,探讨您当前的 AI 计划、业务优先级、技术环境,以及我们如何助力您加速迈向智能体 AI 的进程。