人工智慧與高效能運算資料中心
容錯解決方案
整合式記憶體

全新的 Penguin Solutions MemoryAI™ 光子設備採用 Marvell Photonic Fabric™ 技術平台,為共享記憶體帶來了技術與架構上的跨越式變革。
隨著代理式 AI 工作負載的需求日益增加,記憶體容量可能成為限制 AI 效能與規模的瓶頸。
透過使用頻寬遠高於傳統銅互連的矽光子技術,此記憶體設備將能實現跨多個 CPU 與 GPU 伺服器,對分離式高頻寬記憶體 (HBM) 進行透明化共享,從而為擴展 AI 工作負載的記憶體容量提供更高的靈活性。
HBM 為高需求 AI 工作負載提供了所需的快速記憶體存取能力,但 GPU 內建的 HBM 受限於 GPU 封裝的物理限制。MemoryAI 光子設備將透過光子記憶體架構,將存取範圍擴展至具備 HBM 等級傳輸速率的記憶體,提供每秒數 TB 的資料傳輸速率,並緩解記憶體牆的限制。
該設備旨在與 GPU 內建的 HBM 互補,透過共享 HBM 與 DDR5 記憶體來擴充可用容量,並可供整個 AI 基礎架構存取。應用程式將能像存取直接連接的記憶體一樣存取這些共享記憶體,無需額外的特殊存取程序或資料複製。


透過將記憶體與個別處理器解構,企業能更靈活地存取、共享與配置 AI 資料中心內的記憶體容量。
突破直接連接 HBM 的物理限制,擴充可用記憶體容量,以支援日益增長的代理與推論工作負載。
讓 CPU 與 GPU 能透明地存取共享記憶體,從而提升 AI 基礎架構中記憶體資源的使用彈性。
支援靜態或動態記憶體配置,將記憶體容量部署於工作負載所需之處,實現更高效的記憶體架構。
以額外的共享記憶體容量輔助 GPU 連接的 HBM,確保在推論工作負載擴展時,能為活躍的 Token 生成保留高速 GPU 記憶體。
Penguin Solutions 在先進記憶體領域擁有 30 年的深厚經驗,能滿足當今 AI 基礎架構日益增長的需求。透過我們的「AI 工廠基礎」研討會,我們的專家將與您的業務及技術團隊合作,共同發掘值得投入的 AI 機遇,並制定切實可行的藍圖,協助您將這些構想轉化為實際生產力。
預約與我們的團隊進行諮詢,深入了解 MemoryAI Photonic Appliance,並討論您目前的 AI 計畫、業務優先事項、技術環境,以及我們如何協助您加速邁向代理式 AI (Agentic AI) 的進程。