適用於 AI 基礎架構的整合式記憶體解決方案
Penguin Solutions 提供基於 CXL 的記憶體擴充、DRAM 模組以及快閃儲存裝置，專為記憶體容量、頻寬和延遲瓶頸可能限制 AI 效能的資料密集型環境所設計。
訓練 AI 模型並進行大規模推論時，需要在運算單元與記憶體之間傳輸龐大的數據。對於日益增多的 AI 部署而言，一旦容量、頻寬或延遲無法滿足需求，叢集中的每個處理器很快就會累積閒置時間。然而，瓶頸並非來自 GPU，而是負責供應數據的記憶體與儲存裝置。
Penguin Solutions 透過專為運算密集型環境打造的整合式記憶體產品組合來解決此挑戰，其中包括：基於 Compute Express Link® (CXL) 的記憶體，可將容量大幅擴展至超越傳統伺服器記憶體的限制；DRAM 模組，能提供活躍工作負載所需的高頻寬與低延遲效能；以及快閃儲存裝置，為驅動各個模型的數據管線提供可靠且高容量的基礎。這些記憶體解決方案相輔相成，讓企業能夠靈活地根據工作負載的特性，調整各個效能維度。
有了 Penguin Solutions，您的基礎架構將能跟上 AI 發展的腳步，而非成為其束縛。隨著企業不斷將模型訓練與推論推向新高度，Penguin Solutions 提供了所需的記憶體與儲存基礎，協助您的 AI 計畫從試點順利邁向正式生產。
基於 CXL 的記憶體
CXL® 記憶體解決方案為現代運算環境提供了靈活且可擴充的記憶體架構。透過使用 CXL 技術來擴展系統記憶體功能，企業能夠支援更龐大的工作負載、提升資源效率，並運用動態基礎架構設計。
基於 CXL 的解決方案特別適合 AI 訓練與推論、記憶體內資料庫，以及需要存取龐大記憶體空間的高階分析工作負載。它們同時也解決了資料中心在記憶體導向策略上，針對分散式系統中可組合性與可擴充資源配置的需求。
針對大規模 AI 推論，CXL 記憶體能將鍵值 (KV) 快取從 GPU 記憶體卸載至專用的高容量設備，進而縮短首字延遲 (TTFT) 並解除 GPU 的記憶體瓶頸。Penguin Solutions 的 MemoryAI™ KV Cache Server 透過可在叢集中存取的共享記憶體池，將此架構落實於生產環境中。
DRAM 記憶體模組
DRAM 模組為企業級伺服器與高效能運算 (HPC) 系統的活躍處理工作負載，提供高速且低延遲的系統記憶體。DRAM 直接安裝於伺服器記憶體通道中，能讓中央處理器 (CPU) 與加速器在執行運算密集型任務時，實現快速的資料存取。
這些記憶體模組廣泛應用於 AI 模型訓練、虛擬化、科學運算及企業交易應用，在這些領域中，穩定的運作時間與反應速度對於工作負載的執行至關重要。
Penguin Solutions DRAM 專為應對最嚴苛的運算環境而設計，能提供生產級 AI 所需的可靠性與高效能。
快閃儲存
快閃儲存解決方案為企業與資料密集型運算環境提供高容量、非揮發性的資料儲存。透過固態硬碟 (SSD) 技術，這些解決方案能支援快速的資料擷取，並在廣泛的應用中確保可靠的長期資料保存。
快閃儲存常應用於 AI 資料管線、大規模分析、應用程式託管及企業資料庫。這些儲存解決方案能協助組織有效管理日益增長的資料量，同時在關鍵工作負載中維持卓越的效能與可靠性。
Penguin Solutions 的快閃儲存技術已在國防與航太領域的嚴苛且高安全性儲存需求中獲得驗證，我們將同樣的耐用性與可靠度帶入您組織的大規模 AI 工作負載中。
與 Penguin Solutions 的專家諮詢
Penguin Solutions 透過專為大規模運算設計的記憶體與儲存解決方案，為現代 AI、HPC 及企業環境提供強大動力；其中以基於 CXL 的記憶體技術為核心，突破容量限制，讓高負載的 AI 運算成為可能。