人工智慧與高效能運算資料中心
容錯解決方案
整合式記憶體
即使資料密集型工作負載的複雜性和規模增加,也能輕鬆且具有成本效益的擴充資料中心、雲端服務和高效能運算 (HPC) 內的運算資源的記憶體。
增加記憶體容量並減少延遲,而無需增加處理能力,是改變遊戲規則。使用記憶體縮放來簡化大型資料集的即時處理,並加速複雜演算法和進階分析的執行速度。
隨著人工智慧 (AI)、機器學習 (ML)、影像處理、記憶體內資料庫和即時分析等現代應用程式消耗比以往更多的記憶體,因此對低延遲、高頻寬記憶體的需求也越來越強。
數十年來,電腦系統一直使用經平行匯流排直接連接到主機主機板和中央處理單元 (CPU) 的註冊雙內嵌記憶體模組 (RDIMM)。擴大需要將記憶體控制器和引腳新增至 CPU 的模組數目。
解決此系統限制,Compute Express Link® (CXL) 是一種高頻寬、低延遲的 CPU 對裝置互連標準,該標準建立在現有 PCI Express® (PCIe) 基礎架構上,以擴充和集合記憶體。
透過利用 PCIe 物理和電氣介面,同時增加額外的傳輸協定,CXL 可擴大容量、提高能源效率,並節省大量成本。
在毫秒重要的行業中,對高容量、高效能可擴充記憶體解決方案的需求從未如此高。
CXL 是在目前的系統硬體限制下擴充記憶體的更經濟的選擇,是業界標準的開放通訊協定,適用於主機加速器之間的高速和低延遲通訊,這些通訊越來越多在 HPC、AI 和 ML 應用程式中使用。
CXL 已成為改變遊戲的解決方案,可實現負擔得起的記憶體集合和擴充、彈性擴充、改進效能,以及從其處理器中分割記憶體資源。CXL 技術消除傳統記憶體限制,並實現大量資料集的即時處理,以前所未有的效率。
更靈活且可擴充的記憶體架構可根據需要新增或移除記憶體模組,而無需更換或升級整個系統。
記憶體集合可提供更有效率的記憶體分配。將裝置分割為多個邏輯裝置 (MLD),允許多 16 個主機同時存取記憶體的不同部分。
只需八個 64GB DDR5 RDIMM 和一張 8 個 DIMM CXL 附加卡 (AIC),支援額外八個 64GB DDR5 RDIMM,即可降低 25% 的成本和記憶體容量,相當於八張 128GB DDR5 RDIMM。
CXL 提供低延遲、高速記憶體存取,可改善記憶體密集的 AI、ML 和 HPC 工作負載的回應時間,並以更低的成本實現更高記憶體容量。
即時擷取和處理大量資料,以加速計算分析工作負載、加快模擬處理,並縮短周轉時間。
受益於 CXL 擴充和集合功能的使用案例包括:
多年經驗
已部署與管理的 GPU
GPU 執行時數
記憶體集合是將多個系統的記憶體容量結合成固定大小的區塊,這些區塊可以在需要時動態分配。使用 CXL 之類的技術,記憶體集合可以使用低延遲存取此共用記憶體集區,從而改善工作負載的使用率和效能。
記憶體擴充能夠為單一系統增加容量,而記憶體集合可讓多個系統共用集中式記憶體集區,以提高資源使用率。
AI 模型訓練、大規模模擬和資料密集的分析可以從擴充 GPU 記憶體中獲得最大的收益,尤其是當搭配以 CXL 為基礎的記憶體集合時。
透過減少記憶體瓶頸並允許低延遲存取共用記憶體,CXL 集合可確保人工智慧、HPC 和分析工作負載的資料處理速度更快。
是的,CXL 專為與基於 PCIe 的伺服器相容而設計,允許記憶體擴充和集合,而不需要花費昂貴的重大硬體大修。
立即與我們聯繫,了解我們如何透過整合式記憶體集合和擴充使用最新的 CXL 技術來協助您最大化處理能力並降低系統記憶體成本。