人工智慧與高效能運算資料中心
容錯解決方案
整合式記憶體
當大量用戶和數據集參與 AI 模型培訓和 AI 推論時,就會出現一個明確的指標:記憶體容量。
嘗試增加記憶體內資料庫的大小時,一旦單一 CPU 的記憶體值達到最大限,答案一直就是新增更多 CPU 和記憶體。
這個解決方案很有問題,因為一旦工作負載溢出到多個伺服器,網路延遲和工作流程負荷會迅速開始降低資料存取回應和應用程式通訊效能。
但是,您可以在運行數據庫的單一服務器中的內存越大,網絡延遲的機會就越少。輸入計算快速連結® (CXL®)。
從 PCIe Gen 5 開始,記憶體擴充通訊協定層與 CPU 的記憶體架構緊密結合,允許將額外的記憶體或記憶體模組新增至主流單插槽或雙插槽伺服器。
CXL 是 專為解決記憶體容量問題而設計 允許透過 CPU 的周邊 I/O 匯流排新增額外記憶體,在單一伺服器內,以解決您的即時資料分析擷取和處理大型記憶體需求。
增加記憶體空間可避免持續儲存空間溢出
與 256 GB DIMM 相比,使用較低的每位元 96 GB 或 128 GB DIMM 成本
使用快速即時 dBase 部署時,毫秒等級延遲
在 AI 推論中做出關鍵決策時,使用最新的數據
立即與我們聯繫,了解更多我們如何協助您實現 AI 和 HPC 基礎設施專案目標。我們的團隊設計、建置、部署和管理高效能、高可用性的企業解決方案,使客戶能夠實現突破性的創新。