リアルタイム AI 推論向けに設計された大容量メモリサーバー

インメモリデータベースの規模を拡大しようとする場合、1 つの CPU 分のメモリ容量が限界に達した時点で、常に CPU とメモリを追加するという方法がありました。

この方法では、ワークロードが複数のサーバーにオーバーフローするとすぐに、ネットワーク遅延とワークフローのオーバーヘッドにより、データアクセスの応答速度とアプリケーション通信パフォーマンスが急速に低下し始めるという問題があります。

ただし、データベースを実行している単一サーバーのメモリ容量を大きくすることで、ネットワーク遅延が発生する可能性は低くなります。Compute Express Link® (CXL®) がお役に立ちます。

PCIe Gen 5以降、メモリ拡張プロトコル層はCPUのメモリアーキテクチャと緊密に連携され、メインストリームのシングルソケットまたはデュアルソケットサーバに追加のメモリまたはメモリモジュールを追加可能になりました。

CXL はCPUの周辺I/Oバスを介してメモリを追加できるようにすることで、１台のサーバー内での メモリ容量の問題を解決するために設計されています。リアルタイムのデータ分析の取得と大量のメモリ処理が可能になります。