ソリューション > Integrated Memory

AIインフラストラクチャ向けIntegrated Memoryソリューション

Penguin Solutionsは、メモリ容量、帯域幅、レイテンシのボトルネックがAIのパフォーマンスを制限するデータ集約型環境向けに、CXLベースのメモリ拡張、DRAMモジュール、フラッシュストレージを提供します。

お問い合わせ
メモリソリューション

AIモデリングの推進と
大規模な推論

推論やエージェント型AIのワークロードがより永続的でコンテキストリッチになるにつれ、メモリはパフォーマンスとスケーラビリティにおける主要なボトルネックの一つとなりつつあります。データが不足すると、最も高速なグラフィックス処理ユニット(GPU)であっても処理速度が低下し、メモリやストレージからのデータ供給を待つ間、トークン間でアイドル状態が発生してしまいます。

AIモデルのトレーニングや大規模な推論の実行には、コンピューティングとメモリ間で膨大なデータを移動させる必要があります。AI導入事例が増加する中、容量、帯域幅、レイテンシが不足すると、クラスター内のすべてのプロセッサでアイドル時間が急速に蓄積されます。しかし、ボトルネックとなっているのはGPUではありません。GPUにデータを供給するメモリとストレージです。

Penguin Solutionsは、コンピューティング集約型環境向けに構築された統合メモリポートフォリオでこの課題を解決します。これには、従来のサーバーメモリの制限をはるかに超えて容量を拡張するCompute Express Link® (CXL) ベースのメモリ、アクティブなワークロードが要求する高帯域幅かつ低レイテンシのパフォーマンスを実現するDRAMモジュール、そして各モデルにデータを供給するデータパイプラインに信頼性の高い大容量の基盤を提供するフラッシュストレージが含まれます。これらのメモリソリューションを組み合わせることで、組織はワークロードの特性に合わせてパフォーマンスの各側面を柔軟に拡張できるようになります。

Penguin Solutionsを活用すれば、インフラストラクチャがAIの野心的な目標を制限することなく、その成長の軌道に合わせて進化し続けます。組織がモデリングや推論の限界を押し広げる中で、Penguin Solutionsは、AIイニシアチブをパイロット段階から本番環境へと移行させるためのメモリおよびストレージの基盤を提供します。

お問い合わせ

CXLベースのメモリ

CXL®メモリソリューションは、現代のコンピューティング環境において、柔軟で拡張性の高いメモリ・アーキテクチャを実現します。CXLテクノロジーを活用してシステムメモリの機能を拡張することで、組織はより大規模なワークロードに対応し、リソース効率を向上させ、動的なインフラストラクチャ設計を活用できるようになります。

CXLベースのソリューションは、AIのトレーニングや推論、インメモリデータベース、そして大容量のメモリアクセスを必要とする高度な分析ワークロードに最適です。また、分散システム全体でのコンポーザビリティ(構成可能性)とスケーラブルなリソース割り当てに重点を置いた、進化するデータセンターのメモリ中心型戦略の課題も解決します。

大規模なAI推論において、CXLメモリはGPUメモリからキーバリュー(KV)キャッシュを専用の大容量アプライアンスへオフロードすることで、初回トークン生成時間(TTFT)を短縮し、GPUをメモリのボトルネックから解放します。Penguin SolutionsのMemoryAI™ KV Cache Serverは、クラスター全体でアクセス可能なプール型メモリにより、このアーキテクチャを実運用環境で実現します。

CXLベースのメモリについて詳しく見る

DRAMモジュール

DRAMモジュールは、エンタープライズサーバーやHigh-Performance Computing (HPC) システムにおけるアクティブな処理ワークロードに対し、高速かつ低レイテンシのシステムメモリを提供します。サーバーのメモリチャネルに直接インストールされるDRAMは、計算負荷の高いタスクを実行する中央演算処理装置(CPU)やアクセラレータによる迅速なデータアクセスを可能にします。

これらのメモリモジュールは、AIモデルのトレーニング、仮想化、科学技術計算、および一貫した稼働時間と応答性がワークロードの実行に不可欠なトランザクション型エンタープライズアプリケーションで広く使用されています。

最も過酷なコンピューティング環境に耐えうるよう設計されたPenguin SolutionsのDRAMは、本番環境規模のAIに求められる信頼性とパフォーマンスを実現します。

DRAMモジュールを見る

フラッシュストレージ

フラッシュストレージソリューションは、エンタープライズ環境やデータ集約型のコンピューティング環境向けに、大容量かつ不揮発性のデータストレージを提供します。ソリッドステートドライブ(SSD)技術を採用しており、幅広いアプリケーションにおいて高速なデータ取得と信頼性の高い長期データ保持を実現します。

フラッシュストレージは、AIデータパイプライン、大規模分析、アプリケーションホスティング、エンタープライズデータベースなどで頻繁に使用されています。これらのストレージソリューションにより、組織は増大するデータ量を効率的に管理しながら、重要なワークロード全体で強力なパフォーマンスと信頼性を維持することが可能になります。

防衛・航空宇宙分野の過酷な環境下で実績のあるセキュアなストレージ技術を基盤とするPenguin Solutionsのフラッシュストレージは、組織のAIワークロードが求める大規模なニーズに対しても、同等の耐久性と信頼性を提供します。

フラッシュストレージの詳細を見る
コールバックをリクエストする

Penguin Solutionsの専門家に相談する

Penguin Solutionsは、拡張性を考慮して設計されたメモリとストレージにより、現代のAI、HPC、エンタープライズ環境を支えています。特に、容量制限を突破し、負荷の高いAIワークロードを可能にするCXLベースのメモリを主軸としています。

相談する