エネルギー効率の向上によるデータセンターのコスト削減
プライベートAI を実装するには、GPU冷却や電源管理など、データセンターインフラストラクチャの設計を大幅に変更する必要があり、これには専門的なリソースとスキルが必要です。
電力と冷却
考慮事項
GPU設計者は、これまでにないコア密度の要件でシリコンの物理的限界を押し広げ、AI の規模と性能の限界を打ち破ります。その結果、これまでデータセンターでは見られなかった莫大な電力消費と発熱が発生しています。
人工知能（AI）、機械学習（ML）、モノのインターネット（IoT）などのデータ集約型テクノロジーの使用は、サーバースペースの急激な増加に拍車をかけ、現代のデータセンターに対する電力と熱の需要はかつてないほど高まっています。
AI インフラストラクチャの将来の要件に備えるために、企業は、より高いラック密度とより高性能なGPUを導入してデータセンターのパフォーマンスを最大化すると同時に、リソースの持続可能性への取り組みを支援し、施設の環境への影響を最小限に抑えることができるテクノロジーを実装しています。
具体的な戦略には、再生可能エネルギー源の採用や、ダイレクト・トゥ・チップ、液体冷却、浸漬などの革新的な冷却システムなどのエネルギー効率の高いインフラの導入が含まれます。これにより、エネルギーコストの削減と持続可能性の目標の達成が可能になります。
電力と冷却の専門知識
AI モデリングには、ラックあたり最大50kW以上の電力要件により急速に増加しているGPUラック密度の増加が伴います。具体的には、ノードが4つだけのH100ラックには44kWが必要です。これは、従来のデータセンターの業界平均である従来のラックあたり8.6〜10kWとはまったく対照的です。
チップ密度と熱出力が上昇し続け、最新のGPUプロセッサによって発生する熱負荷が急激に増加するにつれて、現代のデータセンターにおけるこの膨大な計算能力により、従来の空冷方式はパフォーマンスの障壁に直面しています。
AI インフラストラクチャ設計のすべては電力に依存しているため、Penguin Solutions は、液冷や液浸などの高度な冷却技術を念頭に置いて、データセンターのフットプリントの物理的なレイアウトを計画しています。power dictates everything. That's why Penguin Solutions plans the physical layout design of the data center footprint with advanced cooling technologies such as liquid cooling and liquid immersion in mind.
ダイレクト・トゥ・チップ
このデータセンターの冷却方法では、コンポーネントを直接収縮させるコールドプレートに冷却液を送り込むことで、サーバーを直接冷却します。
単相液体浸漬
サーバーは、熱を吸収するオイル、フルオロカーボン、合成エステルなどの非導電性の単相冷却液に浸されます。
二相液体浸漬
サーバーは誘電体の入った浴槽に浸され、沸騰して熱が除去されます。
25+
長年の経験
85,000+
GPU の導入と管理
20億以上
GPU ランタイムの時間
浸漬冷却による持続可能な冷却
計算量の多いワークロードの消費電力の増加、およびAI モデルのトレーニングとチューニングの要件の増加により、従来の冷却方法ではシステムを持続的に冷却することができません。
Penguin SolutionsがAMD およびShellと提携して、Shellのヒューストンデータセンターでイマージョン対応システムを実装することで、どのように排出量を抑えながらパフォーマンスを向上させたかをご覧ください。
AI インフラは、ダイレクト・トゥ・チップ液体冷却、単相または二相浸冷却、高効率空冷、またはこれらの冷却方式のハイブリッドな組み合わせなどの高度なシステムを使用して冷却されます。
AI センターとHPCセンターでは、ダイレクト・ツー・チップの液体冷却、リアドア式熱交換器、単相または二相の浸漬冷却が最大のメリットとなり、増大する熱負荷とラック密度を持続的に処理できます。
冷却システムは、エアハンドラー、冷水システム、コールドプレートに直接ポンプで送られる液体、またはサーバーを誘電体に浸すことによって、IT機器から熱を除去します。イマージョン方式とダイレクトリキッド方式により、オンボードサーバーファンが不要になり、インフラストラクチャのオーバーヘッドが削減され、高電力CPU/GPU環境を効率的に管理できます。
AI データセンターは、電力効率の高いハードウェア、インテリジェントなラックレベルのレイアウト計画、再生可能エネルギーの使用、液浸ソリューションやダイレクトリキッドソリューションなどの冷却システムを組み合わせています。この統合設計は、パフォーマンスを維持しながら、エネルギー消費を最小限に抑え、高密度ラックをサポートし、二酸化炭素排出量を改善し、PUEを低減します。improves carbon footprint, and lowers power usage effectiveness (PUE) while maintaining performance.
主な考慮事項には、計算密度 (ラックあたりのkW)、熱負荷、施設のレイアウト、エネルギーコスト、二酸化炭素削減などの環境への影響、継続的なスケーラビリティなどがあります。冷却戦略は、持続可能性の目標と運用の複雑さと一致している必要があります。
コンピューティングまたは熱需要が高い業界 (例: 石油とガス、 科学研究、 金融、自動車、および大規模AI アプリケーション ディスクリート製造とプロセス製造 そして 健康管理、最適化された電力および熱管理戦略による直接的なメリットが得られます。
ペンギン・ソリューションズの専門家に聞く
今すぐお問い合わせいただき、持続可能性の目標を達成しながら、電力と冷却の要件を含むAI およびHPCデータセンターのレイアウトをどのように支援できるかを詳しく学んでください。