AIインフラ設計はサーバーからラック単位へ、共同設計が鍵に

SK hynixの発表によると、次世代AIインフラの設計単位は個別サーバーからラックやデータセンター全体へと移行しており、開発初期から全要素を最適化する「共同設計」が核心となります。エージェンティックAIの登場により、メモリやネットワーク間のデータフローを円滑にする設計の重要性が高まっています。

AI技術の競争の軸は、個別のアクセラレータやモデルの性能を超え、それらを支えるインフラ全体の設計と運用へと拡大している。単に高速な演算装置を確保するだけでなく、メモリ帯域幅、ネットワーク、ストレージ、そしてこれらを維持するための電力や冷却システムが、一つの有機的な構造として噛み合うことで、実際の産業現場でAIが動作可能となるためだ。

SK hynixが発表した「AI Infrastructure Insight」によると、次世代AIインフラ設計の核心は、個別のサーバー単位を超えて、ラック（Rack）やデータセンター全体を一つの単位と見なし、すべての要素を最適化する「共同設計（Co-design）」にある。これは、異なる技術やシステムの要求条件を開発の初期段階から考慮し、システム全体という観点から最適化を行う手法である。

サーバーを超え、ラック単位へと広がる設計範囲

AIインフラの設計単位は、従来の個別サーバーから「ラックスケールシステム（Rack-scale System）」へと急速に移行している。大規模なAIの学習と推論は、単一のアクセラレータやサーバーのみでは処理が不可能であり、数多くのアクセラレータが緊密に接続されて作業を分担する必要があるためだ。これに伴い、ラック内部の複数のサーバーとアクセラレータを高速インターコネクトで接続し、メモリ構成から電力・冷却条件に至るまで、ラック単位で統合設計する方式が導入されている。

設計の範囲はここで止まらず、データセンター全体へと広がる。AIクラスターの規模が大きくなるほど、ラック間の通信効率や物理的な配置がシステム性能に決定的な影響を及ぼすからだ。ラックの配置や接続距離、ネットワーク構造はデータ転送の遅延を左右し、高密度ラックから発生する膨大な熱を処理するための冷却設備や、安定した電力分配構造も、データセンターの物理的構造とともに設計されなければならない。

ワークロードの特性に応じたカスタマイズ・インフラの構築

インフラ設計のもう一つの基準は、処理対象となる「ワークロード（Workload）」の性質である。すべてのAI作業に同一の構造を適用することはできないからだ。大規模モデルの学習の場合、数多くのアクセラレータが長時間にわたって並列演算を行う必要があるため、高いスループットとメモリ帯域幅、アクセラレータ間の高速な接続性が最優先される。一方、推論段階においては、低遅延とデータアクセス速度、電力およびコスト効率が主要な設計条件となる。

特に、ユーザーの目標に基づいて自ら計画を立てて作業を遂行する「エージェンティックAI（Agentic AI）」のような技術が登場したことで、インフラへの要求条件はさらに複雑化している。エージェンティックAIは連続的な推論過程において外部ツールやデータに繰り返しアクセスする必要があるため、メモリ、ストレージ、ネットワーク間を往来するデータフローをいかに円滑に処理できるかが、実際の性能を分ける変数となる。

メモリ企業の役割の変化、「カスタムHBM」への進化

インフラの構成要素が緊密に噛み合うことで、メモリ企業の役割も変化している。かつては完成した部品を事後的に組み合わせる方式であったが、現在はアクセラレータの性能や電力特性に合わせて、初期段階からメモリ仕様を共に決定する方式が広がっている。その代表的な事例が高帯域幅メモリ（HBM）だ。次世代HBMでは、積層されたDRAMチップの下部にあるベースダイ（Base Die）を中心に、顧客システムの要求を反映させる「カスタムHBM」の議論が本格化する傾向にある。

こうした流れに従い、メモリ企業は顧客企業のシステムロードマップを早期に把握し、設計段階から参画して必要なメモリ条件を共に定義する協業を拡大している。SK hynixも、顧客の次世代AIシステム開発プロセスに初期段階から参加し、協力を強化している。顧客のシステム方向性を先制的に理解し、設計に深く関与する能力が、今後のAIインフラ市場における差別化ポイントになると見込まれている。

出典：news.skhynix.co.kr