NVIDIA、独自XPUと既存インフラを統合するAI Factory向け新アーキテクチャを提案

NVIDIAは、ハイパースケーラーやAIネイティブ企業が開発する独自アクセラレータ（XPU）を、実績のあるAIインフラストラクチャと融合させる「AI Factory」構想の指針を明らかにしました。この設計思想では、個別のチップ単体ではなく、ラック単位のアーキテクチャやスケールアップ・スケールアウト用のネットワーク、ソフトウェアスタックまでを含めた統合的なプラットフォームとしてAI基盤を構築します。

従来のAIインフラは、個々のアクセラレータを単に収集・接続する形態が一般的でしたが、新しいアプローチでは継続稼働を前提とした「工場」としての経済性を重視します。具体的には、秒間トークン数やワットあたりのトークン生成量、トークン単価、設備利用率といった指標を定義し、システム全体で出力を最大化する構成を採ります。これにより、カスタムシリコンの開発企業は、複雑で高コストな周辺基盤の開発を避けつつ、独自の演算機能に特化することが可能になります。

ただし、このシステムを実現するにはNVLink Fusionなどの高度な相互接続技術や、ラック規模での熱管理、供給エコシステムとの連携が不可欠です。独自XPUを市場へ迅速に投入する上での障壁を解消する一方で、インフラ全体の設計仕様が従来の汎用サーバー構成から大きく乖離するため、導入時の物理的なラック設計やソフトウェアの適合性を精査する必要があります。