NVIDIA、カスタムXPUと既存インフラを統合するAI Factory向け基盤を拡張

NVIDIAは、ハイパースケーラーやAIネイティブ企業が独自のカスタムXPU（特定用途向けプロセッサ）を導入しつつ、実証済みの成熟したインフラ基盤と統合できる新たな設計方針を発表しました。AI Factoryの経済性は、秒間トークン数やワットあたりのトークン数、トークン単価、稼働率といったスループット指標によって定義されるため、単なる加速器の集合体ではなく、フルスタックの工場としてインフラを構築することが求められています。

このアプローチにより、企業はスケールアップ・スケールアウト用ネットワーク、ラック規模のアーキテクチャ、およびプロダクション向けソフトウェアをNVIDIAの確立されたエコシステムから活用できるようになります。自社開発のカスタムシリコンを用いる場合でも、ネットワークやソフトウェア層の構築コストを抑え、最も差別化が必要なチップ設計そのものに注力できる環境が提供されます。

一方で、この統合モデルはAI Factory規模での運用を前提としており、設計から市場投入までの複雑性とコストが依然として大きなハードルとなります。実装にあたっては、ラック全体の電源設計やサプライヤーエコシステムを含めた包括的なプラットフォーム設計との整合性を担保する必要があります。