NVIDIA、Nemotron 3 UltraとLangChainの最適化で推論コストを10分の1に削減

NVIDIAは、オープンモデルであるNemotron 3 UltraがLangChainのDeep Agentsハーネスとの組み合わせにより、主要なクローズドモデルに匹敵する性能を低コストで実現したと発表しました。モデルの再学習を行わず、LangChain側のオーケストレーション基盤をモデルの特性に合わせて調整することで、オープンモデルとして最高水準の精度とスループットを達成しています。

LangChainのDeep Agentsベンチマークを用いた測定では、Nemotron 3 Ultraは高スコアを記録している商用クローズドモデルと同等のタスク完了能力を示しました。従来の高精度モデルと比較して推論コストが10分の1に抑えられており、エンタープライズ環境において特定の業務に特化したエージェントを多数、並列かつ継続的に実行・評価できる運用効率が確保されています。

今回の成果はモデル自体の変更ではなく、モデルを取り巻くエンジニアリング環境の最適化によって得られたものです。利用者はカスタマイズ可能なフルオープンのスタックを維持したまま、実行速度の向上とコスト低減の恩恵を受けられます。ただし、この性能指標は特定のハーネス環境下で最適化された結果であるため、独自の実装環境におけるスループット差分には留意が必要です。