NVIDIA、Nemotron 3 UltraとLangChainの最適化により推論コストを10分の1へ削減

NVIDIAは、オープンモデルのNemotron 3 Ultraにおいて、AIエージェント構築プラットフォームであるLangChainとの連携を強化したと発表しました。LangChainが提供する「Deep Agents」ハーネスをNemotron 3 Ultra向けにチューニングしたことで、モデルの再学習を行うことなく、オープンソースモデルとして最高水準の精度とスループットを実現しています。

LangChainのベンチマーク測定では、クローズドな主要モデルと同等のビジネス・タスク遂行能力を維持していることが示されました。従来の高コストな商用APIを利用する構成と比較して、1実行あたりの推論コストを10分の1に抑えられる点が最大の差分です。これにより、企業はコストを抑えつつエージェントの評価や実験を継続的に回せる環境を構築できます。

今回の最適化は、モデル自体の改変ではなく、モデルを取り巻くエンジニアリング環境の調整によって達成されています。フルスタックのオープンな環境での実行が可能なため、カスタマイズ性やデータの所有権を維持したまま、オンプレミスを含む自由な環境でエージェントを運用できる柔軟性が備わっています。