タグ: #tco

NVIDIAは、AI推論ワークロードの経済性を評価する新たな指標として「トークンあたりのコスト」を提唱しました。従来のピーク性能やFLOPsではなく、ハードウェア性能、ソフトウェア最適化、エコシステ…