NGraph
ブログ一覧 無料相談
Morning News

一番強いAIに全部やらせるのが一番高い——NVIDIAが示したコスト3分の1と、中小企業での振り分け方

2026.08.12 朝 | 株式会社NGraph 一番強いAIに全部やらせるのが一番高い——NVIDIAが示したコスト3分の1と、中小企業での振り分け方

2026年8月11日、NVIDIAがオープンウェイト(AIの中身にあたるデータ本体を公開する形式)のAIモデル「Nemotron 3.5 Lightning」と、複数のAIモデルへ仕事を振り分ける仕組み「NeMo Switchyard」を公開しました(一次情報)。結論を先に言うと、これは「どのAIを選ぶか」ではなく、「どの仕事をどのAIに回すか」が費用を決める、という話です。

何が起きたか

「Nemotron 3.5 Lightning」は300億パラメータ(モデルの規模を示す数値。学習した文章の量ではなく、AIの中身にあたる調整値の個数です)のMoE(mixture-of-experts、複数の専門モデルを必要に応じて呼び分ける設計)モデルです。重みが公開されたオープンウェイトのモデルで、Hugging Face・ModelScope・OpenRouter・build.nvidia.comから入手できます。NVIDIAは、何十手も自分で作業を進めるエージェント型AI(人の指示を都度待たず、目的達成まで自律的に作業を続ける使い方)の用途で、同クラス最高効率のモデルと位置づけています。同クラスの他モデル比で出力速度が最大4倍、それによりエージェント的なタスクの完了が30%速いとし、PinchBenchというベンチマークで最先端級の精度を維持していると述べています(これらの数値はNVIDIA自身の計測によるものです)。動作先はRTX PC・DGX Spark・DGX Station・Jetson・RTX PROワークステーション・データセンター・クラウドと幅広く用意されています。同時に、リクエストごとに最も適したモデルへ振り分けるルーティングのライブラリ「NeMo Switchyard」もオープンソースで公開されました。

なぜ重要か

この1年、AIの費用の話は「どのモデルが安いか」というモデル比較表が中心でした。今回の発表が前提を1つずらしているのは、同じ仕事の中で複数のモデルを使い分けることを、道具の側が標準の機能として持ち始めた点です。NeMo Switchyardは、1つのAIツールの内部でリクエストごとに送り先のモデルを変える仕組みで、これまで開発者が個別に組んでいた振り分けを、ライブラリとして誰でも使える形にしました。

エージェント型の使い方では、1回の質問の値段ではなく、1つの仕事を終えるまでの合計が効いてきます。長く動くほど、全部を最上位モデルにやらせる設計の割高さが響きます。NVIDIAは、最先端級の精度を保ちながらタスク完了コストをOpus 4.8単独の約3分の1に下げられると主張しています(Opus 4.8はAnthropicの上位モデルの1つです)。これはNVIDIAの内部ベンチマークによる主張で、コスト側のベンチマーク名は当該発表に明示されていません。

私たちが独自に注目しているのは、振り分けの軸が「モデルの賢さ」ではなく「やり直しのコストが高い工程かどうか」であるべき、という点です。段取りを間違えると全部やり直しになる工程には上位モデルを、決まった手順を繰り返す工程には下位モデルを回す——この基準の方が、費用と精度のバランスを実務で説明しやすくなります。

NGraphの視点:このブログ自体を、朝と夕に1本ずつ、決まった手順で出しています。ネタ選びと事実確認は上位モデル、原稿・画像・公開作業は下位モデルに投げる、と手順書に書いて固定してあります。理由は単純で、事実確認を間違えると全部書き直しになるからです。逆に公開前の検査は、人でもAIでもなくスクリプトに任せています——ここは賢さが要らないので、一番安い方法が一番強い、というのが実際の運用です。

中小企業は何をすべきか

この分野の導入相談は FDE型AI導入支援(無料相談・無料AI診断)からどうぞ。

その他の注目ニュース(8月12日 朝時点)

参考(一次情報):
・NVIDIA「Nemotron 3.5 Lightning and NeMo Switchyard」(2026年8月11日)
・中小機構「事業スケジュール」(デジタル化・AI導入補助金2026)
・Macquarie「Anthropic, Macquarie Asset Management and GIC data centre infrastructure partnership」(2026年8月10日)
・Modular「Mojo 1.0 is here」(2026年8月11日)
・あわせて読む:Metaが30B級AIをApache 2.0で公開——PC1台で動くAIと、中小企業が乗る前に確かめる3点(当ブログ・昨日の朝)
・あわせて読む:AI導入の費用はいくらか——補助金の採択5万件データで見る実額と見積の内訳(当ブログ)
← ブログ一覧に戻る
無料で相談する →