一番強いAIに全部やらせるのが一番高い——NVIDIAが示したコスト3分の1と、中小企業での振り分け方
2026.08.12 朝 | 株式会社NGraph
2026年8月11日、NVIDIAがオープンウェイト(AIの中身にあたるデータ本体を公開する形式)のAIモデル「Nemotron 3.5 Lightning」と、複数のAIモデルへ仕事を振り分ける仕組み「NeMo Switchyard」を公開しました(一次情報)。結論を先に言うと、これは「どのAIを選ぶか」ではなく、「どの仕事をどのAIに回すか」が費用を決める、という話です。
何が起きたか
「Nemotron 3.5 Lightning」は300億パラメータ(モデルの規模を示す数値。学習した文章の量ではなく、AIの中身にあたる調整値の個数です)のMoE(mixture-of-experts、複数の専門モデルを必要に応じて呼び分ける設計)モデルです。重みが公開されたオープンウェイトのモデルで、Hugging Face・ModelScope・OpenRouter・build.nvidia.comから入手できます。NVIDIAは、何十手も自分で作業を進めるエージェント型AI(人の指示を都度待たず、目的達成まで自律的に作業を続ける使い方)の用途で、同クラス最高効率のモデルと位置づけています。同クラスの他モデル比で出力速度が最大4倍、それによりエージェント的なタスクの完了が30%速いとし、PinchBenchというベンチマークで最先端級の精度を維持していると述べています(これらの数値はNVIDIA自身の計測によるものです)。動作先はRTX PC・DGX Spark・DGX Station・Jetson・RTX PROワークステーション・データセンター・クラウドと幅広く用意されています。同時に、リクエストごとに最も適したモデルへ振り分けるルーティングのライブラリ「NeMo Switchyard」もオープンソースで公開されました。
なぜ重要か
この1年、AIの費用の話は「どのモデルが安いか」というモデル比較表が中心でした。今回の発表が前提を1つずらしているのは、同じ仕事の中で複数のモデルを使い分けることを、道具の側が標準の機能として持ち始めた点です。NeMo Switchyardは、1つのAIツールの内部でリクエストごとに送り先のモデルを変える仕組みで、これまで開発者が個別に組んでいた振り分けを、ライブラリとして誰でも使える形にしました。
エージェント型の使い方では、1回の質問の値段ではなく、1つの仕事を終えるまでの合計が効いてきます。長く動くほど、全部を最上位モデルにやらせる設計の割高さが響きます。NVIDIAは、最先端級の精度を保ちながらタスク完了コストをOpus 4.8単独の約3分の1に下げられると主張しています(Opus 4.8はAnthropicの上位モデルの1つです)。これはNVIDIAの内部ベンチマークによる主張で、コスト側のベンチマーク名は当該発表に明示されていません。
私たちが独自に注目しているのは、振り分けの軸が「モデルの賢さ」ではなく「やり直しのコストが高い工程かどうか」であるべき、という点です。段取りを間違えると全部やり直しになる工程には上位モデルを、決まった手順を繰り返す工程には下位モデルを回す——この基準の方が、費用と精度のバランスを実務で説明しやすくなります。
中小企業は何をすべきか
- いま払っているAIの費用を「人数×月額」ではなく「1つの仕事を終えるまで」で見る。同じ作業を1か月に何回やっているかを数えるだけでよい。
- 社内の作業を「やり直しのコストが高い/低い」で2つに分ける。高い方だけ上位プラン・上位モデルにする。全社員に一律で最上位を配るのが一番高い。
- 自動で振り分ける仕組みは今すぐ入れなくてよい。ルーティングは開発者向けの部品なので、まずは人が手で振り分ける(この作業はこのAI、と決めて書き出す)だけで効果が出る。自社の確かめ方は、ベンダーや社内担当に「どの作業がどのモデルで動いているか」を1枚で出してもらうこと。
この分野の導入相談は FDE型AI導入支援(無料相談・無料AI診断)からどうぞ。
その他の注目ニュース(8月12日 朝時点)
- デジタル化・AI導入補助金2026、第4次締切は8月25日17:00 — 中小機構が公表している事業スケジュールによると、第4次締切は2026年8月25日(火)17:00です。通常枠・インボイス枠2類型・セキュリティ対策推進枠・複数者連携枠の全枠共通で、交付決定日は2026年10月7日(水)予定。事務局は「締切時間を過ぎた場合は、いかなる理由であっても受付対応は一切いたしかねます」と明記しています(一次情報)。中小企業への一言: AI・ITツールの導入費用に使える国の補助金です。次の締切まで残りわずかなので、間に合わないなら次の締切を前提に段取りを組む方が確実です。
- Anthropic、専用データセンター基盤「Theseus Infrastructure」を発表(8月10日) — Anthropic向けの専用データセンターを開発・運営・賃貸するプラットフォーム「Theseus Infrastructure」の設立が発表されました。Macquarie Asset Managementが運用するファンドとシンガポールの政府系ファンドGICがプラットフォームを保有し、Anthropicがアンカーテナントとして長期契約で入居します(当初は米国中心)。Anthropicは送電網の増強費用を100%負担し、自社のデータセンター需要に起因する消費者の電気料金の上昇分も負担すると表明しています(一次情報)。中小企業への一言: AI利用料の原価は電力とデータセンターへの巨額投資です。値下げ競争が続いても、安いから使い放題を前提に見積もらない方がよいでしょう。
- プログラミング言語「Mojo」が1.0に到達(8月11日) — Modularが開発する「Mojo」が正式に1.0に到達しました。2023年の最初のリリース以来の節目で、1.x期間中の変更は原則として「追加」が中心になるとModularは表明しています。破壊的な変更はあり得るものの、C++のような成熟した言語の進め方に沿って慎重に扱うとしています(一次情報)。中小企業への一言: 直接触るものではありませんが、AIの土台側の道具が「安定版」を名乗り始めたのは、外注や内製で「来年には作り直し」になるリスクが下がる方向の変化です。ただし1.0は約束であって実績ではない、という留保はつけておきます。
・NVIDIA「Nemotron 3.5 Lightning and NeMo Switchyard」(2026年8月11日)
・中小機構「事業スケジュール」(デジタル化・AI導入補助金2026)
・Macquarie「Anthropic, Macquarie Asset Management and GIC data centre infrastructure partnership」(2026年8月10日)
・Modular「Mojo 1.0 is here」(2026年8月11日)
・あわせて読む:Metaが30B級AIをApache 2.0で公開——PC1台で動くAIと、中小企業が乗る前に確かめる3点(当ブログ・昨日の朝)
・あわせて読む:AI導入の費用はいくらか——補助金の採択5万件データで見る実額と見積の内訳(当ブログ)
