NGraphエヌグラフ
Evening Deep Dive

Amazonが費用を98%減らしたAIの置き換えは、1日1,500件を超えてから得になる

2026.11.10 夕 | 株式会社NGraph 紺地に大きな「98%」と、「Amazonの98%減は1日1,500件から得になる」の題字がある表紙

Amazonの技術者2人が、AIの費用を98%減らしたと書きました。

2026年11月9日、AWSのオープンソース「Strands Agents」の公式ブログでの公表です。社内チケットのラベル付けを、Claude Sonnet 4.6から、判定専用モデル「Strands Decider」に替えました。

ただし、公表された単価で計算すると、この置き換えが得になるのは件数が多い会社だけです。1台を動かし続ける前提なら、境目は30日で約4万5,700件、1日にして約1,500件です。

この記事でわかることは3つです。

Amazonは20種類のラベル付けを、文章を書けないAIに替えた

仕事は、社内チケットの仕分けです。チケットとは、顧客からのエスカレーション、設備容量の依頼、自動アラーム、セキュリティの指摘など、対応が要る1件1件の記録です。20種類のカテゴリから1つを選び、ラベルを付けます。記事は、世界最大級の社内チケットシステムの1つだと書いています。

以前は、Claude Sonnet 4.6がこの仕事をしていました。長い指示文を毎回読み、答えをJSONという決まった書式で、理由づけつきで返します。LLMとは、文章を読み書きする大きな言語モデルのことで、ChatGPTやClaudeの中身にあたります。

替えた先のStrands Deciderは、文章を書きません。渡された選択肢から選び、その確率を返すだけです。

項目Claude Sonnet 4.6Strands Decider E4B改善
1回の平均時間4,215ミリ秒897ミリ秒78%
入力トークン6,5542,009—
出力トークン1701—
合計トークン6,7242,01070%

トークンとは、AIが文章の量を数える単位で、料金はこの数で決まります。表の数字は、チケット1件あたりです。Sonnetの利用を止めた日には、処理を動かす側の平均実行時間も74%下がったそうです。

費用はどうでしょうか。記事は、公表されているus-east-1のオンデマンド価格で計算し、100万件あたり約22,200ドルが約500ドルになったと書いています。約44倍安く、削減率は98%です。年に数百万ドルのトークン費用が浮く、とも書いています。置き換えた判定専用モデルは、同じくらいよくできたと説明されています。

この費用は定価ベースの計算で、Amazonが実際に払った額ではありません。AWSでプログラムを動かすLambdaというサービスの費用も入っていません。

100万件あたりの費用は、約22,200ドルから約500ドルへ

ラベル付け100万件あたりの費用(定価で計算)22200ドルClaude Sonnet 4.6500ドルStrands Decider E4B定価で計算すると約44倍の差。ただし件数が多いときの話出所:Strands Agents公式ブログ(2026年11月9日)の公表値。us-east-1のオンデマンド定価

判定専用モデルは、選択肢から選んで確率を返すだけのAI

判定専用モデルとは、文章を書かず、渡した選択肢から選んで確率を返すモデルです。Strands Agentsチームは、柔軟さを手放す代わりに、同じ大きさなら速く、必ず渡した選択肢の中から答え、遅延が小さいと説明しています。

各判定には、確信度という点が付きます。その答えにどれだけ偏っているかを表す数です。「この数を超えたら自動で進める」と決めた線を、しきい値と呼びます。

最初のモデルは、2026年10月1日に公開された「Strands Decider 2B」です。パラメータ20億のオープンソースで、手元のCPUやGPUで動きます。10月15日には、Gemma 4をもとにした4サイズが加わりました。Amazonの技術者が選んだE4Bは、その1つです。

向く仕事と、向かない仕事

得意なのは、決まった一覧から選ぶ閉じた選択で、量が多く、元の経路の遅さが問題になっている仕事です。Amazonの技術者も、この3つがそろったから成り立った、と書いています。

向かない仕事は、はっきりしています。

最後の項目には数字の裏づけがあります。モデルが1回に読める分量の上限、つまり窓は、公開の評価では4,096トークンでした。Amazonの本番のラベル説明だけで、この窓より長かったそうです。

判定だけを返すAIの仕組みは、AIは文章を書かず、判定だけを返せるにも書きました。

98%は、1日およそ1,500件を超えてから成り立つ

ここからは、公表された単価を使った当社の計算です。Amazonが言った数字ではありません。

2つの単価は、料金の取り方が違う

項目Claude Sonnet 4.6Strands Decider E4B
料金の形使った分だけ計算機1台を借りる
単価入力100万トークン3.00ドル、出力100万トークン15.00ドル1台1時間1.408ドル
1件の費用約0.0222ドル約0.0005ドル
100万件約22,200ドル約500ドル

Sonnetは、AWS経由でClaudeなどを呼び出すBedrockで使い、入力と出力のトークン数で払います。Deciderは、AWSで自分のモデルを計算機に載せて動かすSageMakerで、ml.g5.xlargeという計算機を借ります。

1回の処理は約640ミリ秒で、1台で1時間に約5,600件こなせます。使い切れば100万件あたり250ドルです。急増に備えて余裕を持たせるので、記事は約500ドルで見ています。

一方、Deciderの費用は、使っても使わなくても、台を借りている時間で決まります。ここが、98%の落とし穴です。

境目は1日約1,500件

当社の計算では、計算機を30日止めずに動かすと、1.408ドルの24時間分を30日で、約1,014ドルです。1日にして約33.8ドルになります。

Sonnetは1件約0.0222ドルなので、約1,014ドルは約4万5,700件ぶんです。30日で割ると、1日約1,500件になります。これより少ない件数なら、1台を動かし続ける構成は、Sonnetより高くつきます。

Sonnetの費用が計算機1台の固定費に並ぶのは、30日で約4万5,700件

30日あたりのClaude Sonnet 4.6の費用1000件22ドル1万件222ドル約4万5700件1014ドル← 1台30日の固定費 約1,014ドルと同じ10万件2220ドルこれより少ない件数では、1台を動かし続けるほうが高い出所:公表された単価をもとに当社が計算

この計算には、前提が3つあります。

100万ドル浮かせるには、年に約4,600万件

100万件あたりの差は、22,200ドルから500ドルを引いた21,700ドルです。年に100万ドルを浮かせるには、約4,600万件が要ります。Amazonの書く「年に数百万ドル」は、その数倍の規模の話です。

御社のチケットや問い合わせは、30日で何件あるでしょうか。数えてから、比べる相手を決めても遅くありません。

件数の数え方や、どの仕事が置き換えの候補になるかは、無料相談で一緒に見ます。

モデルを替えなくても減らせるのは、AIに渡す説明と返させる文の長さ

トークンが70%減った出どころは、2つあります。

1つ目は、出力です。JSONの答えと理由づけではなく、選んだ1つだけを返すようになり、170トークンが1になりました。

2つ目は、入力です。本番のラベル説明が窓より長かったので、20個のラベルを1〜2文の基準に書き直しました。「どれでもない」を加え、1つの選択問題として渡しています。チケットのデータはSonnetに渡すものと同じで、長いチケットは古いコメントから落として窓に収めます。

この2つは、モデルを替えなくても試せます。例えば、仮に、Sonnetのままで、入力を2,009トークンまで削れたとしましょう。1件は約0.0086ドルで、0.0222ドルから約61%減ります。入力だけなら、6,554が2,009になり、約3分の1です。

ただし、この計算には但し書きが2つあります。トークンの数え方はモデルごとに違うので、目安にとどまります。そして、説明を短くしても仕分けの精度が保たれるかは、Amazonの記事では測られていません。Sonnetで短い説明文を試した結果は、書かれていないからです。自社の仕事で確かめる必要があります。

真似する価値があるのは、モデルではなく3段の切り替え

設定ひとつで、3つの状態を行き来する

Amazonは、設定を配るAWSのサービス、AppConfigで3つの状態を切り替えました。

設定動き
BEDROCKSonnetが全件にラベルを付ける。Deciderは呼ばない
DUAL両方を同時に呼ぶ。チケットにはSonnetの結果を付け、Deciderの結果と比べる
DECIDERDeciderが全件にラベルを付ける。Bedrockは呼ばない

しかも、戻したいときは45秒の設定変更で足ります。いきなり全件を替えず、まず並べて比べる段を挟んだことが、この事例の一番の工夫だと読みました。

食い違いは、1件ずつ判定した

実際の流れで両方を動かし、食い違いを1件ずつ判定したことが、どの机上の評価より多くを教えた、とAmazonの技術者は書いています。

最初に使ったのは、Strands Decider 2Bでした。テスト用のチケットで、E4Bが明らかに良かったので切り替えています。

選ばれたE4Bは、公開の成績では4つのうち下から2番目

JevBench v1・231問の正解率(%)26B-A4B89.6%12B86.6%E4B81.0%← 選ばれたE2B77.9%それでもAmazonのチケットでは本番のSonnetを上回った。自分のデータで測るしかない出所:Strands Agents公式ブログ(2026年10月15日)JevBench v1・231問の正解率(%)

図のとおり、E4Bは公開の成績では4つの真ん中より下です。それでも、Amazonのチケットでは、本番のSonnetを上回りました。つまり、公開の成績表は、自社のデータの代わりになりません。

もう1つ、意外な点がありました。同じ中身でも、JSONのキーの順番を変えると、出力の確率が最大0.19動いたのです。いまは、キーを並べ替えてから送っています。モデルがどれくらい確信していればラベルを付けるか、というしきい値も、E4Bに替えたあとで調整したそうです。

当社の実測。選ぶだけの仕事でも、当たり方は判定ごとに違った
当社は2026年9月、別の会社の判定専用AI、TypeSafe社のJevで、国会の予算委員会の質問2,424件を16の分野に仕分けました。Jevは自前の計算機を借りず、使った分だけ払う形です。失敗は0件、入力はおよそ678万トークンで、公式の価格で計算して約45円でした。
ただ、判定の種類で当たり方が大きく違いました。2026年9月26日の抜き取りで、法律の「施行済み・施行待ち」などの段階の判定は約97%正しかった一方、政府が「見送り」と答えたかどうかの判定は約5割でした。該当の26件は、画面から外しています。
選ぶだけの仕事でも、判定の種類ごとに抜き取って確かめないと、当たる判定と外れる判定が同じ画面に並びます。Amazonの技術者が食い違いを1件ずつ見たのと、同じ理由です。詳しくはJevで国会の質問2,424件を仕分けたら約45円だったに書きました。

よくある失敗は3つ

1 件数を数えずに、専用の計算機を借りる

台を借りる費用は、30日で約1,014ドルかかります。月1,000件の仕分けなら、Sonnetは約22ドルです。98%の削減は、件数が多いときの数字だと覚えてください。

2 説明文が要る仕事や、選択肢が毎週変わる仕事に使う

判定専用モデルは、文章を書けません。窓も4,096トークンです。ラベルごとに長い説明が要る仕事や、一覧が毎週変わる仕事は、Amazonの技術者自身が、おそらく置き換えられないと書いています。

3 並べて比べずに、一気に切り替える

Amazonは、実際の流れで両方を動かし、食い違いを1件ずつ見ました。JSONのキーの順番だけで、確率が最大0.19動くことにも、技術者は驚いたと書いています。比べる前に、送り方をそろえておく必要があります。

この切り替えを自社の仕事に当てはめたいときは、AI現場実装のページで進め方を説明しています。

次にやること

手順やること
1 数える仕分け・判定の仕事を1つ選び、30日の件数を数える
2 確かめる選択肢が決まっているか、説明文が要るかを見る
3 削るまず説明を1〜2文に削り、返させる文を短くする
4 並走させる替えるなら、両方を動かして食い違いを1件ずつ見る
5 戻す戻す手順を、先に作っておく

98%は、件数が多い会社の数字でした。件数が少なくても、説明を削る、返す文を短くする、並べて比べる、という3つは真似できます。

まず、1つの仕分けの仕事で、30日の件数を数えてみてください。

AIに任せる仕事の件数と費用を、一緒に数えます。

無料で相談する

よくある質問

判定専用モデルとは何ですか。

文章を書かず、渡した選択肢から選んで確率を返すモデルです。同じ大きさなら速く、必ず渡した選択肢の中から答えます。その代わり、コーディングやチャットボット、文書の要約には向きません。

Amazonは判定専用モデルへの置き換えで、費用をどれくらい減らしましたか。

公表されたオンデマンドの定価で計算して、100万件あたり約22,200ドルから約500ドルへ、約98%です。Amazonが実際に払った額ではなく、Lambdaの費用も入っていません。

中小企業でも同じ置き換えで得をしますか。

件数次第です。当社が公表された単価で計算すると、計算機1台を止めずに動かす構成は、30日で約4万5,700件、1日約1,500件を超えてからSonnetより安くなります。それより少ないと、高くつきます。

件数が少ない会社は、何から手を付ければよいですか。

まず30日の件数を数えます。そのうえで、AIに渡す説明を1〜2文に削り、返させる文を短くしてください。替えるときは、両方を動かして食い違いを1件ずつ見て、戻す手順を先に作ります。

参考(一次情報):
・Strands Agents「Amazon saves millions by replacing Sonnet 4.6 with Strands Decider」(2026年11月9日)
・Strands Agents「Introducing Strands Decider 2B: a small, open source, decision model」(2026年10月1日)
・Strands Agents「Strands Decider adds four Gemma 4 models」(2026年10月15日)
← ブログ一覧に戻る