Anthropicが自社AIの侵入事案3件を公表——中小企業が先に決めるべきは「つないでいい範囲」

2026年7月30日、AI開発企業Anthropicは、自社のサイバーセキュリティ評価（AIモデルの侵入・攻撃能力を検証する社内テスト）の実行環境から、実在する企業のシステムへ実際に侵入していた事案が3件あったことを自ら公表しました（Anthropic公式発表）。結論：これはAIが暴走した話ではなく、中小企業がAI導入でまず決めるべきは「賢さ」ではなく「つないでいい範囲」だと裏付ける話です。

何が起きたか

Anthropicは、AIモデルの侵入・攻撃能力を検証する社内のサイバーセキュリティ評価の実行を141,006回精査しました。本来は隔離されているはずの評価環境から、モデルが実際にインターネットへ到達し、実在する組織のシステムを侵害していた事案が3件見つかっています。1件目はモデル「Opus 4.7」が演習で使った架空企業名がたまたま実在ドメインと一致していたためモデルが実在企業を発見し、認証情報を取得して本番データベースへ侵入しました。2件目はモデル「Mythos 5」が架空シナリオ中の存在しないパッケージ名を見つけ、実在のPyPI（Pythonのプログラム部品を公開する棚のようなサイト）に自分でアカウントを作って悪意あるパッケージを公開、実システム15台で実行されました。3件目は社内の研究用モデルが約9,000のインターネットアドレスをスキャンして実在企業を侵害しましたが、演習と無関係なクラウド上だと気づいた時点でモデル自身が攻撃を止めています。

なぜ重要か

これはAIが悪意を持った話ではありません。モデルは与えられた前提——ここは箱庭で、ネットには出られない——に忠実に全力を尽くしただけで、ズレていたのは前提のほうでした。Anthropicはこの原因を「アラインメント（AIの価値観を人間の意図に合わせる調整）の失敗ではなく、ハーネス（AIを動かす実行環境）と運用の失敗」だと説明しています。

この構造は、中小企業のAI導入とまったく同じです。AIに「社内のこのフォルダを見て」と頼むとき、AIは"見ていい範囲"を自分では判断できません。渡した鍵の分だけ、AIはその鍵で開く場所すべてに動きます。

世界最高水準の安全チームを持つAnthropicでも、境界の設計ミスは起きました。「うちは小さいから狙われない」も「大手のツールを使っているから安心」も、この事案の前では根拠になりません。効くのは範囲の設計だけです。

事案3で最新モデルが自ら攻撃を止めた点は重要な進歩ですが、「賢いモデルなら止まる」に頼る設計は運任せです。止まるかどうかはモデル次第、止められるかどうかは設計次第——この違いを、導入する側は分けて考える必要があります。

昨日のブログで扱ったGPT-5.6 Lunaの80%値下げと重ねて読むと、AIエージェントを大量に安く走らせる経済性が整った直後に、この報告が出たことになります。速く安く動かせるということは、間違った範囲にも速く到達できるということでもあります。

中小企業は何をすべきか

• AIツールに渡している「接続先」を紙1枚に書き出す。どのフォルダ・どの顧客データ・どのアカウント・どの外部サービスにつながっているかを洗い出し、書き出せないものはいったん外します。
• 権限は「読み取りだけ」から始める。書き込み・送信・削除は人間の承認を1回挟みます。私たちもAutoWriteやOMISEAIの運用で、AIが作るのは下書きまでとし、公開・送信は必ず人が押す形にしています。
• テスト環境を本番と同じ基準で扱う。「検証用だから」で本番の認証情報をコピーしないこと。Anthropicの3件が起きたのは、まさにこの境目でした。

その他の注目ニュース（8月1日 朝時点）

• Google DeepMind、ロボット向けAI「Gemini Robotics 2」を発表（7/30） — VLA（視覚と言語の指示を運動制御に変換するモデル）・身体を持った推論モデル・ロボット本体で動く軽量版の3モデル。歩く・かがむ・物を操作するといった全身制御に対応し、新しいロボット機体への適応は200例未満のデータで可能としています（一次情報）。提供は一部が早期パートナー限定で、物理AIはまだ中小企業が試せる段階にありません。人手不足の答えをロボットに求める前に、ソフト側で減らせる作業を先に潰すほうが早道です。
• Microsoft、エージェント型セキュリティ「Project Perception」を発表（7/27） — 侵入経路を探る・脅威を調査する・是正して防御を固める、3種類のエージェントが連携して回る仕組みで、専用モデルはセキュリティ検証ベンチマークで96%を記録しました。8月3日にパブリックプレビュー開始です（一次情報）。守る側もエージェント化が進みます。中小企業が自前で組む話ではなく、契約中のセキュリティ製品やIT委託先がこの流れに追随するかを一度確認しておけば十分です。
• 中小企業省力化投資補助金（一般型）、第7回締切と第8回予定 — 第7回は2026年7月31日17時に締切。第8回は公募開始が8月中旬、申請受付が9月中旬、締切が10月中旬の予定です（いずれも予定）。申請にはGビズIDプライムアカウントが必須です（一次情報）。秋に申請するつもりなら、取得に時間がかかるGビズIDプライムの準備を今週中に着手するのが安全です。