AIは、資料に書いていない条件まで断定する——社内資料を読ませる前に決める3つと、答えの確かめ方

社内規程や見積の根拠、仕様書、過去の申請書をAIに読ませて答えさせる場面が、多くの職場で増えました。読ませた資料に書いていない条件まで、AIが断定の形で書き加えて返すことは珍しくありません。しかもその一文は文章として最も自然な場所に差し込まれるため、読み直しても見つけにくいのが厄介なところです。この記事では、AIに社内資料を読ませる前に決めておく3つと、答えを受け取ったあとに確かめる3つを、自社の検査記録から見つかった4つの型を根拠に整理します。

AIは、資料の「余白」をもっともらしく埋めて返す

社内規程で休暇制度を尋ねるときも、見積の根拠で金額の内訳を尋ねるときも、仕様書で納期の条件を確かめるときも、過去の申請書から似た書類の下書きを頼むときも、起きることは同じです。

AIは受け取った資料の範囲でしか答えられません。それでも資料に書かれていないことがあると、空欄のまま返すことはほとんど無く、文章として最も自然に読める形でその空欄を埋めてくるのです。

埋められた条件は、たいてい断定の形をとります。「対象外です」「その区分はありません」「唯一〜です」というように、言い切りの一文になって現れるのが特徴です。断定は読みやすく説得力もあるため、読み手はそこで確認の手を止めてしまいます。文章全体の流れに沿って挿入されるので、読み直しても違和感の無い一文として残ります。見つかりにくいのは、AIの言葉遣いが下手だからではありません。むしろ上手だからです。

余白の埋まり方は4つに分かれる

この余白の埋め方は、大きく4つの型に分かれます。原因が型ごとに違うので、対策も型ごとに変える必要があります。

①不在の断定　手元の資料のリストに載っていないことを、世の中に存在しないことと同じ扱いで書く型です。たとえば経費の区分を尋ねたとき、AIが「その区分は対象外です」と言い切ることがあります。実際には渡した資料が区分の全体を網羅していなかっただけで、区分自体は別の箇所に存在していることも珍しくありません。社内規程の一部だけを渡して制度の有無を尋ねたときに、この型が出やすくなるのです。

②分類の推測　数字自体は資料のとおりに引用しながら、その数字が何を意味するかを推測で埋める型です。ある金額の基準を、実際とは別の制度の基準として説明したり、ある調査の設問を実際より単純な形に言い換えたりすることがあります。数字は合っているので、見積の内訳や過去の統計を確認する場面ではとりわけ見つけにくいのが特徴です。見積の根拠資料を読ませて「この単価は何の基準か」を尋ねたとき、資料に書かれていない前提を補って答える場面がこれに当たります。

③条件の脱落　引用そのものは資料の文言どおりで正確なのに、その文に付いていた括弧書きやただし書きを落として答える型です。期限や条件を尋ねたとき、条件が外れた形で答えが返ると、意味そのものが変わってしまいます。仕様書から納期を引用させたときに、「在庫がある場合に限る」のような限定の一文が答えから消えている場面が当てはまります。

④出所の合成　「どこに書いてあるか」という出所そのものを、それらしい形で作る型です。ファイル名やリンクの文字列から、実際には無い題名やページ番号を組み立てて答えます。過去の申請書のどのページに根拠が書いてあるかを尋ねたとき、資料の実物には無い項目名が出所として添えられる場面がこれに当たります。

資料を渡す前に決める3つ

4つの型に共通する対策は、AIに答えさせたあとではなく、資料を渡す前にあります。渡す前に決めておくことは3つです。

1・版と日付を、資料の本文の中に書く　版と日付をファイル名だけに持たせず、資料の本文の中に書きます。ファイル名は資料をAIに渡す途中で失われることがあり、AIが読むのは中身の文字だけです。本文の冒頭に「第◯版・◯年◯月◯日時点」と一行入れておけば、AIはその資料がいつの時点のものかを踏まえて答えられます。

2・「まだ決まっていないこと」を資料に明記する　空欄を残さず、決まっていないことは決まっていないと資料に書きます。空欄はAIにとって埋めるべき場所であり、書かれていない箇所と決まっていない箇所を区別できません。「この項目は未確定」と一行添えるだけで、AIはその箇所を埋めずに済みます。

3・渡す範囲と、答えさせる問いの幅を揃える　資料の一部だけを渡して、全体についての問いには答えさせません。渡した範囲が制度や仕様の一部分なら、答えさせる問いもその範囲に絞ります。範囲より広い問いを投げると、渡されていない部分を推測で埋めて答えることになるので注意してください。

答えを受け取ってから確かめる3つ

資料の側を整えても、答えを確かめる工程は別に要ります。確かめることも3つに絞れます。

1・断定の語を先に探す　「対象外」「〜のみ」「唯一」「〜しかない」「規定がない」という言葉を、答えの中から先に探します。これらはAIが最も安く強い文を作れる場所で、資料に無い条件を埋めるときにまず選ばれます。この言葉が出てきた箇所は、他の部分より先に確かめてください。

2・「無い」と書いてある箇所は、必ず元の資料を1つ開く　「無い」「対象外」と書かれている箇所は、必ず元の資料を1つ自分の目で開いて確かめます。開けない場合は、その行ごと答えから落としてください。開かずにそのまま使うと、資料のリストに無かっただけのことを、世の中に無いこととして扱うことになります。

3・引いた文の括弧書き・ただし書きを一緒に読む　AIが資料の文をそのまま引用している箇所は、その文の前後にある括弧書きやただし書きも一緒に読みます。引用自体が正確でも、条件だけが答えから抜け落ちていることがあります。

誰が確認を引き受けるのかを決めないと、設計は動かない

ここまでの6つは、どれも手順としては単純です。ところが手順を書いただけでは、実際には動きません。動かない理由は担当者の注意力ではなく、確認という仕事の置き方にあります。

担当者に「AIの答えを確かめる」という工程を足すと、その人にとっては仕事と責任が増えるだけになります。確認のやり方を覚えるのも自分、間違いを見つけたら直すのも自分、見逃して外に出れば注意を受けるのも自分です。それでいて、確認を丁寧にやってもやらなくても、受け取る給与は変わりません。この条件のもとで確認が徹底されないのは、担当者が怠けているからではなく、割に合わない仕事を割に合わない条件のまま置いている設計の問題です。

したがって解決の方向は、社員に気をつけさせることではありません。確認できる部分は、断定の語を探す作業のように機械へ落とします。機械に落とせない部分、つまり元の資料を開いて条件を確かめる判断が要る部分は、その業務の外側から入った人間が引き受ける形にします。研修や注意喚起で個人の意識だけを変えようとする設計は、この構造の前では長く続きません。

明日からの最小実践は3段階

読者が今日から始められる実践パスは3段階です。一度に全部を整える必要はありません。

段階1は、いま自社にどれだけ断定が紛れているかを、数字で把握するための最初の一歩です。段階2は、資料の側から余白を減らす作業になります。段階3で、確認の手順と担当という、これまで曖昧だった部分を固定します。この順番を逆にしないでください。

よくある失敗

比較表の片方だけを詳しく調べて、もう片方の欠けている情報をAIに埋めさせてしまう失敗があります。比較表は両方の欄を必ず埋めたくなる形式なので、片方が薄いまま渡すと不在の断定が起きやすくなります。

決まっていない項目を、あとで自分が埋めるつもりで空欄のまま渡す失敗もあります。渡した時点で、AIはその空欄を埋めてよい場所として扱います。

AIが書いた断定の一文を確かめずに、次の資料や別の説明にそのままコピーする失敗も見られます。一度確認を通り抜けた文は、使い回されるたびに検証済みの事実のように扱われていきます。

誰が確認するかを決めずに「各自確認」とだけ決めて運用を始める失敗もあります。全員の仕事にすると、実際には誰の仕事にもなりません。

よくある質問

まとめ

• AIは、渡した資料に書いていない条件があっても空欄のまま返さず、文章として自然な場所に断定の形で埋めて返す
• 埋まり方は4つ。不在の断定・分類の推測・条件の脱落・出所の合成。原因が違うので対策も型ごとに変える
• 渡す前に決める3つ。版と日付を本文に書く、決まっていないことを明記する、渡す範囲と問いの幅を揃える
• 受け取ってから確かめる3つ。断定の語を先に探す、無いと書かれた箇所は元の資料を1つ開く、括弧書き・ただし書きを一緒に読む
• 確認という工程を担当者に足すだけでは動かない。機械に落とせる部分は機械に、残りは業務の外側から入る人間が引き受ける
• 実践は3段階。今週は数える、今月は資料を整える、3か月で確認の手順と担当を決める