AIの回答の精度が落ちる「コンテキスト・ロット」とは何か？その対策までわかりやすく解説！

「資料は、多く渡すほどAIの答えは良くなる」。そう思っていませんか。

 

議事録も、マニュアルも、過去のやり取りも。手元にあるものを全部まとめて貼り付けた。そのうえで、「この案件の納期は、いつでしたか」。のようなごく単純なことを聞いてみると、どこにも書いていない日付が返ってくることがあります。

 

短いやり取りのときは、正確だったのに、資料を多く渡すと回答の質が落ちる。

 

これはプロンプトが下手だったからでも、選んだモデルの性能が低いからでもなく、「コンテキスト・ロット」と呼ばれる、入力が長くなるほど答えが不安定に崩れていく現象です。

 

今回はこのコンテキスト・ロットについてわかりやすく解説し、どのように対策するべきかをお伝えしていきます。

入れたはずの情報から回答してくれない

まず押さえておきたいのは、資料をたくさん入れれば入れるほど、入れた量に比例して性能が下がるということではないんです。

 

つまり、伝えた文脈が2倍になったから、精度が半分になる。そういった単純な話ではありません。

ある文量（コンテキスト）の長さを越えたあたりから、それまで問題なかったのに、途中でAIが必要な情報を取りこぼし始める。しかも、崩れ方が毎回同じとは限りません。

 

昨日は正確に答えた質問に、今日は違う答えを返す。資料を足したのは、良かれと思ってのことなのにうまくいかないということもあります。

 

現場でいちばん困るのは、この回答の「不安定さ」です。だからこそ、このコンテキスト・ロットと呼ばれる現象が起こることをまずは知っておきましょう。

 

どのAIモデルでも同じなのか？

最新のAIモデルで調査した技術レポートも報告されています。

モデル共通で同じ結果

ベクトルデータベースを手がけるChromaが2025年7月に公開したもので、当時の主要な18モデル（Claude、GPT、Gemini、Qwenなど）を対象にしたものです。

 

ここでの結果は、入力が長くなるほどAIの性能は「あてにならなくなる」。しかも、全モデル共通だったのです。

 

ここで注目したいのは、対象が難しい推論だけではなかった点です。

 

たとえば、同じ単語をひたすら並べ、途中に一語だけ違う単語を混ぜる。それを「そのまま書き写してください」と頼む課題では、長くなるほど正確に処理できなくなりました。

 

さらに、モデルによっては途中で作業そのものをやめてしまう。おおむね2,500語を超えたあたりから、指示に従わなかったり、無関係な出力を返したりする挙動が観察されています。

実際の検証でも

もうひとつ、実務に近い検証もあります。長い会話履歴から質問に答えさせるテストで、二つの条件を比べたものです。

 

ひとつは、答えに関係する部分だけを抜き出した約300トークンの入力。もうひとつは、無関係な部分も丸ごと含んだ約11万トークンの入力。

 

これもすべてのモデルで、絞ったほうが明確に成績が良くなっています。

なぜこのようなことが起きるのか？

では、なぜこんなことが起きるのでしょうか？これについては、Anthropicが2025年9月に公開した設計指針に記載があります。

 

文脈的には「収穫逓減をともなう、有限の資源」である、と言われています。わかりやすく言えば「AIに情報を詰め込みすぎるとAIの集中力が散漫になり、回答精度が落ちる現象」ということです。

 

そしてAIには「注意の予算（attention budget）」があり、トークンをひとつ足すごとに、その予算は少しずつ削られていく作りになっています。

 

AIは言葉と言葉のすべての組み合わせに目を配りながら読む仕組みなので、100語なら1万通り、1万語なら1億通りの関係を見ることになります。

 

これが増えれば増えるほど、ひとつの関係に割ける注意は薄くなります。これがコンテキスト・ロットが発生する原因になります。

 

余計なものは入れない

無関係な情報が増えると、注意が薄まるのはお伝えしたとおりですが、実は「似ているけれど、答えではない」情報を混ぜるだけでも、精度が下がる報告があります。

 

実際の活用場面で考えると、社内資料でいえば以下のようなものが入ると精度を下げてしまいます。

捨てるほどではないから、いっしょにフォルダに格納していると、フォルダごとAIに読ませると、必要でない情報まで読み込まれて精度を下げてしまうのです。

 

AIモデルごとにも癖がある

紛らわしい情報を混ぜたとき、失敗の仕方がモデル群ごとに違うと言う結果も出ています。

Claude

Claudeは、事実でないことを言い出す割合が低い一方で、迷うと「見つかりません」と答えを保留する傾向があります。

GPT系

反対にGPT系は、保留が少ないぶん、自信のある調子で間違った答えを返す割合が高くなりました。

 

そのため使う側はその辺りまで考慮していると、「最近やたらと『情報が見当たりません』と言われる」も、「妙に断言するようになった」時に、もしかしたらと思いつくことができるかもしれません。

ではどうする？

Anthropicの意見を参考にAIに指示出しするなら、「望む結果を出す確率がいちばん高くなる、できるだけ小さな情報」だけを渡すことです。

 

コンテキスト（背景情報）は多いほどよいと言うわけではなく、逆に少なければ良いというわけでもありません。

 

必要なものを、必要な形でAIに提供する、これがコンテキストエンジニアリングになります。

 

これは、エンジニアだけの話ではありません。チャット画面に資料を貼るとき、無自覚に「全部」を選んで貼り付ける行為は今一度考える必要があります。

 

またこれも私たちがやりがちなのですが、いつまでも同じチャットで長くやり取りしてしまうことありませんか？これもコンテキストが溜まってしまい、AIの回答精度を落とす原因になってしまいます。

 

弊社の体験では、Geminiでよくこの精度の低下が起こりやすい印象があります。ですから、ある程度チャットをしたら、別チャットに移行して続きを聞くような癖をつけていきましょう。

おさえるべき３つのポイント

ここではAIを利用する上で、コンテキスト・ロットを最小限にするための方法を解説します。

①長くなったら新しいチャットで進める

先ほどもお伝えしましたが、会話が長引いてきたら、いったん要点だけを残して新しいチャットを立て直すことが大切です。

 

やり方は簡単です。「ここまでの決定事項と、未解決の論点だけを箇条書きにして」と頼み、その出力だけを持って新しいチャットを始める。

 

Anthropicはこれを「コンパクション」と呼び、Claude Codeでも同じ考え方を使っていると説明しています。残すのは、決めたことと、まだ決まっていないこと。捨てるのは、途中の作業ログです。

 

開発者向けには、古くなったツールの実行結果を自動で消す機能も提供されています。

②覚えておいてほしいことは、外に置く

毎回のプロンプトに前提を書き足していくと、指示はどんどん膨らみます。

 

そうではなく、社名の表記ルールや文体の決まりごとは、外部のファイルやメモに書き出しておく。必要なときだけ、その一部をAIに読み込ませることも重要です。

 

Anthropicはこれを「構造化されたメモ取り」と呼んでいます。人間が住所をすべて暗記せず、住所録を引くのと同じ発想になります。

③最初に全部積まず、そのつど取り出す

いちばん効くのに、いちばんやられていないのがこれかもしれません。

 

10本の資料があるなら、10本まとめて貼らない。「どれを見るべきか」を先に決め、まずは１本だけを渡すようにします。

 

見出しやファイル名の一覧だけを渡して、「この中でどれが要りそうか」と聞く。それから本文を渡す。二段構えにするだけで、渡す量はかなり減ります。

 

Anthropicはこの考え方を「必要になった時点で取り出す（just-in-time）」と呼んでいます。

 

人がすべての書類を暗記せず、必要なときに必要な１冊を抜き出すのと同じ発想です。ファイル名やフォルダの並び自体が、どれを見るべきかの手がかりになるので、名前の管理は重要です。

 

渡す資料のファイル名を例えば「資料最終版2.docx」より「2026年度_価格表（20260820）.docx」のほうが、選ぶ側としても選択しやすくなります。

まとめ

「資料は多いほどAIの精度が上がる」とは限りません。情報量が増えるほど必要な情報を見失い、回答が不安定になる「コンテキスト・ロット」が起こります。

 

対策は、①長い会話は要点をまとめて新しいチャットへ移す、②ルールや前提は外部に保存する、③必要な資料だけをその都度読み込ませることです。

 

大切なのは、情報を増やすことではなく「必要な情報を、必要なときに、必要な量だけ渡す」このことを理解した上で、AIをうまく使いこなしていきましょう。

 

FAQ

Q1. コンテキスト・ロットは、どのAIでも起こりますか？

はい。程度や起こり方には違いがありますが、Claude、GPT、Geminiなど主要なAIモデルで、入力が長くなるほど回答精度が不安定になる傾向が確認されています。

Q2. 資料は少ないほど良いのでしょうか？

いいえ。重要なのは「少なさ」ではなく「必要な情報だけを渡すこと」です。関係のない資料や古い情報を減らし、質問に必要な内容へ絞ることが大切です。

Q3. 同じチャットを長く使い続けるのはよくないですか？

長いやり取りが続くと、過去の会話もコンテキストとして蓄積されます。話題が変わったときや回答が不安定になってきたときは、要点をまとめて新しいチャットへ移るのがおすすめです。

Q4. NotebookLMや社内AIでもコンテキスト・ロットは起こりますか？

起こる可能性があります。大量の資料を登録できるサービスでも、「入れられる量」と「正確に使える量」は同じではありません。古い資料や重複資料を整理し、必要な情報を見つけやすくしておくことが重要です。