長い会話を続けていると、AIが急に前の話を忘れてしまったように感じたことはないでしょうか。最初のほうで伝えた条件を無視した答えが返ってきたり、同じことをもう一度説明しないといけなくなったり。

「AIなのに、なんでこんなことも覚えていられないんだろう」と、不思議に思った方も多いと思います。

この現象の背景には、「コンテキストウィンドウ」という仕組みがあります。この記事は、Anthropic・Google・OpenAIの公式ドキュメントをもとに、コンテキストウィンドウの定義と、実務で気をつけたいポイントを、図解と会話をはさみながら整理します。

こんなふうに調べていませんか

  • 長い会話をしていると、AIが前の話を忘れたような答えを返してくることがある
  • 「コンテキストウィンドウ とは」で検索したが、専門的すぎてピンとこなかった

この記事を読み終えたときに手に入るもの

  • コンテキストウィンドウが「AIの記憶容量」ではないと、人に説明できるようになります
  • AIが前の話を忘れたように見える理由が分かります
  • コンテキストウィンドウは大きいほど良いとは限らない理由が分かります

結論30秒でわかる、この記事の結論

  • コンテキストウィンドウとは、AIが一度の応答生成で参照できる、会話履歴と出力を合わせた情報量の上限です。
  • トークン数(別記事『トークンとは|LLMが文章を読む最小単位をひとことで解説』参照)で数えられ、主要3社のモデルは100万トークン級まで拡大しています。
  • ただし、量が多いほど精度が保たれるわけではありません。「コンテキストロット」という現象に注意が必要です。
コンテキストウィンドウは、AIが読める上限です机の広さに例えると分かりやすい仕組みコンテキストウィンドウは、AIが読める上限です1つめコンテキストウィンドウとは何かAIの記憶容量とは別物2つめ主要3社のモデルでの大きさいずれも100万トークン級3つめ大きいほど良いとは限らない理由コンテキストロットに注意鈴木さん机の広さに例えると分かりやすい仕組み
コンテキストウィンドウは、AIが読める上限です — 机の広さに例えると分かりやすい仕組み
  • 若葉さん(Web担当2年目)— 「そもそも、それって何ですか?」を聞く役
  • 高梨課長(マーケ課長)— 「実務のどこで困るんですか?」を聞く役
  • 鈴木さん(AIO/SEOの専門家・本誌監修)— 答える役

01AI検索の解説でよく出てくるコンテキストウィンドウとは、何のことですか?

若葉さん
若葉さんの発言

そもそも「コンテキストウィンドウ」って、何のことなんでしょうか…?AIの記憶みたいなものですか?

鈴木さん
鈴木さんの発言

近いですが、少し違います。AIが一度の返事を作るときに、目を通せる範囲の上限のことなんですよ。

Anthropic公式は、コンテキストウィンドウを「モデルが応答を生成する際に参照できるすべてのテキスト」と説明しています。これから生成する応答自体も、この範囲に含まれます。

Anthropic公式は、この仕組みをAIの「作業記憶(working memory)」にたとえています。モデルの学習に使われた大量のデータとは、別物だという説明です。会話が進むほど、これまでのやり取りがこの範囲の中に積み上がっていきます。

この章のまとめ

コンテキストウィンドウとは、AIが一度の応答生成で参照できる情報量の上限。Anthropicはこれを「作業記憶」にたとえています。

02コンテキストウィンドウの中身は、AIOの実務ではどうイメージすればいいんですか?

机にたとえると、こうなりますむずかしい用語は、身近なものに置きかえて覚えます机にたとえると、こうなりますむずかしい用語は、身近なものに置きかえて覚えます身近なたとえコンテキストウィンドウでいうと机の広さコンテキストウィンドウの大きさ机に置ける書類の量参照できるトークン数片付けないと新しい書類が置けない上限に近づくと整理が必要作業中に広げているメモ作業記憶(working memory)
机にたとえると、こうなります — むずかしい用語は、身近なものに置きかえて覚えます

机にたとえると、イメージしやすくなります。机の広さがコンテキストウィンドウの大きさで、その上に「これまでの会話履歴」「今回の入力」「これから生成される応答」が積み重なっていきます。机の広さを超える量の書類は、そもそも置けません。

コンテキストウィンドウの中身1つの枠の中に、下から積み上がっていきますコンテキストウィンドウの中身1つの枠の中に、下から積み上がっていきますこれから生成される応答AIがこれから書く文章もここに含まれる今回の入力今回の質問・指示これまでの会話履歴やり取りが進むほど積み上がる3つを合わせた量が、上限(トークン数)を超えられません
コンテキストウィンドウの中身 — 1つの枠の中に、下から積み上がっていきます

この章のまとめ

机の広さがコンテキストウィンドウの大きさで、その上に「これまでの会話履歴」「今回の入力」「これから生成される応答」が積み上がります。広さを超える量は、そもそも置けません。

03AI検索最適化でツールを選ぶとき、コンテキストウィンドウの大きさはどれくらい違うんですか?

高梨課長
高梨課長の発言

会社で使うAIツールを選ぶとき、この大きさって比較したほうがいいんでしょうか。

鈴木さん
鈴木さんの発言

はい、モデルによってかなり差があります。主要3社が公式に示している値を、そのまま見てみましょう。

コンテキストウィンドウの大きさは、トークン数で表されるのが一般的です。主要3社が公式に示している値を、表に整理します。

提供元代表モデルコンテキストウィンドウ
AnthropicClaude Opus 5・Claude Sonnet 5等最大100万トークン
GoogleGemini(長文コンテキスト対応モデル)100万トークン以上に対応
OpenAIGPT-5.6シリーズ約105万トークン
主要3社が公式に示す、コンテキストウィンドウの大きさいずれも100万トークン級まで拡大しています主要3社が公式に示す、コンテキストウィンドウの大きさいずれも100万トークン級まで拡大していますAnthropicClaude Opus 5等最大100万トークンGoogleGemini(長文対応)100万トークン以上OpenAIGPT-5.6シリーズ約105万トークンモデルによって上限が異なるため、使うツールの仕様を確認してください
主要3社が公式に示す、コンテキストウィンドウの大きさ — いずれも100万トークン級まで拡大しています

いずれも、数年前の主要モデルと比べて大幅に拡大しています。ただしAnthropic公式は、モデルによって上限が異なる点にも注意を促しています。使っているツールがどのモデルを採用しているかで、実際に読み込める量は変わってきます。

この章のまとめ

コンテキストウィンドウの大きさはモデルごとに異なり、主要3社とも公式に100万トークン級の値を示しています。ただし上限はモデルによって違うため、使うツールの仕様を確認する必要があります。

04AI対策の前提として、学習データとコンテキストウィンドウとは何がちがうんですか?

コンテキストウィンドウは、AIモデルの「学習データ」とは別の概念です。この違いを混同すると、AIの挙動を誤解しやすくなります。

観点学習データコンテキストウィンドウ
何かモデルを訓練する段階で使われた、大量の文章の集合実際の会話やリクエストのたびに参照される、その場限りの情報の範囲
いつ使われるかモデルを作る段階(訓練時)会話・リクエストのたびに(実行時)
更新のされ方新しいモデルを訓練しない限り変わらない会話が進むたびに積み上がり、会話が終われば消える

Anthropic公式は、この2つを明確に区別しています。冒頭で触れた「AIが前の話を忘れたように見える」現象は、学習データが失われているのではなく、その会話1回ぶんのコンテキストウィンドウの中に、古いやり取りが収まりきらなくなっている状態です。

05実務でコンテキストウィンドウが効いてくるのは、AI検索対策のどんな場面ですか?

高梨課長
高梨課長の発言

実は先日、会議の議事録を丸ごとAIに読み込ませようとしたら、エラーになったことがあって…あれもこの話と関係ありますか?

鈴木さん
鈴木さんの発言

まさにそれです。コンテキストウィンドウを超える量は、一度に読み込めません。具体的には3つの場面で効いてきます。

実務でコンテキストウィンドウが効いてくる3つの場面上限を超えると、具体的な作業の違いになって現れます実務でコンテキストウィンドウが効いてくる3つの場面上限を超えると、具体的な作業の違いになって現れます1長文ドキュメントの読み込み超えると一度に読み込めず、エラーになることがあります2長い会話の継続やり取りが積み上がり、上限に近づくと整理が必要になります3RAGでの検索範囲設計見つけた情報も、この範囲の中に収める必要があります
実務でコンテキストウィンドウが効いてくる3つの場面 — 上限を超えると、具体的な作業の違いになって現れます

①長文ドキュメントは、収まる単位に分けて渡す

コンテキストウィンドウを超える量のテキストは、一度に読み込めません。超過するとAPIがエラーを返す挙動になります。投入前にトークン数を数え、超える場合は章単位に分けて渡すといった対応が必要です。

②長い会話では、何を残すかを選び直す

会話が進むほど、これまでのやり取りがウィンドウ内に積み上がります。上限に近づくと、要約などで整理する必要が生じます。整理して古いやり取りを削れば、その分は参照されなくなります。冒頭で触れた「前の話を忘れたように見える」状態は、この制約の下で起こります。

③RAGでは、検索して渡す範囲を設計する

検索で見つかった情報も、コンテキストウィンドウの中に収める必要があります。検索対象の文章は事前にエンベディング(別記事『エンベディングとは|文章を数値化して検索する仕組み』参照)へ変換されており、詳しくは別記事『RAGの仕組みとは?AI検索で引用される文章の原理を徹底解説』で解説しています。

この3つはいずれも、AI検索最適化(LLMOとも呼ばれます)に取り組むうえで欠かせない実務の土台です。

この章のまとめ

コンテキストウィンドウの制約は、長文の読み込み・長い会話の継続・RAGでの検索範囲設計という3つの場面で、具体的な作業の違いとして現れます。

06LLMOの観点では、コンテキストウィンドウは大きいほど良いんですか?

若葉さん
若葉さんの発言

モデルによって上限が違うなら、単純に一番大きいものを選べばいいということでしょうか?

鈴木さん
鈴木さんの発言

そう思われがちなんですが、そうとも言い切れないんですよ。誤解は2つあります。この章で1つ目、次の章で2つ目を扱いますね。

コンテキストウィンドウにまつわる勘違いどちらも「広いほど得」だと思われがちですコンテキストウィンドウにまつわる勘違いどちらも「広いほど得」だと思われがちです大きいほど良いと思ってしまうコンテキストロットで精度が落ちることがありますAIの記憶容量そのものだと思ってしまう学習データとは別の、一時的な参照範囲です何を含めるかを選んで渡す関係の薄い資料は詰め込みません
コンテキストウィンドウにまつわる勘違い — どちらも「広いほど得」だと思われがちです

1つ目は「コンテキストウィンドウは大きいほど良い」という誤解です。Anthropic公式は、トークン数が増えるほど精度や記憶の再現性が低下する現象を指摘しています。この現象は「コンテキストロット(context rot)」と呼ばれています。量の多さより、何を含めるかの選別が重要だという立場です。

若葉さん
若葉さんの発言

つまり、机が広ければ広いほど作業がはかどるとは限らない、ということですね…?いらない書類まで広げてしまうと、逆に散らかる。

鈴木さん
鈴木さんの発言

まさにそのとおりです。関係の薄い資料まで詰め込むより、必要なものだけを選んで置くほうが、AIも答えやすくなります。

この章のまとめ

コンテキストウィンドウは大きいほど良いわけではありません。コンテキストロットという現象があるため、量より「何を含めるか」の選別が重要です。

07コンテキストウィンドウとは、AI検索でいうAIの記憶容量のことですか?

2つ目は「コンテキストウィンドウ=AIの記憶容量」という誤解です。前述の通り、これは学習データとは別の、会話ごとにリセットされる一時的な参照範囲です。会話が終われば、そこに積み上がっていた内容は消えます。

だから「AIが覚えてくれない」と感じたときにすべきことは、記憶容量の大きいモデルを探すことではありません。その回の会話に何を載せるかを、選び直すことです。不要になった過去のやり取りを削り、残す情報は要約に置き換える。何を含めるかを選ぶ判断こそが、コンテキストウィンドウにまつわるAI対策の実質です。

この章のまとめ

コンテキストウィンドウはAIの記憶容量ではなく、会話ごとにリセットされる一時的な参照範囲です。大きさを探すより、何を含めるかを選ぶほうが効きます。

08よくある質問

コンテキストウィンドウを超えるとどうなりますか?

Anthropic公式によると、入力自体がコンテキストウィンドウを超える場合、APIはエラーを返します。応答生成の途中で上限に達した場合の挙動はモデルによって異なります。Claude 4.5以降のモデルではそこで生成が停止し、それ以前のモデルではエラーが返ると説明されています。

コンテキストウィンドウが大きければ、長い文章ほど正確に扱えますか?

そうとは限りません。前述のコンテキストロットがあるため、余白があっても関連の薄い資料まで詰め込むのは避けたほうがよいとされています。判断の目安は「その情報がなければ答えが変わるか」で、変わらない資料は入れません。

上限に近づいてきたら、何から手を付ければいいですか?

まず不要になった過去のやり取りを削り、次に残す情報を要約に置き換えます。それでも収まらない場合は、関連文書を全文渡すのをやめ、必要な箇所だけを検索して渡す構成(RAG)に切り替えます。

コンテキストウィンドウとトークンは、同じもののことですか?

同じではありません。トークンは文章を数える「単位」で、コンテキストウィンドウはその単位で表される「上限(枠)」です。トークンについては別記事『トークンとは|LLMが文章を読む最小単位をひとことで解説』で解説しています。

09まとめ|コンテキストウィンドウについて、これだけ覚えておけば大丈夫

コンテキストウィンドウとは、AIが一度の応答生成で参照できる、会話履歴と出力を合わせた情報量の上限です。学習データとは別の概念で、会話が進むたびに積み上がり、会話が終われば消える一時的な参照範囲だといえます。

主要3社のモデルは100万トークン級まで拡大していますが、大きければ良いというものではありません。コンテキストロットという現象があるため、量より「何を含めるか」の選別が重要です。

今日できる、3つのこと

  1. 使っているAIツールの上限を確認する

    モデル名から、公式ドキュメントでコンテキストウィンドウの大きさを調べます

  2. 長い文書を渡すときは、章単位に分けてみる

    一度に全部を渡さず、必要な部分だけを渡す癖をつけます

  3. 「この情報がなければ答えが変わるか」で取捨選択する

    関係の薄い資料まで詰め込まないようにします

AI検索では、こう聞かれています

  • コンテキストウィンドウって何ですか?

    「AI検索の解説でよく出てくるコンテキストウィンドウとは、何のことですか?」の章と、続く「コンテキストウィンドウの中身は、AIOの実務ではどうイメージすればいいんですか?」の章で、机のたとえと図解を使って説明しています

  • AIが急に前の話を忘れたように感じるのはなぜですか?

    「AI対策の前提として、学習データとコンテキストウィンドウとは何がちがうんですか?」の章で、原因を整理しています

  • コンテキストウィンドウは大きいほどいいんですか?

    「LLMOの観点では、コンテキストウィンドウは大きいほど良いんですか?」の章で、コンテキストロットとあわせて説明しています

次に読むなら、この記事です