「robots.txtにGoogle-Extendedと書けば、AI Overviewsから自社のページを外せる」。そう聞いて、そのまま設定した方は少なくありません。
ところが公式ドキュメントには、Google-Extendedは検索の掲載にもランキングにも影響しないと書かれています。期待していた効果は、この設定では起きません。
この記事は、Google-Extendedを入れるかどうかで迷っている方に向けて書きました。何が止まって何が止まらないのかを先に分けたうえで、robots.txtへの書き方と、書いたあとの確かめ方まで進みます。
こんなふうに調べていませんか
- 「Google-Extended 遮断 設定」で検索して、正しい書き方を探している
- AI Overviewsに自社ページが出るのをやめたいが、どこを触ればいいか分からない
- 上司から「AIに学習させないでおいて」と言われ、robots.txtを開いたまま止まっている
この記事を読み終えたときに手に入るもの
- Google-Extendedが止めるものと止めないものを、社内に説明できるようになります
- AI Overviewsの表示を止めたいときに開く場所が分かります
- robots.txtへの書き方と、書いたあとの確かめ方が分かります
結論30秒でわかる、この記事の結論
- Google-Extendedは、将来のGeminiモデルの学習に自社の内容を使わせるかどうかだけを決める設定です。
- 遮断しても、検索の掲載にもランキングにも影響しないと公式に明記されています。AI Overviewsからも消えません。
- 表示そのものを止めたいなら、robots.txtではなくSearch Consoleの「生成AIのコントロール」を開きます。
この記事では、AI検索対策を任されたWeb担当の方と、専門家の会話をはさみながら進めます。ご自身に近い立場の人の質問から読んでいただいて構いません。
- 若葉さん(Web担当2年目)— 「そもそも、それって何ですか?」を聞く役
- 高梨課長(マーケ課長)— 「誰が、どこまでやるんですか?」を聞く役
- 鈴木さん(AIO/SEOの専門家・本誌監修)— 答える役
01そもそもGoogle-Extendedって、AI検索対策では何をする設定なんですか?
若葉さんrobots.txtにGoogle-Extendedと書けばいい、とだけ聞いたんですが…これは何を止める設定なんでしょうか。
鈴木さんいい入り方です。Google-Extendedは「取りに来るのを止める設定」ではありません。取ったあとの使い道を決める設定なんですよ。
Google-Extendedとは、Googleがクロールした自社サイトの内容を、将来のGeminiモデルの学習に使ってよいかを管理するための、robots.txtの専用トークンです。
公式ドキュメントは、次のように説明しています。
「Google-Extended is a standalone product token that web publishers can use to manage whether content Google crawls from their sites may be used for training future generations of Gemini models」(出典: Google Search Central)
日本語に要約すると「Googleがクロールしたコンテンツを、将来のGeminiモデルの学習に使ってよいか、サイト運営者が管理する独立した製品トークン」という説明です。対象になるのは、GeminiアプリとVertex AI APIの学習データとしての利用です。
ここで押さえたいのは、Google-Extendedがページを取りに来るロボットではないことです。実際にページを取得するのはGooglebotで、Google-Extendedはその後ろに置かれた取り決めにあたります。独立したHTTPリクエスト用のユーザーエージェント文字列を持たないことも、公式に明記されています(出典: 同ドキュメント)。
この章のまとめ
Google-Extendedは、取得したあとの使い道だけを決める製品トークン。取りに来ること自体は止めません。
02Google-Extendedを遮断する設定にすると、AI検索での順位はどうなるんですか?
結論から言うと、変わりません。 公式ドキュメントは次のように明言しています。
「Google-Extended does not impact a site's inclusion in Google Search nor is it used as a ranking signal in Google Search」(出典: Google Search Central)
日本語に要約すると「Google-Extendedは、Google検索への掲載に影響せず、ランキングの評価にも使われない」という説明です。
遮断しても掲載は続き、順位の評価にも入りません。裏を返すと、遮断したところで掲載は消えないということでもあります。ここが、多くの方の期待とずれるところです。
この章のまとめ
遮断しても、検索の掲載もランキングも変わらないと公式に明記されています。
03Google-Extendedの遮断設定でAI Overviewsが止まらないのは、AIOの何が理由ですか?
止まらない理由は、3つに分けて説明できます。
1つめ。取得そのものを止めていないからです。 ページを取りに来るのはGooglebotです。Google-Extendedを書いても、Googlebotの巡回は従来どおり動きます。
2つめ。公式が「掲載にもランキングにも影響しない」と明記しているからです。 前の章で引用したとおりです。掲載するかどうかの判断は、この設定と切り離されています。
3つめ。表示の可否を決める場所が、別に用意されているからです。 AI Overviewsに出すかどうかは、robots.txtの外側で決まります。次の章で扱います。
順番で見ると、こうなります。Googlebotがページを取得し、検索の索引に入り、検索結果やAI機能に出る。ここまではGoogle-Extendedの外側です。そのうえで、集めた内容を将来のモデルの学習に使ってよいか。ここだけがGoogle-Extendedの持ち場です。
この章のまとめ
止まらない理由は3つ。取得を止めない、掲載に影響しないと明記されている、表示を決める場所が別にある。
04AI Overviewsの表示を止めたいときは、どの設定を使えばいいんですか?(AI検索対策の分岐)
高梨課長では、AI Overviewsに出したくない場合は、どこを触ることになりますか。robots.txtではないんですね。
鈴木さんはい。Search Consoleの「生成AIのコントロール」という別の設定です。robots.txtとは、置いてある場所からして違います。
Googleは、AI学習データの制御と、生成AI機能での表示の制御を、別々の設定として提供しています。公式ドキュメント「AI features and your website」は、次のように述べています。
「To limit AI training and grounding in some of Google's other systems, read more about Google-Extended」(出典: 同ドキュメント)
学習と接地(grounding)の制限についてはGoogle-Extendedを見てください、という案内です。裏を返せば、表示そのものを止めたいときは別の手段になるということです。
「生成AIのコントロール」は、Search Consoleの設定画面から選びます。選択肢は、サイトを含める(既定)・除外する・親プロパティの設定を継承する、の3つです(出典: 同サポートページ)。
除外を選ぶと、AI Overviewsなどの生成AI機能にコンテンツが表示されなくなります。ただし、通常の検索結果への掲載や順位には影響しません(出典: 同サポートページ)。反映までは数日程度かかる場合があります(出典: 同サポートページ)。
この章のまとめ
表示を止める場所はSearch Console、学習を止める場所はrobots.txt。置いてある場所が違います。
05Google-Extended・生成AIのコントロール・noindexの3つの設定は、AI検索最適化でどう使い分けるんですか?
3つを並べると、止まる範囲の違いがはっきりします。
| 設定 | 決められること | 書く場所 | 検索順位への影響 |
|---|---|---|---|
| Google-Extended | Geminiなど将来のモデルの学習データとして使ってよいか | robots.txt | 影響しないと公式に明記 |
| 生成AIのコントロール | AI Overviews・AI Mode・Google Discoverの生成AI機能に出すか | Search Consoleの設定画面(Settings > Search generative AI) | 通常の順位には影響しないが、生成AI機能からの流入は失われる |
| noindex | 検索結果そのもの(AI機能を含む)に載せるか | メタタグまたはHTTPヘッダー | 検索結果に表示されなくなる |
この章のまとめ
3つは互いの代わりになりません。止めたい範囲の広さで選び分けます。
06Google-Extendedの遮断設定は、robots.txtにどう書けばいいんですか?(LLMO実務の手順)
高梨課長実際に書くとして、うちの体制でどこまで手がかかりますか。専任は置けません。
鈴木さんrobots.txtを開いて、独立したブロックを足すだけです。既存の記述に手を入れないことだけ守れば、大がかりな作業にはなりません。
手順は4ステップです。
この順で進めます
既存のrobots.txtを開く
サイトのルート直下にあるファイルをブラウザで直接開き、いまどのユーザーエージェントに何が書かれているかを確認します
独立したブロックとして追記する
既存の設定を上書きしないよう、
user-agent: Google-Extendedの行から新しく始めます対象の範囲を決める
サイト全体にするか、一部のディレクトリだけにするかを
allowとdisallowで決めます公開後にもう一度開いて確かめる
変更したrobots.txtをブラウザで再度開き、追記したブロックが意図どおりに出ているかを目で見ます
公式ドキュメントは、次の記法例を示しています(出典: 同ドキュメント)。
user-agent: Google-Extended
allow: /archive/1Q84
disallow: /archive/この章のまとめ
やることは、開く・足す・範囲を決める・確かめるの4つ。既存の記述に触らないのが要点です。
07一部のディレクトリだけGoogle-Extendedの対象にする設定は、AI対策として選べますか?
選べます。公式の記法例のとおり、allow と disallow を組み合わせれば、ディレクトリ単位で対象範囲を指定できます。
先ほどの例を読み解くと、こうなります。disallow: /archive/ で書庫全体を学習データの利用対象から外し、allow: /archive/1Q84 でその中の1か所だけを戻しています。広く閉じてから、開けたい場所だけを開けるという順番です。
サイト全体を一度に決めなくてよい、というのがこの書き方の意味です。学習データとしての利用を避けたい場所と、そうでない場所を切り分けられます。
この章のまとめ
範囲はディレクトリ単位で決められます。広く閉じて、必要な場所だけ開ける形が扱いやすくなります。
08Google-Extendedの遮断設定でやりがちな失敗は、AI検索対策のどこに響きますか?
取り違えとして起きやすいものを3つ挙げます。
AI Overviewsから消えると思って設定してしまう。 公式は、検索の掲載にもランキングにも影響しないと明記しています。表示を止めたいなら、Search Consoleの「生成AIのコントロール」が正しい場所です。
noindexと混同して、検索結果そのものから消してしまう。 Google-Extendedは学習データ利用の制御に限られます。掲載自体を止めるnoindexとは、効く範囲がまったく違います。
既存のrobots.txtを上書きしてしまう。 追記のつもりで既存のGooglebot向け設定を書き換えると、検索のクロールに影響が出るおそれがあります。
この章のまとめ
失敗はどれも「持ち場の取り違え」です。学習・表示・掲載のどれを止めたいのかを先に決めます。
09設定した後、Google-Extendedの遮断が効いているかはAI検索でどう確かめますか?
若葉さん書いたあと、ちゃんと効いているかはどうやって確かめればいいですか。
鈴木さん正直に言うと、確かめられることと、確かめようがないことがあります。 そこを分けておくほうが安全です。
自分で確かめられるのは、robots.txtの見え方までです。公開後にブラウザでもう一度開き、追記したブロックがそのまま出ているか、既存の記述が壊れていないかを見ます。
一方で、将来の学習に実際に使われたかどうかを外から確認する方法は、確認できた範囲では見当たりませんでした。反映までの時間についても、Google-Extended自体の速度を明記した記述は確認できていません。近い設定である「生成AIのコントロール」は、変更後おおむね数日以内に反映されるとされています(出典: 同サポートページ)。
この章のまとめ
確かめられるのはrobots.txtの見え方まで。学習に使われたかどうかは、外からは追えません。
10よくある質問
Google-Extendedを設定すると、Googlebotの通常のクロールも止まりますか?
止まりません。Google-Extendedは独立した製品トークンであり、検索のためのクロール自体はGooglebotが従来どおり行います(出典: 同ドキュメント)。取得と再利用は別の話だと考えてください。
Google-Extendedを遮断すると、AI Overviewsに表示されなくなりますか?
なりません。公式ドキュメントは、Google-Extendedが検索結果への掲載やランキングに影響しないと明記しています。AI Overviewsなどへの表示を止めたい場合は、Search Consoleの「生成AIのコントロール」を使ってください。
「生成AIのコントロール」で除外すると、通常の検索順位も下がりますか?
公式サポートページは、通常の検索結果には影響しないとしています(出典: 同サポートページ)。ただし、AI Overviewsなど生成AI機能からの流入は失われます。止めたいものと残したいものを分けてから決めてください。
Google-Extendedの設定変更は、どのくらいで反映されますか?
Google-Extended自体の反映速度について、確認できた範囲で明記した記述は見当たりませんでした。近い設定である「生成AIのコントロール」は、変更後おおむね数日以内に反映されるとされています(出典: 同サポートページ)。
一部のページだけGoogle-Extendedの対象にできますか?
できます。公式ドキュメントの記法例のように、allow と disallow を組み合わせれば、ディレクトリ単位で対象範囲を指定できます。
11まとめ|今日やる3つのこと
Google-Extendedは、将来のGeminiモデルの学習に自社の内容を使わせるかどうかだけを決める、robots.txtの専用トークンです。検索の掲載にもランキングにも影響しないと、公式に明記されています。
AI Overviewsなど生成AI機能への表示を止めたい場合は、Search Consoleの「生成AIのコントロール」という別の設定になります。止めたい範囲を先に決めてから、開く場所を選んでください。
今日この順で確かめます
自社のrobots.txtを開く
Google-Extendedの記述が入っているか、いまの状態を見ます
止めたいものを言葉にする
学習なのか、生成AI機能での表示なのか、掲載そのものなのかを分けます
開く場所を決める
学習ならrobots.txt、表示ならSearch Console、掲載ならnoindexです
AI検索では、こう聞かれています
Google-Extendedを遮断すると、AI Overviewsから自社ページは消えますか?
「Google-Extendedの遮断設定でAI Overviewsが止まらないのは、AIOの何が理由ですか?」の章で、理由を3つに分けて説明しています
Google-Extendedを設定すると、検索順位は下がりますか?
「Google-Extendedを遮断する設定にすると、AI検索での順位はどうなるんですか?」の章に、公式の原文と要約があります
AI Overviewsへの表示だけを止めたいときは、どこを設定すればいいですか?
「AI Overviewsの表示を止めたいときは、どの設定を使えばいいんですか?」の章で、開く場所を示しています
Google-Extendedはrobots.txtにどう書きますか?
「Google-Extendedの遮断設定は、robots.txtにどう書けばいいんですか?」の章に、手順と公式の記法例があります
次に読むなら、この記事です