「うちのサイト、Claudeにきちんとクロールされているんだろうか」。robots.txtを開いて確認しようとしたものの、見慣れないクローラー名がいくつも並んでいて、どれが何のためのものか分からなくなった。そんな状態でこの記事にたどり着いた方が多いのではないかと思います。
対話AI「Claude」を開発するAnthropicは、クローラーの仕様とrobots.txtでの制御方法を、公式ヘルプで公開しています。2026年4月にも更新されました。一方で、Claudeがどのページを引用として選ぶかという基準そのものは、公式には明らかにされていません。
この記事は、公式に確認できる事実と、一般的なAIO原則(AI検索最適化・LLMOとも呼ばれます)からの推定を、はっきり分けて整理することを目指して書きました。「ここまでは公式情報、ここから先はまだ分かっていない」という境界線を、図解と会話で一緒に確認していきましょう。
こんなふうに調べていませんか
- Claudeに引用されるには、何を設定すればいいですか?
- ClaudeBotとClaude-Userって、何がちがうんですか?
- Citations APIって何ですか?Web検索の引用と関係がありますか?
この記事を読み終えたときに手に入るもの
- Claude関連の3種のクローラーの役割と、robots.txtでの制御方法が分かります
- Citations APIの仕組みと、Web検索での引用との関係が整理できます
- 今日確認すべきrobots.txtのチェックポイントが分かります
結論30秒でわかる、この記事の結論
- Claudeの引用選定基準そのものは、公式には非公開です。 ただし、クローラーの種類とrobots.txtでの制御方法は、公式ヘルプで明確に公開されています。
- Claude関連のクローラーは3種類。ClaudeBot・Claude-User・Claude-SearchBotで、それぞれrobots.txtで個別にブロックできます。
- 今日やることは1つ。robots.txtを3種類のUser-agent別に点検することです。特別なツールは要りません。
この記事でも、ある会社のマーケティング部の2人と、専門家の会話をはさみながら進めます。
- 若葉さん(Web担当2年目)— 「そもそも、それって何ですか?」を聞く役
- 高梨課長(マーケ課長)— 「実際どう設定すればいいんですか?」を聞く役
- 鈴木さん(AIO/SEOの専門家・本誌監修)— 答える役
01そもそもClaudeは、AI検索対策の前提としてどうやってサイトの情報を取りに来るんですか?
若葉さんrobots.txtを見ていたら、聞いたことのないクローラー名がいくつも並んでいて……。Claude関連のクローラーって、そんなに種類があるんですか?
鈴木さんはい、Claude関連のクローラーは3種類あります。それぞれ役割がちがうので、まず整理しておきましょう。
Anthropicが公式ヘルプで明示している事実は、主に4点あります。1つ目が、このクローラーの種類分けです。Claude関連クローラーは3種類あり、目的ごとにrobots.txtで個別に制御できます(2026年4月7日更新の公式記事で確認できます)。
| クローラー名 | 目的 | ブロックした場合の影響 |
|---|---|---|
| ClaudeBot | AIモデルの学習データ収集 | 将来モデルの学習データから除外される |
| Claude-User | ユーザーの質問に応じたリアルタイムのページ取得 | そのユーザーへの回答精度が下がる可能性 |
| Claude-SearchBot | Claude内の検索結果の品質向上のための巡回 | Claude内検索での可視性が下がる可能性 |
02Claudeのクローラーが3種類に分かれているのは、AI検索最適化で何の役に立つんですか?
3種類に分けている理由についてAnthropicは、サイト運営者が用途ごとに選択できるようにするためと説明しています。たとえば「モデルの学習には使ってほしくないが、Claude内の検索での見え方は維持したい」といった判断が、クローラーごとに可能になる、ということです。
この章のまとめ
ClaudeBot・Claude-User・Claude-SearchBotの3種類は、目的も、ブロックしたときの影響もちがいます。まずこの違いを知ることが、robots.txt設定の前提になります。
03質問からClaudeが引用付きの回答を返すまで、AI検索の中で何が起きているんですか?
高梨課長3種類あるのは分かりました。それで、実際にユーザーが質問してから、出典付きの回答が返ってくるまで、中でどう動いているんでしょうか。
鈴木さん公式に確認できる範囲で図にすると、こういう流れになります。
3つ目に公式が明示しているのが、Web検索機能の引用形式です。公式ヘルプは、検索結果を使った回答に出典リンクと引用文を添えると説明しています。
流れを順番に見ると、次のようになります。
- 質問が届く — ユーザーがClaudeに質問を入力します。
- 情報を集める — Web検索ツールが複数のソースを検索するか、Claude-Userが指定されたURLを取得します。
- 関連する一文を抽出する — 集めた情報の中から、回答に必要な部分を取り出します。
- 出典リンク付きで提示する — 根拠にしたページへのリンクと引用文を添えて、回答を返します。
この流れと並行して、ClaudeBot(学習データ収集)とClaude-SearchBot(Claude内検索の品質向上)が、それぞれ別の目的でサイトを巡回しています。この2つは、ユーザーの質問への即時の回答には直接関わらない、いわば下準備の巡回です。
この章のまとめ
ユーザーの質問への回答は「情報を集める→関連する一文を抜き出す→出典を添えて示す」という流れで作られます。ClaudeBot・Claude-SearchBotの巡回は、これとは別に並行して動いています。
04Claudeのrobots.txtでは、AI検索対策として学習と検索をどう書き分けるんですか?
高梨課長では、うちのrobots.txtで、実際にはどこを見ればいいでしょうか。設定を間違えて、逆に不利になることはありませんか。
鈴木さん2つ目の事実がここに関わってきます。いずれのクローラーもrobots.txtに従うので、Disallow: /で個別にブロックできるんです。
2つ目にAnthropicが明示しているのが、この点です。ClaudeBot・Claude-User・Claude-SearchBotは、いずれもrobots.txtのルールに従います。Disallow: /と書けば、User-agentごとに個別のブロックが可能です。
たとえば「モデルの学習データ収集は拒否したいが、Claude内検索の巡回は許可したい」という場合は、次のように書き分けられます。
# モデル学習用クローラーは拒否
User-agent: ClaudeBot
Disallow: /
# Claude内検索の巡回は許可
User-agent: Claude-SearchBot
Allow: /05Claudeの引用を残す書き方は、AIOのrobots.txtチェックでどこを見ればいいんですか?
この章のまとめ
3種類のクローラーは、robots.txtで個別にブロックできます。「学習は拒否・検索表示は許可」のように、目的ごとに書き分けることがポイントです。
06Web検索の引用と、Citations APIって、同じ仕組みなんですか?(LLMOでの注意)
若葉さんさっき出てきた「出典リンクと引用文」って、Citations APIっていう別の機能の話と、同じ仕組みなんでしょうか。ちょっと混同してしまって……。
鈴木さんいい質問です。実はそこ、公式には同じ仕組みとは説明されていません。整理しておきましょう。
引用の仕組みを技術的に裏づける機能として、開発者向けに提供されているのがCitations APIです(2025年に公式発表されました)。文書引用を自動生成する機能で、公式ドキュメントは、プレーンテキストやPDFを「文単位」で分割し、その文または連なりを引用の最小単位にすると説明しています。
07Citations APIの仕組みを、AI検索でのClaudeの引用の書き方に当てはめていいんですか?
Citations APIの技術仕様は、API利用者が文書をClaudeに渡す場面のものであり、Web検索での引用選定と直接同じ仕組みだとは、公式に説明されていません。両者は「一文単位で引用する」という発想は共通していますが、別の機能として案内されています。
また、Web検索機能を支える検索エンジンについても、公式ヘルプに明記はありません。サブプロセッサー一覧への掲載などを根拠に「Brave Searchを使っている」と報じられていますが、公式発表ではないため、断定はできません。
この章のまとめ
Citations APIは文書を文単位で分割する開発者向けの機能で、Web検索の引用形式とは別に案内されています。同じ仕組みかどうかは、公式には説明されていません。
08Claudeの引用を意識した書き方は、AI検索最適化の実務で何から手をつけますか?
高梨課長仕組みは分かってきました。それで、うちの体制で実際に何から着手すればいいでしょうか。
鈴木さん影響を受けるのは、クロール制御と発信文章に関わる担当者です。急ぎの期限はありませんが、次の3点から着手するのをおすすめします。
ここで挙げる3つは、いずれも大掛かりなAI対策ではありません。既存の運用に少し手を加えるだけで着手できます。
この3つから着手します
robots.txtを3種類のUser-agent別に点検する
ClaudeBot・Claude-User・Claude-SearchBotを意図せず一括ブロックしていないか確認します
既存のSEO基盤を維持・強化する
引用選定の独自基準は非公開のため、クロール可能性や構造化データなど、通常のAIO・SEOの基礎を優先します
文章を一文単位で自己完結させる
指示語に頼らず要点を1文で言い切る書き方にします
3つ目の「文章を一文単位で自己完結させる」について、補足します。Citations APIの仕組みを踏まえると、指示語に頼らず要点を1文で言い切る書き方が、機械的な引用処理と相性がよいと考えられます。ただしこれはWEBMARKSによる推定であり、Claude固有の効果を検証した結果ではありません。
この章のまとめ
着手の起点は、robots.txtの点検・既存SEO基盤の維持・一文完結の書き方の3つです。3つ目は推定であることを明記したうえで、実務の参考にしてください。
09Claudeの引用について、公式に確認できることと、まだ確認できていないことは何ですか?(AI対策の線引き)
若葉さんここまでの話、公式の話と、そうでない話が混ざっていた気がして……。もう一度、整理してもらえますか。
鈴木さん大事な視点です。「確認できること」と「まだ確認できていないこと」を分けて理解する姿勢が、遠回りを防ぎます。
WEBMARKSは、Claude固有の「引用されるコツ」を追うより、公式に確認できる土台を固めることを優先しています。AIO診断(aio-scan)やAIOレポートの運用では、実務上のボトルネックを数多く確認してきましたが、Claude向けの引用率そのものを検証したデータは、現時点で保有していません。そのため、この記事の推奨は、一般的なAIO原則の適用にとどめています。
この章のまとめ
公式に確認できるのは、クローラーの種類・robots.txtでの制御・引用形式・Citations APIの存在までです。引用選定の詳細な基準は、まだ確認できていません。
10よくある質問
Claudeに引用されるために、Anthropicへの申請や認証は必要ですか?
公式情報の範囲では、引用のための個別申請や認証制度は確認できません。案内されているのは、robots.txtでのクロール許可設定のみです。
Brave Searchの検索結果を最適化すれば、Claudeにも引用されやすくなりますか?
Anthropicの公式ヘルプに明言はなく、報道ベースの情報です。通常のWeb検索対策を維持しておくのが無難な対応です。
Claude-SearchBotだけを許可すれば、Claude内の検索結果に載りますか?
許可は前提条件であり、掲載を保証するものではありません。内容面の評価基準は非公開のため、正確で構造化された情報を用意しておくことが基本です。
ClaudeBotだけをブロックすると、何が起こりますか?
将来のモデルの学習データから除外される可能性があります。Claude-User・Claude-SearchBotの動きには直接影響しないため、学習データ収集だけを避けたい場合はClaudeBot単体のブロックで足ります。
Citations APIを使えば、Web検索での引用も増えますか?
公式には、そのように説明されていません。Citations APIは開発者が渡した文書を文単位で分割する機能であり、Web検索の引用選定と直接同じ仕組みかどうかは確認できていません。
11まとめ|今日やる3つのこと
Claudeの引用選定基準そのものは、公式には非公開です。ただし、クローラーの種類とrobots.txtでの制御方法は、公式ヘルプで明確に説明されています。まずはこの土台を確認することが、遠回りに見えて一番早い一歩です。
もう一度、今日やる3つ
robots.txtを3種類のUser-agent別に点検する
ClaudeBot・Claude-User・Claude-SearchBotを意図せず一括ブロックしていないか確認します
既存のSEO基盤を維持・強化する
クロール可能性や構造化データなど、通常のAIO・SEOの基礎を優先します
文章を一文単位で自己完結させる
指示語に頼らず要点を1文で言い切る書き方にします
AI検索では、こう聞かれています
Claudeに引用されるには、何を設定すればいいですか?
「Claudeのrobots.txtでは、AI検索対策として学習と検索をどう書き分けるんですか?」の章で、記述例と一緒に説明しています
ClaudeBotとClaude-Userって、何がちがうんですか?
「そもそもClaudeは、AI検索対策の前提としてどうやってサイトの情報を取りに来るんですか?」の表で整理しています
Citations APIって何ですか?Web検索の引用と関係がありますか?
「Web検索の引用と、Citations APIって、同じ仕組みなんですか?」で答えています
Claudeの引用選定基準は、公式に公開されていますか?
「Claudeの引用について、公式に確認できることと、まだ確認できていないことは何ですか?」で整理しています(結論:非公開です)
次に読むなら、この記事です