Claude に引用される?Anthropic の3つのボットと許可の判断

SEOgrinder 編集部 · 公開日 · 読了時間 約13分

結論: Claude に引用されるかどうかは、誰にも約束できません。Anthropic のヘルプページは3つのロボットを挙げ、それぞれを無効にすると何が起きるかを述べていますが、Claude がどのページを挙げるかを決める仕組みは書いていません。運営者が制御できるのは robots.txt です。ClaudeBot は学習に寄与しうる Web コンテンツを収集し、Claude-User は誰かが Claude に質問したときにページを取得し、Claude-SearchBot は検索結果の品質を高める作業をします。後ろの2つについて、Anthropic は、無効にすると検索での可視性が下がる可能性があると述べています。学習を許可するかどうかは、別の判断です。

Claude に引用されるために、運営者が決められること

まず限界から始めます。Claude が回答の中でページを挙げるかどうかは、Claude が決めることです。Anthropic のヘルプ記事“Does Anthropic crawl data from the web, and how can site owners block the crawler?”が扱っているのは、クロールとオプトアウトです。どんなロボットがあるか、それぞれ何のためのものか、どう制限するかは書かれています。Claude が情報源をどう選ぶのか、ボットを許可すると言及につながるのか、変更の反映にどれだけかかるのかは書かれていません。robots.txt の設定が引用に影響すると裏づける情報源を、私たちは知りません。だからこの記事は、引用を約束しません。

このページが与えてくれるのは、役割の分け方です。Anthropic は、ロボットを「モデル開発のために公開 Web からデータを集め、Web を検索し、ユーザーの指示で Web コンテンツを取得する」ために使うと述べています(原文:“to gather data from the public web for model development, to search the web, and to retrieve web content at users’ direction”)。ページの日付は2026年4月7日で、私たちは2026年11月4日に取得しました。ここで Anthropic について述べることは、すべてそのページに基づいています。私たち自身の解釈には、そう書き添えます。

「読める」ことと「引用される」ことは別です。Anthropic のボットが読めるページでも、回答に載らないことはあります。逆に、読めないページでは、ボットに使える材料を何も渡せません。運営者が制御できるのは、読めるかどうかのほうです。SEOgrinder が確認するのもそこで、引用は測りません。その違いは AI Visibility チェックの記事で説明しています。

Anthropic の3つのボットを1つの表で

ボットAnthropic による用途の説明無効にしたとき Anthropic が述べていること
ClaudeBot生成 AI モデルの学習に寄与しうる Web コンテンツを収集するサイトの今後の素材を学習データセットから除外してほしい、という意思表示になる
Claude-UserClaude のユーザーを支える。誰かが Claude に質問したとき、この識別子でウェブサイトにアクセスすることがあるユーザーの質問に応じた Anthropic のコンテンツ取得が止まり、ユーザー主導の Web 検索での可視性が下がる可能性がある
Claude-SearchBotWeb を巡回して、ユーザーの検索結果の品質を高める。コンテンツを分析して、検索の回答をより関連性が高く正確にする検索最適化のためのコンテンツのインデックス登録が止まり、ユーザーの検索結果での可視性と正確さが下がる可能性がある

同じページには、これらのボットは業界標準の robots.txt の指示を尊重し、回避を防ぐ技術も尊重するとも書かれています。たとえば CAPTCHA を回避しようとはしません。どのボットも許可するようにという推奨は、ページにありません。無効にしたときに何が起きるかが書かれているだけで、判断は運営者に任されています。

ボット1:ClaudeBot(学習用ボット)

表のとおり、ClaudeBot を制限すると、サイトの今後の素材を Anthropic の学習データセットから除外してほしい、という意思表示になります。ページが述べているのは今後の素材についてで、私たちはそれ以上のことを読み取りません。

ここで大事なのは、この行に書かれていないことです。ClaudeBot について Anthropic が挙げているのは学習からの除外で、検索への影響は書かれていません。可視性への影響は、ほかの2つのボットの行に書かれています。これは表についての私たちの解釈であり、Anthropic の発言ではありません。ただ、Claude の検索で見つけてもらいたいときに見る設定は、ClaudeBot ではなさそうだと読めます。学習を許可するかどうかは事業上の判断で、SEOgrinder が代わりに決めることはありません。

ボット2:Claude-User(ユーザーの質問に応じて取得するボット)

Claude-User は、1回ごとの依頼の背後にいます。誰かが Claude に質問し、Claude がそれに答えるためにウェブサイトを開くことがある、という場面です。Anthropic は “may”(〜することがある)と書いているので、質問が必ず訪問につながるわけではありません。

Anthropic は、Claude-User によってサイト運営者が、ユーザーの依頼によるこれらのアクセスの対象サイトを制御できると述べています。すべてのボットが robots.txt を尊重するという説明と合わせると、ファイルに書いたルールはここにも効きます。ほかの事業者は違います。OpenAI は ChatGPT-User について、robots.txt のルールが適用されないことがあると書いています(“robots.txt rules may not apply”、OpenAI)。事業者ごとにそのページを読み、ルールを別の事業者へそのまま持ち込まないでください。

Claude-User を無効にすると、ユーザーの質問に応じた Anthropic のシステムによるコンテンツ取得が止まり、ユーザー主導の Web 検索での可視性が下がる可能性がある、とページには書かれています。

ボット3:Claude-SearchBot(検索用ボット)

Claude-SearchBot は、説明が検索結果そのものについてのロボットです。Anthropic によると、Web を巡回して検索結果の品質を高め、コンテンツを分析して検索の回答をより関連性が高く正確にします。無効にすると、検索最適化のためのコンテンツのインデックス登録ができなくなります。

私たちの解釈です。Claude の検索結果に出てきたいなら、robots.txt でまず確認すべき行は Claude-SearchBot です。役割が検索のためのインデックス登録だからです。許可することは、ページが述べている内容の前提条件です。何かが表示される約束ではありません。

どのボットを許可するか:3つの問い

Anthropic は、どのボットを許可すべきかは述べていません。以下は私たちならこう決める、という考え方で、Anthropic の意見ではなく私たちの意見です。

  1. 自分のページを Claude の検索結果に出したいか。 それなら Claude-SearchBot を無効にしないでください。
  2. 誰かがページについて尋ねたとき、Claude にページを開いてほしいか。 それなら Claude-User を無効にしないでください。
  3. 自分のコンテンツを学習データに含めてよいか。 これは ClaudeBot の判断で、最初の2つとは違う結論になってもかまいません。3つすべてを許可するサイトも、学習だけを断るサイトもありえます。

どの答えも、技術的な誤りではありません。誤りが起きるのは、うっかり決めてしまったときです。たとえば、テスト環境の Disallow: / がファイルに残っている場合です。

robots.txt で各ボットを許可・拒否する方法

検索とユーザーの依頼による取得は許可し、学習は断るファイルです。

# 学習:運営者自身の判断(この例では断っている)
User-agent: ClaudeBot
Disallow: /

# 検索と、ユーザーの依頼による取得
User-agent: Claude-SearchBot
User-agent: Claude-User
Allow: /

ボットをサイト全体から除外するには、Anthropic のページが示すとおり、最上位ディレクトリの robots.txt に、ボット名を書いた User-agent の行と、それに続く Disallow: / を置きます。オプトアウトしたいサブドメインごとに同じことをするよう求められているので、www.example.com と blog.example.com にはそれぞれ別のファイルが必要です。ボットを止めるのではなく遅くしたいときは、Anthropic が標準外の Crawl-delay 行に対応していると、ページに書かれています。例として、ClaudeBot に対する Crawl-delay: 1 が載っています。

ページは、ボットの IP アドレスをブロックしないようにも警告しています。オプトアウトとして正しく機能しなかったり、確実に除外できなかったりする場合があり、Anthropic が robots.txt を読めなくなるためです。ルールは robots.txt に書いてください。

もう1つの落とし穴は、Anthropic ではなく標準に由来します。RFC 9309 によると、クローラーは自分の名前に一致するグループに従い、専用のグループがあれば * のグループはそのクローラーには適用されません。Claude-SearchBot のグループを足すなら、引き続き有効にしたいルールをすべて繰り返してください。対処法は AIクローラー robots.txt の記事で紹介しています。OpenAI と Perplexity も扱っています。

私たち自身のファイルは例であって、推奨ではありません。2026年11月4日に https://seogrinder.com/robots.txt を curl で取得したところ、* と9つの AI ユーザーエージェント(ClaudeBot、Claude-SearchBot、Claude-User を含む)が同じ1つのグループに書かれており、/api/ 以外はすべて許可されていました。あなたのファイルは違っていてかまいません。

Anthropic からの本物の訪問を見分ける

Anthropic のページは、claude.com/crawling/bots.json というリストにリンクしており、送信元アドレスがそこに載っているクローラーは Anthropic からのものだと述べています。2026年11月4日に取得したところ、アドレスのプレフィックスと、2026年10月20日を示す creationTime フィールドを持つ1つの JSON ファイルでした。ボットごとには分かれていません。そのため、訪問が Anthropic からのものだとは分かっても、3つのうちどのボットかは分かりません。それはユーザーエージェントの名前からしか読み取れず、その名前は誰でもヘッダーに書けます。だから訪問として数えるのは、アドレスがリストに載っている場合だけにして、ファイルは時々取得し直してください。

  • ログは名前で検索し、バージョンでは検索しない。 ページは、完全なユーザーエージェント文字列を載せていません。ログに何もなくても、ブロックの証拠にはなりません。ページが、ボットの訪問頻度を述べていないからです。
  • チャレンジページを受け取ったボットは、何も読めない。 Anthropic は、ボットが CAPTCHA を回避しないと述べています。JavaScript を実行するかどうかはページに書かれていません。分かっていることは AIクローラーと JavaScript の記事にまとめています。

SEOgrinder でできること

SEOgrinder は無料でアカウント不要のツールで、私たちが開発しています。アドレスを入力して分析を開始し、レポートを開きます。ここで見る場所は2つです。

  • AI 対応 タブの「AI エージェント向けのチェック」:「AI ボットを制御する」の項目に、明示的なルールのある AI クローラーの数、許可の数、拒否の数が表示され、拒否されているクローラーの名前も挙がります。この項目は ClaudeBot、Claude-User、Claude-SearchBot を名前で認識します。ClaudeBot は学習用、Claude-SearchBot は検索用のボットとして数えられ、学習と検索にそれぞれ明示的なルールがあって初めて、この項目は満たされます。Claude-User だけにルールがあっても、どちらも満たされません。
  • タスク タブの「AI クローラーは許可されているのに、サーバーが拒否しています — 要確認」:SEOgrinder は、サーバーが4つの固定のボット名にどう応答するかを、robots.txt が許可しているものだけについてテストし、ブラウザーの応答と比べます。Anthropic のボットで含まれるのは ClaudeBot だけで、テストは名前だけを使います。

各項目で エージェント用プロンプトをコピー を押すと、コーディングアシスタント向けの指示が得られます。変更したら 再チェック を押してください。SEOgrinder はあなたのサーバーログを読まず、Claude があなたのサイトを挙げるかどうかも測りません。

よくある間違い

  • Claude の検索から外れたくて ClaudeBot をブロックする。 ClaudeBot について Anthropic が挙げているのは、学習からの除外です。検索への影響は、ほかの2つのボットについて書かれています。
  • 用心のために3つすべてをブロックする。 Claude-User と Claude-SearchBot については、可視性が下がる可能性があると Anthropic は述べています。
  • robots.txt ではなく IP アドレスでブロックする。 Anthropic は、これでは機能しない場合があると述べています。
  • メインドメインだけを直す。 Anthropic は、オプトアウトしたいサブドメインごとにルールを置くよう求めています。
  • 1つのボットのためにグループを作り、共通のルールを失う。 そのボット専用のグループが、* のグループを置き換えます。
  • 許可したボットを、引用されたものと読み替える。 ボットを許可することは、障害を1つ取り除くだけで、言及を約束するものではありません。

よくある質問

Claude に自分のページを引用させることはできますか?

できません。引用を強制できる人はいませんし、Anthropic のページにも、引用を引き起こす設定は書かれていません。できるのは、ボットがページを読めるように障害を取り除くことです。Claude が挙げるかどうかは、Claude が決めます。

ClaudeBot をブロックすると、Claude の検索から外れますか?

Anthropic のページには、そう書かれていません。ClaudeBot について挙げているのは、今後の素材を学習データセットから除外することです。ページが挙げている検索への影響は、Claude-User と Claude-SearchBot に関するものです。

SEOgrinder は、Claude が自分のサイトを引用しているかを表示しますか?

しません。確認するのは技術的な土台、つまり AI システムがページに到達して読めるかどうかです。

次の一歩

robots.txt を開き、ClaudeBot、Claude-User、Claude-SearchBot を探してください。それぞれを意図して決めます。検索とユーザーの依頼による取得は一方、学習はもう一方です。サブドメインを運用しているなら、ファイルごとに確認してください。そのあと SEOgrinder で無料スキャンを実行し、AI 対応 タブと タスク タブを開いて、未達の項目を直してください。

あわせて読みたい

ブログのほかの記事