Search Consoleでクロール異常(Crawl anomaly)が増えたとき、最初の30分でやること
Search Consoleのクロール異常(Crawl anomaly)を、例URL→返り値固定→止血順で30分で切り分けるチェックリスト。
Search Consoleで「クロール異常(Crawl anomaly)」が増えたとき、最初の30分でやるべきことは “原因を推測する”ではなく「Googlebotが取りに行ったURLで、何が返っているかを確定する」 です。
この手順で「配信できていない(5xx/タイムアウト/ブロック)」が見えれば、検索の回復は“止血順”で一気に進みます。
0. まずやらないこと
- 大量のURLを一括で再クロール/再送信して様子を見る
- Cloudflare/WAF/キャッシュ/ルーティングを同時に触る
- 404/リダイレクト/正規化の修正と混ぜて進める
初動で触るのは「影響範囲が小さく、戻せる差分」に限定します。
1. 何が起きているか(30秒で定義する)
- どのドメインか(プロパティの取り違えがないか)
- いつからか(デプロイ/設定変更の直後か)
- 異常は 全体 か 一部のパス か(/media だけ、/api だけ、など)
関連: /media/domain-first-dashboard
2. Search Consoleで「例URL」を10本だけ抜く(5分)
Search Consoleの「ページ」レポートから、次をメモします。
- 例URL(サンプル)を 10本(多すぎると散る)
- 目立つパス(特定ディレクトリに偏っていないか)
- 発生日(いつから増えたか)
ここで「特定ディレクトリだけ」なら、原因はだいたい“そのディレクトリの配信条件(認証/リダイレクト/WAF)”です。
3. 例URLを“外から”取りに行って、返り値を固定する(10分)
例URLを1本ずつ、まずはシンプルに確認します。
- ブラウザ(シークレット)で開けるか
- curlでステータスだけ見る(サーバーやCloudflareの応答を固定する)
curl -I "https://example.com/path"
ここで次が出たら、止血優先度は最大です。
5xx(アプリ/エッジの障害)524(タイムアウト)403(WAF/ボット対策/国制限の誤爆)401(認証がかかっている)
関連:
- /media/search-console-server-error-5xx-first-30-minutes
- /media/cloudflare-524-timeout-first-30-minutes
- /media/cloudflare-waf-blocks-googlebot-first-30-minutes
4. “Googlebotだけ失敗”を疑う(10分)
人間のブラウザでは開けるのに、botだけ失敗する典型があります。
- WAF/Rate Limit/ボット対策が誤爆(User-AgentやIP帯で弾く)
- 画像/JS/CSSなど静的配信にだけ制限が入った(結果的にレンダリングが崩れる)
- 特定国/特定デバイスのみに制限が入った
ここは「何が返っているか」を先に固定してから、設定を最小で戻します。
関連: /media/cloudflare-waf-blocks-googlebot-first-30-minutes
5. 早く効く止血(戻せる差分だけ)
次の順で“配れる状態”に戻します。
- 重要ページの異常を0にする(トップ/料金/主要LP)
- sitemapや主要カテゴリなど「入口」の異常を0にする
- 例URLが偏っているなら、そのディレクトリの条件を最小修正
「触る場所」を固定できたら、直し方は早いです。
関連:
- /media/robots-txt-crawl-stop-first-30-minutes
- /media/search-console-sitemap-fetch-error-first-30-minutes
6. 復旧後にやること(次の30分)
- 原因を「変更点」で固定(デプロイ/設定/データ)
- 同じ条件で再発しないように、監視(5xx/タイムアウト/WAF誤爆)を最低限追加
- 収益導線の近いページから戻りを確認
関連: /media/page-path-revenue-funnel
相談したいとき(“原因究明”より先に、止血の型を作る)
クロール異常は、原因が複数重なりがちです(WAF + タイムアウト + ルーティング事故など)。
SiteOpsなら、次をセットで“運営の型”に落とせます。
-
例URLの抽出 → 返り値の固定 → 直す順番の自動化
-
5xx/タイムアウト/WAF誤爆を、毎朝の優先順位で見られる状態にする
-
料金と導入の流れ: /#pricing
参考にした一次情報
- Google Search Central: Crawling and indexing
- Google Search Central: HTTP status codes, network errors, and DNS issues
この記事を書いた人
川原
SiteOps編集チームの公開窓口として、検索、アクセス、収益データをもとにした運営判断の知見をまとめています。
関連記事
次にやること
複数サイトの検索、アクセス、収益データをまとめて見直すなら、SiteOpsのダッシュボードでサイト別に確認できます。
料金を見る相談したい / お問い合わせ