サイト解析・技術メモ

無料でサイトURL一覧を取得する方法!JSベースのサイトも一括で書き出す裏技

「競合サイトの全ページを確認して、サイト設計やコンテンツ戦略を分析したい」
「自社サイトのリニューアルで、全URLをリスト化して漏れなくチェックしたい」

わたしがSEOコンサルタントが実務で競合分析やサイト診断を行う際、避けて通れないのが「正確なURLリストの抽出」です。

しかし、最近はSvelteやReact、Vueなどで構築されたJavaScript(JS)ベースのサイトが増えており、定番の「Screaming Frog(スクリーミングフロッグ)」の無料版ではURLが1件も抜けない……という事態がよく起こります。

そこで今回は、わたしがSEOプロの現場でもよく使う「ツールに頼らず、ブラウザだけでJSサイトのURL一覧を効率よく取得する方法」を詳しく解説します。

にゃぶり
にゃぶり
特に、最近増えている「スクリーミングフロッグ(無料版)などのツールではURLがうまく抜けないJavaScript(JS)ベースのサイト」への対策も解説するにゃ!

1. サイトのURLを一覧取得する3つの基本

まずは、目的やスキルに合わせて選べる3つの方法です。

① Google検索を使う(site:検索)

最も手軽な方法です。

やり方: 検索窓に site:example.com と入力します。
メリット: インデックスされているページがすぐわかる。
デメリット: 数十ページ以上ある場合、コピペが大変。

② XMLサイトマップを確認する

サイト運営者が用意している「URLリスト」を直接見に行く方法です。

やり方: ドメインの末尾に /sitemap.xml をつけてアクセスします。
メリット: サイト全体の構造が一番正確にわかる。
デメリット: サイトマップを公開していないサイトも多い。

③ クロールツールを使う

「Screaming Frog SEO Spider」などの専用ツールでサイトを巡回させます。

メリット: ボタン一つで数千件のURLを抽出できる。
デメリット: JSベース(React/Svelte等)のサイトだと、無料版の設定ではリンクが1つも拾えないことがある。

2. URL一覧を取得する裏技(JSベースのサイトもOK)

「URL一覧を簡単に手に入れたい」
「ツールを使ってもURLが全然出てこない…」
そんな時、実はブラウザの標準機能(デベロッパーツール)を使うのが最強です。
SvelteやReactなどで作られたモダンなサイトでも、ブラウザが一度画面を表示してしまえば、そこには必ず「リンク」が存在しています。その「表示された後のデータ」を直接抜き出すので、失敗がありません。

URL一覧取得の実行手順(非エンジニアでも10秒!)

URL一覧取得の実行手順(非エンジニアでも10秒!)

1. URLを取得したいページを開く。
2. F12(Macは Cmd+Option+I)でデベロッパーツールを開く。
3. 「Console」タブに以下のコードを貼り付けて Enter

これだけで、ツールでは見つけられなかったJS生成後のURLもズラッと表示されます。

【応用】URL一覧をファイルとして一括ダウンロードする

「表示されるだけじゃなくて、Excelで管理したい!」という方のために、直接ファイル(TXT/CSV)として保存するコードも紹介します。

Suzuki
Suzuki
以下のコードをコンソールに貼ると、自動で links.txt がダウンロードされます。

【応用】どのテキストにどのリンクが貼ってあるか

Suzuki
Suzuki
「どのテキストにどのリンクが貼ってあるか」をExcelで開けるCSV形式で保存します。

3. リンク・画像・CSSの一覧を取得する方法

さらに、普通のURL(リンク)だけでなく、画像URLやデザインファイル(CSS)もまとめてリスト化したい場合は、このコードが便利です。

このサイトURL一覧取得のすごいところ

JS非対応ツールへの回答: 有料ツールを買わなくても、ブラウザが代わりに解析してくれる。
画像URLも一瞬: 「このサイト、どんな画像使ってるんだっけ?」という調査も一瞬で終わる。
CSSも把握できる: サイトの裏側で読み込まれているデザインファイルまでリスト化可能。

にゃぶり
にゃぶり
調査対象のサイトに負荷を与えないこともメリットにゃな!

まとめ:サイトのURL取得は「Googleデベロッパーツール」が最強のツール

「サイトのURLを取得する方法」は色々ありますが、「JSベースのサイトでも無料で確実に」という条件なら、ブラウザのコンソールを使うのが一番の近道です。
スクリーミングフロッグ無料版で「URLが0件」と出て絶望したときは、ぜひこのコードを思い出してください!

Suzuki
Suzuki
ツールが使えないからと諦めるのではなく、仕様を理解して代替案(技術的解決)を出すのがコンサルタント!
no image
【SEO実務】GoogleスプレッドシートでURL一覧からタイトルを一括取得する方法

「競合サイトのURLリストは手に入ったけど、1つずつタイトルを確認するのは面倒……」 「リニューアル時の新旧URL対照表で、ページタイトルを一気に並べたい」 前回、ブラウザのコンソールを使ってURL一 ...

続きを見る

  • この記事を書いた人
  • 最新記事
集客ジョーズ SEOコンサルタントRei Suzuki

REI SUZUKI

慶應義塾大学卒業。SEOおよびAI活用を専門とするSEOコンサルタント。スタートアップ企業のマーケティング責任者として参画し、SEO・広告を中心とした集客施策を統括。独立後は個人でアフィリエイトメディアを立ち上げ、収益化。ASPの新人賞を受賞。その後、複数のSEO支援会社や事業会社のプロジェクトに関わる。趣味は水族館巡りとアイドル鑑賞(B&ZAI橋本涼さんのオタク)。サメの保全や海洋環境問題をテーマにしたYouTubeチャンネルも運営中。

-サイト解析・技術メモ