SEO ※当サイトのコンテンツには広告が含まれる場合があります。

検索エンジンからのクロールをブロックする方法

ゆめただ

block-crawling-search-engines

ブログサイトまだデザインを作成中だから、検索エンジンからのクロールをブロックしておきたいなあ。

Worried
お悩みさん

この記事、残しておきたいんだけど、検索エンジンからクロールをブロックしたい。

findout
お調べさん

特定のカテゴリページだけ、検索エンジンからのクロールを拒否したいんだけど。

findout
お調べさん
ゆめただのり
ゆめただ

こんなお悩みを解決します。

検索エンジンからのクロールをブロックしたいあなたへ。ブロックする方法を解説していきます。

検索エンジンからのクロールをうまく調整してSEO対策しましょう。

本記事を読んでわかるコト

サイト全体を検索エンジンのクロールからブロックする方法
特定のカテゴリを検索エンジンのクロールからブロックする方法
特定の記事を検索エンジンのクロールからブロックする方法

メモ:検索エンジンのクロールとは?

検索エンジンのクロールとは、検索エンジンがクローラーと呼ばれるロボットを使って、インターネット上のWebページを巡回し、情報を収集して、検索エンジンのデータベースに登録するコトです。検索結果はこのデータベースを元に表示されるワケです。検索エンジンにクロールしてもらわない限り、検索結果に自分の記事が表示されることはありません。

この記事を書いた人【ゆめただ】

この記事を書いた人
ゆめただのり
ゆめただ

当サイトも、開設準備中は検索エンジンからのクロールをブロックしていました。

1.サイト全体を検索エンジンのクロールからブロックする方法

サイト全体を検索エンジンにクロールさせない方法です。

WordPress管理画面から設定

WordPressの管理画面から、「設定」-「表示設定」を選択。

「検索エンジンでの表示」で、「検索エンジンがサイトをインデックスさせないようにする」 にチェックを入れます

Block_ crawl_SE1
Block_ crawl_SE2

これで設定は完了。

確認方法

サイトのルートディレクトリに、「robost.txt」が生成されます。

robots.txtには、このような内容が記載されます。

【サイト全体をブロックする場合】

User-agent: *
Disallow: /

ブラウザのアドレスバーに、次のように指定すると、robots.txtの内容が表示されます。

確認方法

https://自分のサイトURL/robots.txt

Block_ crawl_SE6

2.特定のカテゴリを検索エンジンのクロールからブロックする方法

特定のカテゴリを検索エンジンにクロールさせない方法です。

robots.txtファイルを編集する

特定のカテゴリをブロックする場合、カテゴリのフォルダ名を指定します。

例えば、カテゴリ1(category1というフォルダ管理)をブロックする場合の例です。

【特定のカテゴリ(フォルダ)をブロックする場合】

User-agent: *
Disallow: /category1/

確認方法

ブラウザのアドレスバーに次のように指定し、robots.txtの内容を表示します。

確認方法

https://自分のサイトURL/robots.txt

Block_ crawl_SE7

3.特定の記事を検索エンジンのクロールからブロックする方法

特定の記事を検索エンジンにクロールさせない方法です。

低品質記事を残しておく場合、検索エンジンにクロールさせない時等に設定します。

記事のコードに直接設定

WordPressのブロックエディタから、コードエディタを選択。

コードを直接編集するモードに切り替えます。

Block_ crawl_SE8

次のコードを追記します。

<meta name=”robots” content=”noindex”>
Block_ crawl_SE9

AFFINGER6の指定方法

AFFINGER6テーマの場合は、「index変更」のところで、「noindex, nofollow」を選択します。

Block_ crawl_SE10
ゆめただのり
ゆめただ

あたなも、検索エンジンからのクロールをうまく調整して、サイトを運営していきましょう。

Data extraction
yumeada_avatar_sqr

ゆめただ

SEO検定1級保有  2019年に知識ゼロからブログを開設  独立を目指し当サイトを運営しています

-SEO