サーバー設定

robots.txtの記述ミスによる意図しないクロールブロックを事前に発見したり、Basic認証用の.htpasswdファイルを生成したりできます。サーバー設定を反映する前の確認用途に適しています。