ルートディレクトリに robots.txt ファイルを作成してください。上記の文章をコピーして、テキストファイルに貼り付けてください。
Robots.txt ジェネレーターは、robots.txt ファイルを簡単に作成することができます。
robots.txt ファイルとは、
robots.txt ファイルは、クローラがどのページやファイルをサイトからリクエストできるか、またはできないかを検索エンジン クローラに知らせるものです。これは主に、サイトでのリクエストのオーバーロードを避けるために使用され、Google にウェブページが表示されないようにするためのメカニズムではありません。