В файл robots.txt добавляем

User-agent: *
Crawl-delay: 20