Добрый день.
Хотел бы завести тему о гугл ботах.
У меня на сайте порой прям таки нашествие гугл ботов доходит до 100 ботов в онлайне в виде гостей.
Это создает нагрузку на сервер и сайт немного подвисает.
Как уменьшить количество гугл ботов, но и не блокировать полностью?
К примеру чтобы было до 5 ботов на сайте. А то 50-100 ботов это уже перебор.
Что же у тебя за сервер если 100 человек не держит...
Homelion, Я сейчас не об этом.
Просто мне не нужны эти боты в таком количестве.
Просто мне важен реальный показатель посетителей. А не там где 50% - боты.
Может автора кто нибудь школодудосит с юзерагентов гуглбота. IP у них какие?
В свой robots
добавил
Crawl-delay: 10
Request-rate: 1/5
Visit-time: 0400-0800
Думаю поможет чем-то. Хотя лимита нету на ботов.
Вот их IP
66.249.78.79
66.249.78.67
66.249.66.76
66.249.78.65
И тд.
elkol, В гугле есть алгоритм вычисления валидности IP. Тоесть действительно ли IP-от гугл бота.
Но я особо не понял алгоритма обратных запросов.
У меня они подписаны как
Браузер: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)