Googlebot выполняет Javascript с трёхдневной задержкой

Как известно, с прошлого лета Googlebot научился исполнять Javascript, чтобы парсить менюшки и заходить в разные относительно закрытые области сайта. Год назад Googlebot также научился делать POST-запросы через Ajax, проходить капчу и подбирать пароль к админке.

Googlebot исполняет скрипты не мгновенно, а с задержкой в несколько часов или даже несколько дней Веб-мастер сайта iFixit.com обнаружил это случайно. Он убрал с фронтенда ненужную функцию по сообщению временной зоны пользователя через Ajax, удалил лишний код с бэкенда, но спустя трое суток всё ещё получал ошибки от кого-то, кто исполнял этот скрипт.

Oct 18 23:40:40 php: ◼|>>> [66.249.76.39] makeprojects.com {UserError} /Project/See-Thru+Potato+Cannon/5/1 Exception - All: Oct 18 23:40:40 php: Unknown ajax response function: setTimezone in ... <<<|◼>

Блок IP-адресов принадлежит Google. Очевидно, что к бэкенду ломится Googlebot — и это спустя трое суток после изменений на сайте.

Вероятно, в Сети стало так много Javascript’ов, что даже Google с трудом с ними справляется. Так что веб-мастерам нужно быть аккуратнее с внесением изменений. Нужно учитывать, что Googlebot может запросить с сервера страницы трёхдневной давности.