Не все сайты и не всем одинаково полезны.
С моего личного "неоптимизированного" сайтика в июле робот Yandex забрал 5621 страниц, переходов с поиска Яндекса - 241, Google - 71/4, MSN - 4670/1.
Все, кроме MSN'а, по-своему правы.
Что касается "быстрого робота", его наличие (а не объявление об этом) действительно является скорее ПиАром. Разумеется, конкуренты, которые "всё делают быстрее и лучше", давно используют у себя "быстрых роботов", и введение этого механизма Яндексом всего лишь означает, что в данном случае мнение "не правильно делать изменения в поиске ради ПиАра" проиграло.
Давайте найдём причину появления бустрого робота. Ответ, как ни странно прост.
Причин две - плохой алгоритм, отстутствие бабла , чтобы скомпенсировать погрешности алгоритма. С алгоритмом всё понятно. Тут гордость не позволяет признать , что алгоритм стар и пора менять. Критику Волож в этом вопросе не приемлет. Остаётся лишь одно решение - увеичение серверов, замена старых на новые. Но и тут проблема.
Просто нету бабла, несмотря на активное надувание щёк. А ведь нужно просто поставить больше серверов ( по моим оценкам раз в десять). И все сайты будут индесироваться быстро и вовремя.
Обычный робот Яндекса обходит рунет раз в месяц. Сравните с Гуглем, они делают это раз в два дня. Яндексу ещё работать и работать над собой. Появление быстрого робота - это как мёртвому припарка. Яндекс, у вас сарай горит!!! Делайте что нибудь.
Конкуренты всё делают быстрее и лучше. Индексировать нужно быстро и все сайты!!! А иначе нужно закрывать лавочку. Гугль уже пришёл. И растёгивает штаны ...