Правильный robots.txt для WordPress
Янв 13, 2010 Поисковая оптимизация
Наконец-то свершилось. DekusWorld.ru в поиске стал представлять из себя, то что надо мне, а не то, что надо поисковикам.
В поиске остались четко страницы с постами. чтд.
Причиной столь радостного явления стал правильный robots.txt. Я давно собирался привести блог в порядок, но то руки не доходили, то потом был бан и было лениво, пару недель назад таки было выполнено. Теперь осталось еще проключить кеширование для ускорения загрузки и будет вообще супер...
Правильный robots.txt для WordPress по мнению Dekus`а
User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: /feed
Disallow: /comments
Disallow: /category/*/*
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Disallow: /tag
Allow: /wp-content/uploads
Sitemap: http://www.dekusworld.ru/sitemap.xml
User-agent: Yandex
Crawl-delay: 5
Ссылки ниже представлены на правах рекламы, автор блога не несет ответственности за качество предлагаемых товаров и услуг.
Не нравится делать саттелиты на WordPress? Берешь резюме и идешь искать работу!
Конец блока рекламы
13th Январь 2010 at 16:16
dekus, а что означает строчка Crawl-delay: 5 ?
13th Январь 2010 at 19:19
таймаут, с которым поисковый робот Яндекс считывает страницы вашего сайта с сервера
13th Январь 2010 at 21:40
А при чем тут .htaaccess?
«Правильный .htaccess для WordPress по мнению Dekus`а»
13th Январь 2010 at 21:43
Ради интереса посмотрел на . разрешен, т.е. все, что в секции User-agent: *, почему-то не учлось
13th Январь 2010 at 23:08
Нахрена тебе исключающий обход Allow: /wp-content/uploads, если у тебя нет запрета на wp-content/? Короче, местами бред
14th Январь 2010 at 10:00
Работает? Работает! Мне указанный алов вообще не нужен у меня там индексировать нечего. Со всеми остальными претензиями
1. В жопу
2. Напиши правильно
14th Январь 2010 at 12:01
Загрузил твой через webmaster.yandex.ru/robots.xml#results — вообще все другое. Где-то ты лукавишь, если не сказать покрепше
14th Январь 2010 at 13:39
В моем еще добавки для обработки гугл адсенс и делисио и поиска по картинкам.
14th Январь 2010 at 17:21
Сейчас я кину на народ ссылку и она будет в индексе. Закрой ее дизалоу
17th Январь 2010 at 17:59
Декус научи даунов делать робот ткст и ситемап для простых сайтов. А то я сделал ситемап txt и ждал пока проиндексирует.
Хотя с твоей статьей как быстро проинлдексировать сайт, ситемап нах оказалься ненужен. Я сделал новую страницу, а на следущий день она уже в индексе .