X   Сообщение сайта
(Сообщение закроется через 3 секунды)



 

Здравствуйте, гость (

| Вход | Регистрация )

Открыть тему
Тема закрыта
> Дублирование директив robots.txt
RageLT
RageLT
Topic Starter сообщение 3.8.2012, 19:58; Ответить: RageLT
Сообщение #1


Перебрал десятку популярных блогов в рунета, везде наблюдается одна и та же ситуация.
Все закрывают директория сперва для Яндекса, потом те же директории для всех остальных поисковиков.
Картина примерна следующая:

User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
....(другие директории)
Disallow: /*?
Host: www.site.ru

User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
....(другие директории)
Disallow: /*?
Sitemap: http://www.site.ru/sitemap.xml


По сути дела отличаются они только директивой Host для Яндекса, и картой сайта.
Зачем столько дублируется? Яндекс прочитает свою часть роботс.тхт и не учтет параметры, что указаны для всех поисковиков?

По моему оптимально правильный вариант будет :

User-agent: Yandex
Host: www.site.ru

User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
....(другие директории)
Disallow: /*?
Sitemap: http://www.site.ru/sitemap.xml


--------------------
Велосипед и жену не доверяй никому!
0
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
rjksdfhe
rjksdfhe
сообщение 3.8.2012, 20:11; Ответить: rjksdfhe
Сообщение #2


Да, почти именно для этого.

Яндекс прочитает свои директивы, и съест их по своим правилам.

Другие поисковики пропустят часть User-agent: Yandex, и обработают только более универсальные директивы, и ничего лишнего для них не будет

По моему оптимально правильный вариант будет...
Нет. Яндекс съест свою часть, и дальше обрабатывать уже не пойдёт (т.к. по логике нашёл всё, что предназначалось именно для него). Но на 100% не уверен.

Если так уж интересно - в ЯWM проверяется на лету. Сам не проверял, но в Вашем случае советую поэкспериментировать, если так интересно.

Так что правильно во всех популярных CMS формируется robots.txt. От греха подальше. А лишние строки в robots в наше время ни на что не влияют, кроме пары миллисекунд (или микросекунд).


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
RageLT
RageLT
Topic Starter сообщение 3.8.2012, 20:25; Ответить: RageLT
Сообщение #3


(rjksdfhe @ 3.8.2012, 19:11) *
А лишние строки в robots в наше время ни на что не влияют

Согласен. Но дело принципа. И вы оказались правы. Протестировал в ЯВМ. Яндекс "кушает" только директивы которые выделены для него.
Вопрос закрыт.

Замечание модератора:
Эта тема была закрыта автоматически ввиду отсутствия активности в ней на протяжении 100+ дней.
Если Вы считаете ее актуальной и хотите оставить сообщение, то воспользуйтесь кнопкой
или обратитесь к любому из модераторов.


--------------------
Велосипед и жену не доверяй никому!
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Открыть тему
Тема закрыта
2 чел. читают эту тему (гостей: 2, скрытых пользователей: 0)
Пользователей: 0


Свернуть

> Похожие темы

  Тема Ответов Автор Просмотров Последний ответ
Горячая тема (нет новых ответов) Услуги по сбору новостей .txt для ваших сайтов, любые тематики + Отзывы
Импорт в DLE, WP (Xml, SQL) с отложенной публикацией под заказ
138 Akira 79137 12.8.2019, 21:28
автор: neonix
Открытая тема (нет новых ответов) Куплю места для размещения TXT+URL Строительная тематика.
7 regem 7647 28.3.2019, 18:31
автор: regem
Открытая тема (нет новых ответов) Срочно требуется специалист по robots.txt
Разовая работа
1 tankoff 2208 8.3.2017, 1:56
автор: PavelMarty
Открытая тема (нет новых ответов) Куплю места для размещения TXT+URL Кафе, Ресторан, Банкетные тематики.
0 regem 8348 1.3.2017, 3:20
автор: regem
Открытая тема (нет новых ответов) Работы по файлу robots.txt
8 tankoff 3725 19.3.2016, 20:02
автор: tankoff


 



RSS Текстовая версия Сейчас: 26.4.2024, 3:14
Дизайн