X   Сообщение сайта
(Сообщение закроется через 3 секунды)



 

Здравствуйте, гость (

| Вход | Регистрация )

2 страниц V   1 2 >
Открыть тему
Тема закрыта
> Какой Robots.txt правильный?
Какой Robots.txt правильный?
Какой правильный код robots.txt?
Первый [ 1 ] ** [25,00%]
Второй [ 2 ] ** [50,00%]
Третий [ 1 ] ** [25,00%]
Все [ 0 ] ** [0,00%]
Всего голосов: 4
  
SammoLove
SammoLove
Topic Starter сообщение 15.9.2009, 7:25; Ответить: SammoLove
Сообщение #1


Как-то вот озадачился. Там ведь последовательность важна. По-моему от частного к общему, и тогда второй. Сейчас используется первый.

1
User-agent: *
Disallow: /cgi-bin/
Disallow: /goto/
Sitemap: http://www.site.ru/sitemap.xml

User-agent: Yandex
Disallow: /cgi-bin/
Disallow: /goto/
Sitemap: http://www.site.ru/sitemap.xml
Host: www.site.ru

2
User-agent: Yandex
Host: www.site.ru

User-agent: *
Disallow: /cgi-bin/
Disallow: /goto/
Sitemap: http://www.site.ru/sitemap.xml

3
User-agent: Yandex
Disallow: /cgi-bin/
Disallow: /goto/
Sitemap: http://www.site.ru/sitemap.xml
Host: www.site.ru

User-agent: *
Disallow: /cgi-bin/
Disallow: /goto/
Sitemap: http://www.site.ru/sitemap.xml
2
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
seo2z
seo2z
сообщение 15.9.2009, 7:43; Ответить: seo2z
Сообщение #2


вообще правильный второй, так как директивы host и sitemap по 2 раза указывать незачем. Но во втором не хватает Disallow, как в обоих других случаях... И во всех случаях перед сайтмапом ставится пустая строка. так что по идее правильных нет. Правильный был бы такой:

User-agent: Yandex
Disallow: /cgi-bin/
Disallow: /goto/
Host: www.site.ru

User-agent: *
Disallow: /cgi-bin/
Disallow: /goto/

Sitemap: http://www.site.ru/sitemap.xml


--------------------
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
ilyazh
ilyazh
сообщение 15.9.2009, 7:53; Ответить: ilyazh
Сообщение #3


User-agent: Yandex
Host: www.site.ru

User-agent: *
Disallow: /cgi-bin/
Disallow: /goto/

Sitemap: http://www.site.ru/sitemap.xml

А разве этот не тоже самое будет? Ведь так мы для всех ПС ограничим доступ к goto и cgi-bin или для яндекса нужно "специальное приглашение" (ограничивать лично для него отдельно, как в первых 3 случаях)? =)

з.ы. да и User-agent: Yandex из моего варианта вроде тоже можно убрать

Сообщение отредактировал ilyazh - 15.9.2009, 7:53
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Futurman
Futurman
сообщение 15.9.2009, 8:55; Ответить: Futurman
Сообщение #4


(ilyazh @ 15.9.2009, 8:53) *
А разве этот не тоже самое будет? Ведь так мы для всех ПС ограничим доступ к goto и cgi-bin или для яндекса нужно "специальное приглашение" (ограничивать лично для него отдельно, как в первых 3 случаях)? =)

з.ы. да и User-agent: Yandex из моего варианта вроде тоже можно убрать


Просто есть мысли что Yandex видит только User-agent: Yandex и на все остальное забивает, так что лучше не мудрить и дублировать. Если вас что-то смущает можно сделать так:

User-agent: *
Disallow: /cgi-bin/
Disallow: /goto/

User-agent: Yandex
Disallow: /cgi-bin/
Disallow: /goto/
Host: www.site.ru

Sitemap: http://www.site.ru/sitemap.xml


--------------------
..
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
SammoLove
SammoLove
Topic Starter сообщение 15.9.2009, 9:24; Ответить: SammoLove
Сообщение #5


Sitemap в конце? Это можно расценить как только для яндекса. Вот видете - опять всё не так однозначно. Есть ещё мнения?
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
xomka
xomka
сообщение 15.9.2009, 10:07; Ответить: xomka
Сообщение #6


(SammoLove @ 15.9.2009, 8:24) *
Sitemap в конце? Это можно расценить как только для яндекса. Вот видете - опять всё не так однозначно. Есть ещё мнения?


почему, не только. happy.gif
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
JohnD
JohnD
сообщение 15.9.2009, 10:12; Ответить: JohnD
Сообщение #7


User-agent: Yandex
Sitemap: http://www.site.ru/sitemap.xml
Disallow: /cgi-bin/
Disallow: /goto/
Host: site.ru

User-agent: *
Sitemap: http://www.site.ru/sitemap.xml
Disallow: /cgi-bin/
Disallow: /goto/


Я всегда делаю так и все работает. Sitemap прописываю после user-agent.
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Psyholord
Psyholord
сообщение 15.9.2009, 10:23; Ответить: Psyholord
Сообщение #8


User-agent: Yandex
Disallow: /cgi-bin/
Disallow: /goto/

User-agent: *
Disallow: /cgi-bin/
Disallow: /goto/
Host: site.ru

>>*****************************<<

Sitemap: http://www.site.ru/sitemap.xml


Я вот так делаю и все ок.По крайней мере в мануале яши так написано ну конечно не считая ***********

Сообщение отредактировал Psyholord - 15.9.2009, 10:23


--------------------
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Krot
Krot
сообщение 15.9.2009, 10:36; Ответить: Krot
Сообщение #9


В панеле вембастера http://webmaster.yandex.ru/wmconsole/analyze_robots_txt.xml есть инструмент (надо использовать с параметрами, после добавления сайта будет ссылка)
И там кажетсья на второй вкладке есть список используемых секций, вот так и по тестируйте. А голосование яндексу до одного места.

Сообщение отредактировал Krot - 15.9.2009, 10:38


--------------------
!
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Futurman
Futurman
сообщение 15.9.2009, 11:23; Ответить: Futurman
Сообщение #10


(SammoLove @ 15.9.2009, 10:24) *
Sitemap в конце? Это можно расценить как только для яндекса. Вот видете - опять всё не так однозначно. Есть ещё мнения?


Перед сайтмапом пустая строка, т.е. это уже не привязка к конкретному юзер-агенту, он так сказать общий на всех и идет отдельно.


--------------------
..
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
2 страниц V   1 2 >
Открыть тему
Тема закрыта
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0


Свернуть

> Похожие темы

  Тема Ответов Автор Просмотров Последний ответ
Открытая тема (нет новых ответов) Какой % отказов нормален для сайта?
11 Aloof 2797 16.4.2024, 12:48
автор: diviner99
Открытая тема (нет новых ответов) Кто где хранит файлы? И какой объем?
просто интересно
22 mark2013 2633 15.4.2024, 8:08
автор: Room
Горячая тема (нет новых ответов) Исчезающие фрилансеры после предоплаты. Зачем? Какой смысл?
36 metvekot 9579 31.3.2024, 1:01
автор: Liudmila
Открытая тема (нет новых ответов) Через какой браузер и как можно найти в кэшэ браузера видео
10 Room 2283 23.3.2024, 7:41
автор: Room
Открытая тема (нет новых ответов) Тема имеет прикрепленные файлыКакой сайт пробовать создавать под небольшое ГЕО?
6 kapusta1 1317 15.3.2024, 13:06
автор: OS_ZP_UA


 



RSS Текстовая версия Сейчас: 18.4.2024, 12:16
Дизайн