X   Сообщение сайта
(Сообщение закроется через 3 секунды)



 

Здравствуйте, гость (

| Вход | Регистрация )

Открыть тему
Тема закрыта
> Можно ли в robots.txt указывать несколько sitemap?, правильные директивы
Genesis
Genesis
Topic Starter сообщение 26.5.2011, 9:45; Ответить: Genesis
Сообщение #1


Ребята подскажите, можно ли в robots.txt указывать несколько sitemap?
Выкладываю свой robots для ознакомления, может что неправильно сделано или добавить посоветуете?
Кстати еще хотел спросить правда ли что неправильно закрывать для индексирования папку /images как в джумле идет по умолчанию.

User-agent: *
Allow: /index.php?option=com_xmap&sitemap=1&view=xml
Disallow: /administrator/
Disallow: /cache/
Disallow: /catalog/
Disallow: /components/
Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /libraries/
Disallow: /livezilla/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /xmlrpc/
Disallow: /*rss.html
Disallow: /*atom.html
Disallow: /*Pechat.html
Sitemap: http://сайт.ру/index.php?option=com_xmap&sitemap=1&view=xml
Host: сайт.ру

User-agent: Yandex
Disallow: /administrator/
Disallow: /cache/
Disallow: /catalog/
Disallow: /components/
Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /libraries/
Disallow: /livezilla/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /xmlrpc/
Disallow: /*rss.html
Disallow: /*atom.html
Disallow: /*Pechat.html
Sitemap: http://сайт.ру/sitemap-xml-2.html?sitemap=1
Host: сайт.ру

User-agent: msnbot
Disallow: /
0
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Гость_0_* Гость_0_*
сообщение 26.5.2011, 23:37; Ответить: Гость_0_*
Сообщение #2


Genesis, а зачем несколько карт сайта?
Вроде бы правильно всё, закрыты "технические" дирректории. По images не подскажу, что там за страницы на site.ru/images/... ?
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Genesis
Genesis
Topic Starter сообщение 27.5.2011, 9:02; Ответить: Genesis
Сообщение #3


C картами разобрался, вопрос отпал. В /images картинки.
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
ZiTosS
ZiTosS
сообщение 28.5.2011, 20:57; Ответить: ZiTosS
Сообщение #4


Genesis,
1) Не понял зачем:
Allow: /index.php?option=com_xmap&sitemap=1&view=xml

Разве коим-то правилом вы запрещаете индексировать данный документ?
2) Папки с инсталляцией вообще быть не должно, после установки движков обычно просят её удалять. Смотрите... Напортят вам что-нить в работе ресурса.
3) Несколько карт можно указывать даже для одного робота.
4) С директивой Host вы не правильно разобрались.
Вот что пишет Яндекс:
Важно: в целях совместимости с роботами, которые не полностью следуют стандарту при обработке robots.txt, директиву 'Host' необходимо добавлять в группе, начинающейся с записи 'User-Agent', непосредственно после директив 'Disallow'('Allow').

Как мне кажется, имеется ввиду, что директиву host надо добавлять сразу же после Disallow(Allow).
Хотя по этому поводу есть тоже несколько слов:
Тем не менее директива Host является межсекционной, поэтому будет использоваться роботом вне зависимости от места в файле robots.txt, где она указана.

Так же:
Важно: Директива Host в файле robots.txt может быть только одна. В случае указания нескольких директив, использоваться будет первая.

Данная директива корректно воспринимается только Яшей, если я не ошибаюсь.
Вот ещё ссылка по этой директиве:
http://robotstxt.org.ru/rurobots/yandex#Host
5) Про заглавные буквы в названии файла robots.txt молчу... (следует из заголовка темы)

Замечание модератора:
Эта тема была закрыта автоматически ввиду отсутствия активности в ней на протяжении 100+ дней.
Если Вы считаете ее актуальной и хотите оставить сообщение, то воспользуйтесь кнопкой
или обратитесь к любому из модераторов.


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Открыть тему
Тема закрыта
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0


Свернуть

> Похожие темы

  Тема Ответов Автор Просмотров Последний ответ
Открытая тема (нет новых ответов) Через какой браузер и как можно найти в кэшэ браузера видео
10 Room 2286 23.3.2024, 7:41
автор: Room
Открытая тема (нет новых ответов) Можно ли в старый SEO текст вместо старого домена поставить новый?
3 Tutich 1209 22.3.2024, 14:47
автор: Tutich
Открытая тема (нет новых ответов) Можно жить на доход с партнёрских программ?
13 Santey 2257 15.3.2024, 19:43
автор: wanessa
Открытая тема (нет новых ответов) Жители РФ не спешат отказываться от Gmail, хотя на размышления осталось всего несколько месяцев
20 Room 4169 11.3.2024, 16:00
автор: Lumex
Открытая тема (нет новых ответов) Нужно ли указывать регион для сайта?
2 rownong27 1197 18.2.2024, 23:20
автор: rownong27


 



RSS Текстовая версия Сейчас: 18.4.2024, 18:08
Дизайн