[X] Помощник

[ThePixel Topic Starter]

Добрый день товарищи.
У меня проблема которую я хочу решить с вашей помощью.
Сделали сайт на Joomle.
Теперь требуется сдлать правильный Роботс.тхт

Прошу помощи.

[topsmiling]

http://ktonanovenkogo.ru/seo/uluchshaem-in...ss-chast-2.html

[san_san]

Какая версия Джумла!? Существенно, уточните.

PS: понятно, 1.7 (generator закройте!). Уберите (имхо) .html в настройках ЧПУ
А далее:

User-agent: *
Disallow: /administrator/
Disallow: /cache/
Disallow: /cli/
Disallow: /components/
Disallow: /includes/
Disallow: /language/
Disallow: /libraries/
Disallow: /logs/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /index
Disallow: /*index
Disallow: /*.mp3$
Disallow: /*.doc$
Disallow: /*.pdf$
Disallow: /*.zip$
Disallow: /*.rar$
Disallow: /*.css$
Disallow: /*.js$
Disallow: /*.pptx$
Disallow: /*.html$
Disallow: /*.htm$
Disallow: /*?
Allow: /
Host: www.1528.webdrs.ru/

Добавьте, естестно, в "закрытые": контакты, поиск, опросы.
Кроме этого: зайдите в Я.Вебмастер (страницы в индексе) и просмотрите список, Джумла! может почитать много чего мусорного, закройте дубликаты и мусор, комментарии, нечитаемое и прочее дермецо.

Удачи!
PS: эт мой рецепт, на "истину последней инстанции" не претендует, проверено (однако) временем, несогласие с рецептом - обоснуйте, плз Всегда рад обмену полезными наблюдениями.

Сообщение отредактировал san_san - 29.1.2012, 17:55

[ThePixel Topic Starter]

Вопрос почему нужно закрыть Уберите (имхо) .html в настройках ЧПУ

[san_san]

Вопрос почему нужно закрыть Уберите (имхо) .html в настройках ЧПУ

Вопрос хороший. И спорный. Я выразил свое мнение на вопрос.

Стоит, однако, разобраться: как именно ПС индексируют транслит в url? Если адекватно (т.е. ПС - переводит траслит "на русский" и сравнивет его с текстом страницы), то дописав в url - "текст-ссылки.htm" (или .php) - вы убьете это понимание, в некоторой степени (вопрос очень спецфичный, подробнеее стоит поискать на специализированных ресурсах). Если Вы считаете, что ПС на это наплевать - можно не "закрываьть".

Второе - на фиг увеличивать длну url на 4 символа?

Третье: если уж вы настроили чпу без .htm (или другие разрешения), то: Джумла, однозначно, нагенерит вам таких страниц сама, стоит помочь cms избавиться от вредной привычки.

В принципе: это такие мелочи... Но: помогает избавиться от дубликатов, улучшает индексацию и поиск. Это - практические наблюдения, хоть и смахивают на шаманство. Я (увы) сугубо практик, наверное есть и теоретические измышления на этот счет (хотя - не нашел вразумительных в Сети).

Самое актуальное: смотреть раз в месяц список страниц в поиске и вовремя "убивать" лишние. Но свой базовый "робот" считаю абсолютно верным . Как базовый.

PS: стоит добавить. Компоненты Джумла! способны, кстати, нагенирить вообще помойку... Особенно ВиртуаМарт и ДжумлаГаллерея (Комменты - отдельная песня). Если есть Форум - тут вообще надо "резать" его целиком.
robots - хорошее орудие. Нужно его точить, точить, точить. И будет нам счастье.
Удачи!

Сообщение отредактировал san_san - 29.1.2012, 20:42

[ThePixel Topic Starter]

Как можно посмотреть все страницы сайта что бы понять есть ли дубли или еще какой мусор? Может есть сервис? Сайт еще не проиндексирован, так как закрыт от поисковой системы.

Сообщение отредактировал bum - 2.4.2012, 14:47

Причина редактирования: -overquotting

[topsmiling]

san_san, я более чаще встречаю что как раз наоборот надо ставить в конце .html, так боты определяют что это статическая страничка, а не каталог. Я лично ставлю... И на счёт слов в url - бот всё равно их понимает и с html и с php на конце

[valikkomar]

У меня на сайте такой. Нашел по рекомендации. Исключает дубли страниц. Можна скопировать только внизу поменять адрес сайта на свой.

User-agent: *
Crawl-delay: 2
Disallow: /administrator/
Disallow: /cache/
Disallow: /index.php?option
Disallow: /components/
Disallow: /component/*
Disallow: /index.php/*
Disallow: /index2.php/*
Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /libraries/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /xmlrpc/
Disallow: /search/
Disallow: /*.pdf
Disallow: /*print=1
Disallow: /*type=atom
Disallow: /*type=rss
Disallow: /*task=rss
Disallow: /cgi-bin

User-agent: Yandex
Crawl-delay: 2
Disallow: /administrator/
Disallow: /cache/
Disallow: /index.php?option
Disallow: /components/
Disallow: /component/*
Disallow: /index.php/*
Disallow: /index2.php/*
Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /libraries/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /xmlrpc/
Disallow: /search/
Disallow: /*.pdf
Disallow: /*print=1
Disallow: /*type=atom
Disallow: /*type=rss
Disallow: /*task=rss
Disallow: /cgi-bin
Host: fotoprezent.ru

Sitemap: http://fotoprezent.ru/sitemap.xml

Замечание модератора: Эта тема была закрыта автоматически ввиду отсутствия активности в ней на протяжении 100+ дней. Если Вы считаете ее актуальной и хотите оставить сообщение, то воспользуйтесь кнопкой или обратитесь к любому из модераторов.

Сообщение отредактировал valikkomar - 28.2.2012, 13:24