X   Сообщение сайта
(Сообщение закроется через 3 секунды)



 

Здравствуйте, гость (

| Вход | Регистрация )

> Robots.txt и DLE vs индексация
kulbit
kulbit
Topic Starter сообщение 11.8.2010, 13:35; Ответить: kulbit
Сообщение #1


Хочу закрыть от индексации всеь лишний контент и оставить для индекса категории и сами новости.

Интересует как это все правельно сделать.

Сначало хочу закрыть архивы. Для этго правельнее будет указать в robots'е Disallow: /2009/ или Disallow: /2009/* ?
Еще интересует как правельно закрыть страницы типа _http://site.ru/page/1/ и т.д. Достаточно будет куазать только Disallow: /page/ или это не закроет page/1/, page/2/ и т.д.?

И если я закрою /page/ от индексации смогут ли нормально индексироваться новости, т.к. ссылки на новости выводятся именно на /page/ ( а она будет закрыта от индексации), новость имеет следующий адрес _http://site.ru/category/post.html.

Сообщение отредактировал kulbit - 11.8.2010, 13:37


--------------------
Скажи нет терпимости!!! 14
0
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
2 страниц V   1 2 >  
Открыть тему
Ответов (1 - 9)
purple
purple
сообщение 11.8.2010, 13:51; Ответить: purple
Сообщение #2


через "*" вы будете давать роботу задание "запрет на индексацию по маске".
если на /page/* страницах будут новости, то конечно они не будут индексироваться, если закрыть индексацию для /page/*


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
burusha
burusha
сообщение 11.8.2010, 14:01; Ответить: burusha
Сообщение #3


User-agent: *
Disallow: /*page/
Disallow: /page/
Disallow: /2009/
Disallow: /2011/
Disallow: /2010/
Sitemap: http://сайт.ру/sitemap.xml

User-agent: Yandex
Disallow: /*page/
Disallow: /page/
Disallow: /2009/
Disallow: /2011/
Disallow: /2010/
Host: сайт.ру
Sitemap: http://сайт.ру/sitemap.xml

p.s. Новости индексироваться будут через морду, сайтмап и через тот же page, т.к. если даже запрещено к индексу он переходит по страницам, но не индексирует.
p.p.s. Disallow: /*page/ для запрета страниц категорий.
p.p.p.s. Затачиваешь сат под продажу ссылок?smile.gif

Сообщение отредактировал burusha - 11.8.2010, 14:03


--------------------
Забанен за негативное отношение к форуму и его администрации.


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Staurus
Staurus
сообщение 11.8.2010, 14:25; Ответить: Staurus
Сообщение #4


User-agent: *
Disallow: /*print
Disallow: /*userinfo
Disallow: /2009/
Disallow: /2011/
Disallow: /2010/
Disallow: /index.php?subaction=userinfo
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /backup/
Disallow: /engine/
Disallow: /user/
Disallow: /favorites/
Disallow: /index.php?do=register
Disallow: /?do=lastcomments
Disallow: /statistics.html
Disallow: /index.php?do=addnews
Disallow: /index.php?do=feedback
Disallow: /index.php?do=lostpassword
Disallow: /index.php?do=pm
Disallow: /index.php?do=stats
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html
Sitemap: http://сайт.ру/sitemap.xml

User-agent: Yandex
Host: сайт.ру
Sitemap: http://сайт.ру/sitemap.xml


--------------------


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
kulbit
kulbit
Topic Starter сообщение 11.8.2010, 19:53; Ответить: kulbit
Сообщение #5


Вот допустим я закрыл от индекса архивы таким способом

Disallow: /2009/
Disallow: /2011/
Disallow: /2010/

Будут ли индексироваться страницы с таким адресом http://сайт.ру/2009/page/1 ?

Сообщение отредактировал kulbit - 11.8.2010, 19:54


--------------------
Скажи нет терпимости!!! 14
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Staurus
Staurus
сообщение 11.8.2010, 20:10; Ответить: Staurus
Сообщение #6


ты кадр?

Disallow: /2009/ - означает что закрывает всё, где встречается /2009/. ЕЩЕ РАЗ ПОВОТРЮ ВСЁ закрывает где встречается /2009/


--------------------


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
kulbit
kulbit
Topic Starter сообщение 11.8.2010, 20:11; Ответить: kulbit
Сообщение #7


(Staurus @ 11.8.2010, 20:10) *
ты кадр?


Нет, просто немного запутолся в их * и $, вот и уточняю.


--------------------
Скажи нет терпимости!!! 14
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
purple
purple
сообщение 11.8.2010, 20:14; Ответить: purple
Сообщение #8


вообще маска "*" в некоторых роботах не поддерживается (читал об этом), но вышеуказанные ваши директивы запретят для индексации все содержимое папок, в том числе субдиректории, файлы и тп.


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
install
install
сообщение 11.8.2010, 20:17; Ответить: install
Сообщение #9


kulbit, так может вообще не стоит делать сайт?

Просто уберите архивы, тэги, календарь, похожие новости и тд сделайте стандартный роботс и не ломайте себе и людям голову


--------------------
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
kulbit
kulbit
Topic Starter сообщение 11.8.2010, 20:25; Ответить: kulbit
Сообщение #10


install шагайте мимо батенька. Ничего плохого не вижу, в том чтобы голову поломать.


--------------------
Скажи нет терпимости!!! 14
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
2 страниц V   1 2 >
Открыть тему
Тема закрыта
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0


Свернуть

> Похожие темы

  Тема Ответов Автор Просмотров Последний ответ
Горячая тема (нет новых ответов) Тема имеет прикрепленные файлыБыстрая индексация страниц сайта и обратных ссылок - 2Index
38 2Index 6617 Вчера, 12:56
автор: 2Index
Открытая тема (нет новых ответов) Индексация внешних ссылок
16 Vmir 5568 25.2.2024, 19:22
автор: MihaylovRA
Открытая тема (нет новых ответов) DLE xProtect
2 xoopw 5977 15.1.2024, 21:06
автор: Diana_Wesley
Открытая тема (нет новых ответов) Обновить сайт на CMS DLE
1 Sawich 1661 2.9.2023, 10:10
автор: WoWeb
Открытая тема (нет новых ответов) Тема имеет прикрепленные файлыБуржунет. Гест Посты на .EDU .GOV. Топ ссылки TLD, WEB 2.0, профили Microsoft и др. 100% индексация
Продажа ссылок с индексацией на мощных площадках
11 diezelk 9897 13.5.2023, 11:12
автор: diezelk


 



RSS Текстовая версия Сейчас: 19.4.2024, 8:08
Дизайн