Начал делать новый сайт, движок сайта DLE, написал для сайта вот такой robots.txt:
User-agent: *
Disallow: /engine/
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /page/
Disallow: /2011/
Disallow: /favorites/
Disallow: /lastnews/
Disallow: /backup/
Disallow: /language/
Disallow: /cron.php
Disallow: /admin.php
Disallow: /*do=search
Disallow: /tags/
Sitemap: http://адрес сайта/sitemap.xml
User-agent: Yandex
Disallow: /engine/
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /page/
Disallow: /2011/
Disallow: /favorites/
Disallow: /lastnews/
Disallow: /backup/
Disallow: /language/
Disallow: /cron.php
Disallow: /admin.php
Disallow: /*do=search
Disallow: /tags/
Host: адрес сайта
Всё ли правильно? Может, что то зря запретил? Что ещё вы посоветовали бы запретить?
Отдельный вопрос по поводу папок /cgi-bin/ /templates/ и /uploads/. В некоторых местах читал, что их тоже надо запретить, но ИМХО в папку /cgi-bin/ поисковики не залезут, а папки /templates/ и /uploads/ лучше не запрещать, так как изображения сайта храняться там, и выходит, что если запретить эти папки, тогда Google Images и Yandex Картинки не проиндексируют изображения на сайте. Но всё же в этих папках помимо нужных изображений есть и не нужные вещи, как их запретить, не закрыв изображения.
P.S. Есть ли на форуме тег спойлер? А то, как то некрасиво выходит при добавлении большого кода, а тег не могу найти.
Замечание модератора:
Эта тема была закрыта автоматически ввиду отсутствия активности в ней на протяжении 100+ дней.
Если Вы считаете ее актуальной и хотите оставить сообщение, то воспользуйтесь кнопкой
или обратитесь к любому из модераторов.
|
Сообщение отредактировал ErgoProxy - 13.9.2011, 21:06