X   Сообщение сайта
(Сообщение закроется через 3 секунды)



 

Здравствуйте, гость (

| Вход | Регистрация )

4 страниц V   1 2 3 4 >
Открыть тему
Тема закрыта
> Robots.txt на Dle
MishaDark
MishaDark
Topic Starter сообщение 5.4.2010, 20:47; Ответить: MishaDark
Сообщение #1


У меня возник вопрос smile.gif
Какой должен быть правильный robots.txt на DLE
Заранее спасибо...
0
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
g-prime
g-prime
сообщение 5.4.2010, 20:53; Ответить: g-prime
Сообщение #2


mindflow.ru/2010/01/11/robots-txt-dlya-sajtov-na-dle/

но я на всех своих сайтах, использую следующий файл robots.txt
User-agent: *
Disallow: /*print
Disallow: /autobackup.php
Disallow: /backup/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /user/
Disallow: /favorites/
Disallow: /index.php?do=register
Disallow: /?do=lastcomments
Disallow: /statistics.html
Disallow: /index.php?do=pm
Disallow: /index.php?do=stats
Disallow: /index.php?do=search
Disallow: /index.php?do=addnews
Disallow: /index.php?do=register
Disallow: /index.php?do=feedback
Disallow: /index.php?do=lostpassword
Disallow: /index.php?subaction=newposts

Sitemap: http://site.ru/sitemap.xml
Host: site.ru


Сообщение отредактировал g-prime - 5.4.2010, 20:56


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
GeForce
GeForce
сообщение 5.4.2010, 21:03; Ответить: GeForce
Сообщение #3


User-agent: *
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /user/
Disallow: /cache/
Disallow: /favorites/
Disallow: /cgi-bin/
Disallow: /engine/
Disallow: /language/
Disallow: /*print
Disallow: /templates/
Disallow: /uploads/
Disallow: /backup/
Disallow: /languages/
Disallow: /index.php?subaction=newposts
Disallow: /statistics.html
Disallow: /*rss.xml
Host: www.site.ru
Sitemap: http://site.ru/sitemap.xml


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
MishaDark
MishaDark
Topic Starter сообщение 5.4.2010, 21:47; Ответить: MishaDark
Сообщение #4


Благодарю
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
kzpromo
kzpromo
сообщение 6.4.2010, 5:52; Ответить: kzpromo
Сообщение #5


User-agent: Yandex
Allow: /
Crawl-delay: 10
Disallow: /*print
Disallow: /autobackup.php
Disallow: /user/
Disallow: /favorites/
Disallow: /index.php?do=register
Disallow: /?do=lastcomments
Disallow: /statistics.html
Disallow: /backup/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /uploads/
Sitemap: http://site.ru/sitemap.xml
Host: site.ru

User-Agent: Googlebot
Allow: /
Disallow: /*print
Disallow: /autobackup.php
Disallow: /user/
Disallow: /favorites/
Disallow: /index.php?do=register
Disallow: /?do=lastcomments
Disallow: /statistics.html
Disallow: /backup/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /uploads/
Sitemap: http://site.ru/sitemap.xml
Host: site.ru

User-agent: *
Allow: /
Crawl-delay: 10
Disallow: /*print
Disallow: /autobackup.php
Disallow: /user/
Disallow: /favorites/
Disallow: /index.php?do=register
Disallow: /?do=lastcomments
Disallow: /statistics.html
Disallow: /backup/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /uploads/
Sitemap: http://site.ru/sitemap.xml
Host: site.ru

Нужно учитывать что яндекс и гугл любит чтоб для них было отдельное описание =)


--------------------
Конвертируем Ваш трафик в деньги
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Stop-TussiN
Stop-TussiN
сообщение 6.4.2010, 8:26; Ответить: Stop-TussiN
Сообщение #6


Allow: /

Зачем это писать? по умолчанию всегда доступна индексация, учи мат чатсь

User-agent: *
Host: site.ru

И это тоже бред, дериктива host понимается только яндексом

Сообщение отредактировал Stop-TussiN - 6.4.2010, 8:27
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Elektromaster
Elektromaster
сообщение 6.4.2010, 8:36; Ответить: Elektromaster
Сообщение #7


дериктива host понимается только яндексом

Один раз - да через раз... Яндекс по моему наблюдению, в последнее время игнорирует файло: robots.txt, а в частности директиву host
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Romanuk
Romanuk
сообщение 6.4.2010, 9:48; Ответить: Romanuk
Сообщение #8


Elektromaster, интересные у Вас наблюдения.
Есть страницы закрытые в noindex и конечно же яндекс их не индексирует. Так что робот яндекса 100% смотрит на robots и его наличие почти обязательно.
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
MishaDark
MishaDark
Topic Starter сообщение 6.4.2010, 10:32; Ответить: MishaDark
Сообщение #9


Всем спасибо за ответы, а теперь не подскажите какой robots на joomla ставить?
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
antonblog
antonblog
сообщение 8.4.2010, 15:00; Ответить: antonblog
Сообщение #10


ещё на дле лучше теги закрыть
Disallow: /tags/

а у джумлы и так не плохой роботс в комплеткте, в нем я только картинки открываю для индексации и host прописываю


--------------------
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
4 страниц V   1 2 3 4 >
Открыть тему
Тема закрыта
2 чел. читают эту тему (гостей: 2, скрытых пользователей: 0)
Пользователей: 0


Свернуть

> Похожие темы

  Тема Ответов Автор Просмотров Последний ответ
Открытая тема (нет новых ответов) DLE xProtect
2 xoopw 5978 15.1.2024, 21:06
автор: Diana_Wesley
Открытая тема (нет новых ответов) Обновить сайт на CMS DLE
1 Sawich 1662 2.9.2023, 10:10
автор: WoWeb
Открытая тема (нет новых ответов) Изготовление красивых сайтов на DLE под ключ | Доступные цены
от 2000 руб.
1 Admiral_ukr 1598 20.11.2022, 10:08
автор: Webmaster24
Открытая тема (нет новых ответов) Ищу спеца по DLE вылечить сайт
4 Reactive 2640 22.10.2022, 9:01
автор: Fozik77
Открытая тема (нет новых ответов) требуется перенос с Dle на wordpres
нужен человек для переноса движка
5 Юрий82 1943 30.7.2022, 18:02
автор: Klerik84


 



RSS Текстовая версия Сейчас: 19.4.2024, 23:44
Дизайн