X   Сообщение сайта
(Сообщение закроется через 3 секунды)



 

Здравствуйте, гость (

| Вход | Регистрация )

2 страниц V   1 2 >
Открыть тему
Тема закрыта
> Robotx.txt помогите составить :)
lbarmen
lbarmen
Topic Starter сообщение 8.8.2009, 17:53; Ответить: lbarmen
Сообщение #1


Есть сайт(в основе новости) и форум. - Двиг сайта DLE + dle форум
Собственно, можете помочь составить или дайте нормальную тему, с нормальным описанием как сделать.

З.Ы. рылся в поиске, но нашел кучу хлама...

Сообщение отредактировал lbarmen - 8.8.2009, 17:59
0
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
MaraFet
MaraFet
сообщение 8.8.2009, 17:57; Ответить: MaraFet
Сообщение #2


User-agent: *
Disallow:

Sitemap: http://сайт.нет/карта

Сообщение отредактировал MaraFet - 8.8.2009, 17:57


--------------------
Продвиженто - сервис создания семантического ядра (волшекластеры, ТЗ "Мечта копирайтера...)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Nunkomm
Nunkomm
сообщение 8.8.2009, 17:57; Ответить: Nunkomm
Сообщение #3


Какой движок?
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
lbarmen
lbarmen
Topic Starter сообщение 8.8.2009, 17:58; Ответить: lbarmen
Сообщение #4


(MaraFet @ 8.8.2009, 17:57) *
User-agent: *
Disallow:

Sitemap: http://сайт.нет


И всё?=)

Я вот тут посмотрел дле сайты и на многих вот такой вот робот тхт:
User-Agent: *
Disallow: /backup/
Disallow: /templates/
Disallow: /engine/
Disallow: /languages/
Disallow: /uploads/
Disallow: /images/
Host: www.сайт.ру

User-agent: Yandex
Allow: /
Sitemap: http://сайт.ру/sitemap.xml

User-agent: StackRambler
Allow: /
Crawl-delay: 7


Или всё что выше не нужно?

Двиг DLE и форум DLE

Сообщение отредактировал lbarmen - 8.8.2009, 18:00
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
lasmaster
lasmaster
сообщение 8.8.2009, 18:00; Ответить: lasmaster
Сообщение #5


(lbarmen @ 8.8.2009, 21:53) *
Есть сайт(в основе новости) и форум.
Собственно, можете помочь составить или дайте нормальную тему, с нормальным описанием как сделать.

З.Ы. рылся в поиске, но нашел кучу хлама...


Ну вот мой например:

User-agent: *
Disallow: /wp-admin/
Disallow: /wp-login.php
Disallow: /xmlrpc.php
Host: www.bestseomaster.ru

* - значит, что инструкции идут для всех ПС без исключения
в Disallow вписываете те страницы или разделы, которые НЕ должны индексироваться
Host здесь прописываете ваш домен, как он будет с WWW или без них.


--------------------


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
MaraFet
MaraFet
сообщение 8.8.2009, 18:06; Ответить: MaraFet
Сообщение #6


Вот самый правильный вариантsmile.gif: http://www.microsoft.com/robots.txt


--------------------
Продвиженто - сервис создания семантического ядра (волшекластеры, ТЗ "Мечта копирайтера...)


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
lbarmen
lbarmen
Topic Starter сообщение 8.8.2009, 18:09; Ответить: lbarmen
Сообщение #7


(MaraFet @ 8.8.2009, 18:06) *
Вот самый правильный вариантsmile.gif: http://www.microsoft.com/robots.txt



Мощно f_4866c2c501a2c.gif


А что означает это:
Allow: /
Crawl-delay: 7
?

Сообщение отредактировал lbarmen - 8.8.2009, 18:13
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
MaraFet
MaraFet
сообщение 8.8.2009, 18:22; Ответить: MaraFet
Сообщение #8


lbarmen,
Сканирование с запаздыванием


--------------------
Продвиженто - сервис создания семантического ядра (волшекластеры, ТЗ "Мечта копирайтера...)


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Nunkomm
Nunkomm
сообщение 8.8.2009, 18:30; Ответить: Nunkomm
Сообщение #9


Если:
(lbarmen @ 8.8.2009, 16:58) *
Двиг DLE и форум DLE

то:
http://talk.maulnet.ru/topic28441s0.html?p...mp;#entry336193


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
seo2z
seo2z
сообщение 8.8.2009, 18:33; Ответить: seo2z
Сообщение #10


обычно директива "host" прописывается к агенту Яндекса...
то есть так:

User-Agent: Yandex
Disallow:
Host: www.сайт.ру

User-Agent: *
Disallow:
Sitemap: http://сайт.ру/sitemap.xml


--------------------
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
2 страниц V   1 2 >
Открыть тему
Тема закрыта
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0


Свернуть

> Похожие темы

  Тема Ответов Автор Просмотров Последний ответ
Открытая тема (нет новых ответов) Как составить уравнение, чтобы назначить цену для товара?
2 rownong27 759 21.3.2024, 12:53
автор: Lumex
Открытая тема (нет новых ответов) Помогите вспомнить рекламного бота Телеграм для обмена рекламой
0 Mixatraider 725 21.2.2024, 23:42
автор: Mixatraider
Открытая тема (нет новых ответов) Помогите рещить проблему с монитором.
Почему низкое разрешение при подключении монитора через displayport?
0 Levels 1702 11.12.2020, 0:48
автор: Levels
Открытая тема (нет новых ответов) Помогите кто нибудь получить партнерку Росбанк!
7 heisenberg_mw 2340 7.8.2020, 9:28
автор: heisenberg_mw
Открытая тема (нет новых ответов) Помогите найти тему пожалуйста
7 virtas 12481 24.7.2020, 17:02
автор: -JamesSmips-


 



RSS Текстовая версия Сейчас: 19.4.2024, 20:46
Дизайн