X   Сообщение сайта
(Сообщение закроется через 3 секунды)



 

Здравствуйте, гость ( Вход | Регистрация )

Открыть тему
Тема закрыта
> Исключения в robots.txt - это возможно?, Вопрос по настройке robots.txt
vi3dok
vi3dok
Topic Starter сообщение 26.8.2014, 10:08; Ответить: vi3dok
Сообщение #1


Частый гость
**

Группа: User
Сообщений: 92
Регистрация: 2.9.2013
Поблагодарили: 3 раза
Репутация:   0  


Нужно закрыть от индексации все страницы с /component/ но оставить для индексации 1ну страницу по адресу site.com/component/televizoru.html. Такое возможно? Если да - то как?
0
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Muwqa
Muwqa
сообщение 26.8.2014, 10:21; Ответить: Muwqa
Сообщение #2


Мошенник
*****

Группа: Banned
Сообщений: 797
Регистрация: 29.11.2011
Поблагодарили: 215 раз
Репутация:   44  


Используйте allow.
Больше информации по клику

Сообщение отредактировал Muwqa - 26.8.2014, 10:22


--------------------
Заблокирован за мошенничество.


Поблагодарили: (2)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
vi3dok
vi3dok
Topic Starter сообщение 26.8.2014, 10:56; Ответить: vi3dok
Сообщение #3


Частый гость
**

Группа: User
Сообщений: 92
Регистрация: 2.9.2013
Поблагодарили: 3 раза
Репутация:   0  


Muwqa, Спасибо большое, это то что нужно.
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
v1st
v1st
сообщение 26.8.2014, 11:27; Ответить: v1st
Сообщение #4


Новичок
*

Группа: User
Сообщений: 21
Регистрация: 26.6.2014
Поблагодарили: 5 раз
Репутация:   0  


Также не стоит забывать, что директива robots может игнорироваться ботами (например, если кто-то вашим урлом, которые заблокирован в роботс, поделился на форуме). Поэтому смотря что вы закрываете, если ту инфу, которая 100% не должна появиться в результах поисках, нужно еще подстраховаться.

Это кстати, написано в помощи Гугл: "Хотя Google не сканирует и не индексирует контент, заблокированный в файле robots.txt, запрещенные URL, размещенные на других сайтах в Интернете, могут быть доступны для поиска и индексации. Таким образом, URL, а также другие общедоступные сведения, например текст ссылок на сайт, могут появиться в результатах поиска Google. Чтобы полностью заблокировать URL в результатах поиска, используйте файл robots.txt вместе с другими методами блокировки URL"

Сообщение отредактировал v1st - 26.8.2014, 11:32
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
vi3dok
vi3dok
Topic Starter сообщение 26.8.2014, 11:39; Ответить: vi3dok
Сообщение #5


Частый гость
**

Группа: User
Сообщений: 92
Регистрация: 2.9.2013
Поблагодарили: 3 раза
Репутация:   0  


v1st, Если я закрою раздел в роботсе и панели вебмастера гугл, но в роботсе я разрешу одну страницу, гугл её проиндексирует?
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
v1st
v1st
сообщение 26.8.2014, 11:50; Ответить: v1st
Сообщение #6


Новичок
*

Группа: User
Сообщений: 21
Регистрация: 26.6.2014
Поблагодарили: 5 раз
Репутация:   0  


vi3dok, Да, по ссылке которую давали вам выше, эта инфа есть:
User-agent: Yandex
Allow: /
Disallow: /catalog
Allow: /catalog/auto
# запрещает скачивать страницы, начинающиеся с '/catalog',
# но разрешает скачивать страницы, начинающиеся с '/catalog/auto'.

но я имел в виду немного другое, что если для инфы, которую хотите закрыть - критично не попадание в индекс, следует подстраховаться директиивой: <meta name="robots" content="noindex,nofollow">.
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
vi3dok
vi3dok
Topic Starter сообщение 26.8.2014, 12:34; Ответить: vi3dok
Сообщение #7


Частый гость
**

Группа: User
Сообщений: 92
Регистрация: 2.9.2013
Поблагодарили: 3 раза
Репутация:   0  


v1st, У меня не та причина. Мне надо закрыть дубли, но пару страниц на старые адреса которых были куплены ссылки и которые сидят в выдаче надо склеить. А для этого нужно что бы старые адреса этих страниц были доступны. К сожалению настроить массовый 301й редирект нет возможности.

Сообщение отредактировал vi3dok - 26.8.2014, 12:35
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Открыть тему
Тема закрыта
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0


Свернуть

> Похожие темы

  Тема Ответов Автор Просмотров Последний ответ
Открытая тема (нет новых ответов) Вранье ли это?
27 OldSpice 2450 Вчера, 21:06
автор: alexandrrr
Горячая тема (нет новых ответов) Услуги по сбору новостей .txt для ваших сайтов, любые тематики + Отзывы
Импорт в DLE, WP (Xml, SQL) с отложенной публикацией под заказ
135 Akira 47481 28.11.2017, 1:05
автор: Akira
Открытая тема (нет новых ответов) Nofollow ссылки из robots.txt, как это работает?
Как-то запретить к индексации без rel="nofollow" из robots.txt
7 coremission 508 17.11.2017, 17:17
автор: coremission
Открытая тема (нет новых ответов) Google AI спутал черепаху с винтовкой. Почему это опасно?
1 MissContent 525 7.11.2017, 16:07
автор: wertu
Открытая тема (нет новых ответов) Возможно ли создать парсер Кинопоиска по рецензиям?
1 MoreVi 423 24.10.2017, 21:47
автор: dimaprog


 



RSS Текстовая версия Сейчас: 15.12.2017, 2:56
Дизайн