X   Сообщение сайта
(Сообщение закроется через 3 секунды)



 

Здравствуйте, гость ( Вход | Регистрация )

Открыть тему
Тема закрыта
> robots.txt для субдоменов, YandexBot достал
span4bob
span4bob
Topic Starter сообщение 20.5.2016, 11:22; Ответить: span4bob
Сообщение #1


Бывалый
****

Группа: User
Сообщений: 374
Регистрация: 6.5.2013
Из: Земля
Поблагодарили: 56 раз
Репутация:   10  


Всем привет задался вот таким вопросом.
Есть основной сайт подразделы (города) выведены в виде субдоменов.
сайт.ру
город1.сайт.ру
город2.сайт.ру
город3.сайт.ру

В последние 3 дня Yandexbot просто достал сканировать каждую страницу на всех субдомены безперерывно. Чем увеличил нагрузку на сервер на более чем на 300% (обычная нагрузка 30-40% в последние 3 дня нагрузка не падает ниже 97%)

Решил поставить Crawl delay 10 на всех субдоменах на Yandex. Но логически это не решит проблему, так как он все равно будетодновремено обращаться ко всем субдоменам продолжая нагружать процессор.

Теперь вопрос ктото пробывал прописывать в роботсе основного домена crawl delay переносилось это правило на субдомены?


--------------------
Выгодно Ссылки с сайтов ТИЦ 100+ ◄ ! Хорошая индексация бэклинков
0
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
SiBor
SiBor
сообщение 30.5.2016, 23:00; Ответить: SiBor
Сообщение #2


Частый гость
**

Группа: User
Сообщений: 77
Регистрация: 14.1.2016
Поблагодарили: 25 раз
Репутация:   9  


Может хостера сменить? Что за сервер, который яндексбот вешает? :)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
gorandim
gorandim
сообщение 1.6.2016, 13:29; Ответить: gorandim
Сообщение #3


клоновод
*

Группа: Banned
Сообщений: 18
Регистрация: 23.5.2016
Поблагодарили: 6 раз
Репутация:   0  


Субдомены работают как отдельные сайты. И Конкретное правило в роботсе работает только для конкретного домена/субдомена. Если правило прописано в роботсе на главном домене, то на субдомены оно не перенесется.


--------------------
клоновод и мошенник


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
RushAgency
RushAgency
сообщение 3.6.2016, 19:53; Ответить: RushAgency
Сообщение #4


Бывалый
****

Группа: User
Сообщений: 397
Регистрация: 1.4.2015
Из: Москва
Поблагодарили: 141 раз
Репутация:   28  


Самое правильное - сменить хостинг :)


--------------------
SEO-аналитика: автоматизация подбора ключевых слов и проверка позиций rush-analytics.ru
База знаний по подбору семантики
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
GlazAlmaz
GlazAlmaz
сообщение 4.6.2016, 22:14; Ответить: GlazAlmaz
Сообщение #5


Генератор СДЛ
******

Группа: Super Moderator
Сообщений: 2033
Регистрация: 28.8.2010
Поблагодарили: 1073 раза
Репутация:   77  


Цитата(span4bob @ 20.5.2016, 11:22) *
Решил поставить Crawl delay 10 на всех субдоменах на Yandex. Но логически это не решит проблему

логически это как раз должно решить проблему


--------------------
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Открыть тему
Тема закрыта
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0


Свернуть

> Похожие темы

  Тема Ответов Автор Просмотров Последний ответ
Открытая тема (нет новых ответов) SW Web: Разработка дизайн для сайтов, Логотипы, Баннеры, Шапки
9 SW_WebDesign 845 Вчера, 19:42
автор: SW_WebDesign
Открытая тема (нет новых ответов) Нужен ли оригинальный текст для ИМ (сложное оборудование)
Подскажите пожалуйста
3 faunder 689 Вчера, 18:14
автор: GlazAlmaz
Открытая тема (нет новых ответов) Сайт для продажи теплиц
2 Iga 789 Вчера, 13:56
автор: GlazAlmaz
Открытая тема (нет новых ответов) SEO для разделов и категорий доски объявлений
Как сделать правильное описание категорий?
0 skewes 497 Вчера, 3:33
автор: skewes
Открытая тема (нет новых ответов) Мини Хак для ДЛЕ
12 OldSpice 1492 Вчера, 2:16
автор: Kumidzeke


 



RSS Текстовая версия Сейчас: 23.4.2017, 9:32
Дизайн