X   Сообщение сайта
(Сообщение закроется через 3 секунды)



 

Здравствуйте, гость (

| Вход | Регистрация )

3 страниц V  < 1 2 3 >
Открыть тему
Тема закрыта
> Что делать если боты и поисковики грузят сервер?, Превышение нагрузки на сервер.
Live_and_Die
Live_and_Die
сообщение 13.2.2018, 19:27; Ответить: Live_and_Die
Сообщение #12


Может имелось ввиду обычный хостинг, а не сервер. Вариант 1 - переехать хотя бы на VPSку и по логам настроить защиту от всякой нечисти.
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
dreker
dreker
сообщение 15.2.2018, 18:48; Ответить: dreker
Сообщение #13


Live_and_Die,

какое это кол-во ботов должно заходить , чтоб сервер логал от поисковых ботов ? 0_о


--------------------
Продвижение сайтов, Биржа трафика, Вывод в ТОП
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
4ester7
4ester7
сообщение 6.3.2018, 23:49; Ответить: 4ester7
Сообщение #14


Цитата(dreker @ 15.2.2018, 17:48) *
какое это кол-во ботов должно заходить , чтоб сервер логал от поисковых ботов ? 0_о

Поверьте, такое реально) для многоязычных сайтов очень даже, там где гугл+яша+байду+бинг грузят 500к страниц.

Решение есть. В инструментах для веб-мастеров Яндекс, Гугла и Бинга можно ограничить скорость сканирования, а нечисть убирать в хтаксес, как коллеги по цеху подсказали ранее.

Сообщение отредактировал 4ester7 - 6.3.2018, 23:53


--------------------
20% скидки по купону QA73IMGX на Linkbuilder Helper - сервис по базам сайтов.
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
HavingingWorld
HavingingWorld
сообщение 7.3.2018, 17:45; Ответить: HavingingWorld
Сообщение #15


как поставить чтобы они один раз в день заходили, а то в яндексе на выбор до 30 запросов в секунду, куда столько? я контент раз в 2 дня закидываю
стоит конечно по выбору яндекса, но хз что он там выбирет
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
domenovo
domenovo
сообщение 8.3.2018, 19:28; Ответить: domenovo
Сообщение #16


HavingingWorld, можете поколдовать с robots.txt. Директивы подскажу. Crawl-delay для снижения скорости посещения страниц. Например: Crawl-delay: 10 ограничит посещение роботом 8640 страниц в день. Request-rate для определения количества документов, которые могут быть скачаны роботом за данный период времени. Например: Request-rate: 8640/1d сделает тоже самое. Для Яши посмотрите Crawl-delay и скорость обхода.


--------------------
domenovo.com - регистрация доменов у партнёров, выгодные цены.


Поблагодарили: (1)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
wtf_bro
wtf_bro
сообщение 2.4.2018, 22:37; Ответить: wtf_bro
Сообщение #17


ТС, да спали ты уже этот хостинг или что у тебя там :xz:
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Paymaster
Paymaster
сообщение 27.6.2018, 14:49; Ответить: Paymaster
Сообщение #18


Купить защиту о ддоса, ну или сменить хостинг
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
driver
driver
сообщение 6.7.2018, 13:15; Ответить: driver
Сообщение #19


закрывать в .htaccess левые, гугл, яндекс, бинг задавать время сканирования в панели вебмастеров
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
FobsCraft
FobsCraft
сообщение 22.7.2018, 20:13; Ответить: FobsCraft
Сообщение #20


вводить капчу, в случае если с одного IP идет больше чем 5 (50-100 в зависимости от посещаемости сайта) запросов в минуту (10 секунд, секунду). Бот через капчу не пройдет.
В белом списке ботов, которых легко можно индифицировать, установить правило, что на них капча не распространяется. Все проблема решена.

Техническое решение лучше всего делать на стороне nginx
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
AquaZE
AquaZE
сообщение 16.8.2018, 17:13; Ответить: AquaZE
Сообщение #21


Поставить защита от ддоса как вариант


--------------------
клоновод
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
3 страниц V  < 1 2 3 >
Открыть тему
Тема закрыта
3 чел. читают эту тему (гостей: 3, скрытых пользователей: 0)
Пользователей: 0


Свернуть

> Похожие темы

  Тема Ответов Автор Просмотров Последний ответ
Открытая тема (нет новых ответов) Есть быстрый интернет 1Gb/s Что посоветуете?
Какие варианты заработка есть с быстрым оптоволокном сегодня?
0 Jast1 135 Сегодня, 1:34
автор: Jast1
Открытая тема (нет новых ответов) Будет ли склейка сайтов если старый телефон перенести на новый сайт?
2 noviktamw 595 Вчера, 23:05
автор: Liudmila
Открытая тема (нет новых ответов) Если статья не в индексе Google - она уникальна или нет?
7 uahomka 1711 Вчера, 22:59
автор: Liudmila
Открытая тема (нет новых ответов) Боты могут делать пушподписки на моём сайте?
3 Megaspryt 999 24.4.2024, 5:18
автор: Skyworker
Горячая тема (нет новых ответов) Тема имеет прикрепленные файлыВо что Вы играете?
400 Vmir 68020 20.4.2024, 18:39
автор: SaintExchange


 



RSS Текстовая версия Сейчас: 26.4.2024, 4:48
Дизайн