YandexImages / YandexMedia
YandexImages / YandexMedia — Краулер Яндекса для индексации изображений, медиаконтента и видео. Обеспечивает попадание картинок сайта в Яндекс.Картинки.
- 1 Общие сведения и назначение бота
- 2 Сигнатуры User-Agent и сетевой профиль
- 3 Создаваемая нагрузка и последствия для сайта
- 4 Влияние на поисковые позиции и рекламу
- 5 Проверка визитов бота в журналах сервера
- 6 Рекомендация по обработке трафика
- 7 Способы ручной блокировки (Nginx, .htaccess, Cloudflare)
- 8 Причины неэффективности стандартных методов
- 9 Автоматическая нейтрализация в AntiBotCore
- 10 Часто задаваемые вопросы (FAQ)
- 11 Похожие боты и краулеры
1. Общие сведения и назначение бота
YandexImages — специализированный поисковый робот Яндекса, обходящий сайты исключительно для загрузки и индексации изображений, видеоконтента и другого медиа. Он отвечает за формирование выдачи в сервисе Яндекс.Картинки. YandexMedia — расширенная версия, работающая с видеофайлами и превью для Яндекс.Видео. Отдельный бот YandexVideo индексирует встроенные видеоплееры и ссылки на внешние видеоплатформы.
Оператором и разработчиком бота выступает Яндекс. Основная функциональная задача робота — систематический сбор данных, анализ гиперссылок и выкачивание текстовой информации со страниц сайтов. В зависимости от используемых скриптов бот может запрашивать как статические HTML-файлы, так и инициировать рендеринг тяжелых динамических страниц.
2. Сигнатуры User-Agent и сетевой профиль
В журналах веб-сервера (access.log) бот обычно идентифицирует себя следующими сигнатурами в заголовке User-Agent:
Mozilla/5.0 (compatible; YandexImages/3.0; +http://yandex.com/bots)
Mozilla/5.0 (compatible; YandexMedia/3.0; +http://yandex.com/bots)
Mozilla/5.0 (compatible; YandexVideo/3.0; +http://yandex.com/bots)
3. Создаваемая нагрузка и последствия для сайта
Нерегулируемая активность краулера может приводить к ощутимым проблемам как для технической инфраструктуры, так и для бизнес-показателей проекта:
- Блокировка исключает все изображения сайта из поиска Яндекс.Картинки — потеря трафика из изображений
- Высокая частота запросов на страницы с галереями и большим числом медиафайлов
Когда робот генерирует десятки параллельных запросов в секунду, каждый такой запрос инициирует запуск интерпретатора PHP, подключение к СУБД MySQL и генерацию HTML-страницы. На виртуальных хостингах это мгновенно исчерпывает лимиты тарифного плана (CPU, оперативная память, процессы PHP-FPM), из-за чего реальные посетители сталкиваются с медленной загрузкой или ошибками 502/504 Bad Gateway.
4. Влияние на поисковые позиции и рекламу
5. Проверка визитов бота в журналах сервера
Чтобы узнать, заходит ли данный робот на ваш сайт прямо сейчас и как часто он сканирует разделы, достаточно выполнить команду в консоли веб-сервера:
grep -i 'YandexImages\|YandexMedia' /var/log/nginx/access.log | wc -l
Примечание: если у вас обычный виртуальный хостинг без доступа по SSH (Beget, TimeWeb, Reg.ru, cPanel), откройте панель управления, найдите раздел «Журнал посещений» (или «Свежие логи») и воспользуйтесь поиском по названию бота или строке его User-Agent.
6. Рекомендация по обработке трафика
7. Способы ручной блокировки
Если вы хотите заблокировать робота на уровне веб-сервера вручную, используйте следующие директивы конфигурации:
# Разрешено по умолчанию. При необходимости ограничить rate:
limit_req_zone $http_user_agent zone=yandeximg:10m rate=30r/s;
if ($http_user_agent ~* 'YandexImages') {
limit_req zone=yandeximg burst=20 nodelay;
}
Директива return 444; в Nginx закрывает сетевое TCP-соединение без передачи байтов ответа, экономя оперативную память и процессор сервера.
# Разрешено по умолчанию. Для ограничения частоты запросов:
<IfModule mod_rewrite.c>
RewriteEngine On
RewriteCond %{HTTP_USER_AGENT} YandexImages [NC]
RewriteRule \.(jpg|jpeg|png|webp|gif|svg)$ - [L]
</IfModule>
Вставьте указанный блок в начало файла .htaccess в корневой папке вашего сайта.
(http.user_agent contains "YandexImages / YandexMedia")
Создайте Custom Rule в панели Cloudflare: Security → WAF → Custom Rules с действием Block.
# Разрешить YandexImages (по умолчанию следует правилам Yandexbot)
User-agent: YandexImages
Disallow:
# Запретить индексацию конкретных папок с изображениями
# User-agent: YandexImages
# Disallow: /private-images/
Добавьте правило в файл robots.txt в корневом каталоге домена.
8. Причины неэффективности стандартных методов
Ограничения классических правил:
robots.txt хорошо воспринимается YandexImages — бот строго соблюдает директивы.
В реальных условиях блокировка по User-Agent и директивы robots.txt защищают сайт лишь от примитивных скриптов. Продвинутые краулеры и парсеры обходят эти фильтры за счет трех факторов:
- Подмена заголовков (спуфинг): бот отправляет User-Agent популярного десктопного браузера, из-за чего веб-сервер принимает его за обычного посетителя.
- Ротация IP-адресов: запросы распределяются через сотни тысяч резидентных и мобильных прокси, делая блокировку по статическим IP неэффективной.
- Headless-движки (Chromium, Puppeteer): эмуляторы полноценно исполняют JavaScript, проходя большинство поверхностных проверок.
9. Автоматическая нейтрализация в AntiBotCore
10. Часто задаваемые вопросы (FAQ)
11. Похожие сетевые боты и краулеры
Боты со схожим поведением или относящиеся к категории «Поисковые системы»:
Официальный робот поисковика Яндекс. Внимание: до 40% запросов с этим User-Agent шлют фальшивые боты!
Официальный робот Google. Также часто подвергается маскировке и подделке спам-ботами.
Официальный робот поисковой системы Microsoft Bing и помощника Microsoft Copilot.