Официальные IP-сети краулера Amazonbot
Официальные IP-сети краулера Amazonbot — Официальные диапазоны сетевых адресов Amazonbot, используемые корпорацией Amazon для индексации общедоступных веб-сайтов в интересах голосового ассистента Alexa, поиска сервисов электронной торговли и алгоритмов генеративного ИИ Rufus. Подлинность подтверждается PTR-записями в зоне *.amazonbot.amazon.com. Широкие AWS-блоки us-east-1 (/16) в данный список не включены — Amazonbot работает из более узких диапазонов внутри AS16509.
1. Общие сведения и профиль сетевой активности
Диапазоны адресов закреплены за автономной системой AS16509 (Amazon.com, Inc.). Запросы из этих сетей генерируются официальными роботами и сервисами индексации. При настройке фаерволов и WAF рекомендуется вносить эти адреса в белый список (Whitelist), чтобы избежать блокировки поисковой индексации и генерации сниппетов.
Важное правило безопасности:
Никогда не разрешайте доступ только по строке User-Agent. Спам-боты и скрипты кликфрода свободно подставляют User-Agent поисковых роботов. Надежная фильтрация требует сопоставления IP-клиента с приведенным ниже списком подсетей либо выполнения процедуры обратного DNS-запроса (rDNS).
2. Диапазоны IPv4 (CIDR)
Актуальный перечень подтвержденных IPv4-подсетей вендора для белого списка:
| Подсеть (CIDR) | Сетевая маска | Количество IP-адресов | Действие |
|---|---|---|---|
| 52.70.240.0/21 | 255.255.248.0 | 2 048 | |
| 52.78.231.0/24 | 255.255.255.0 | 256 | |
| 52.80.207.0/24 | 255.255.255.0 | 256 | |
| 34.193.16.0/20 | 255.255.240.0 | 4 096 |
3. Проверка подлинности (Reverse DNS / PTR)
rDNS запрос возвращает имя в доменной зоне *.amazonbot.amazon.com. Прямой запрос к полученному имени возвращает исходный IP.
# 1. Получаем PTR запись проверяемого IP:
$ dig -x <IP-АДРЕС> +short
# 2. Проверяем прямую A-запись полученного хоста:
$ dig <ПОЛУЧЕННЫЙ_ХОСТ> +short
# Если возвращенный IP совпадает с исходным и хост оканчивается на *.amazonbot.amazon.com — бот подлинный.
4. Конфигурации для веб-серверов
Используйте готовые директивы для добавления диапазонов в белый список вашего веб-сервера или WAF:
geo $is_amazon {
default 0;
52.70.240.0/21 1;
52.78.231.0/24 1;
52.80.207.0/24 1;
34.193.16.0/20 1;
}
Поместите блок geo в контекст http { ... } (например, в /etc/nginx/conf.d/search_bots.conf) и используйте переменную для снятия rate-limit ограничений.
<RequireAny>
Require ip 52.70.240.0/21
Require ip 52.78.231.0/24
Require ip 52.80.207.0/24
Require ip 34.193.16.0/20
</RequireAny>
Директива <RequireAny> разрешает доступ клиентам, чей IP-адрес входит в любую из указанных подсетей.
(ip.src in {
52.70.240.0/21 52.78.231.0/24 52.80.207.0/24 34.193.16.0/20
})Создайте Custom Rule в Cloudflare Dashboard: Security → WAF → Custom rules с действием: Skip / Allow (Пропуск без проверки).