Сводный белый список IP-сетей легитимных поисковых систем
Сводный белый список IP-сетей легитимных поисковых систем — Единый консолидированный белый список проверенных диапазонов IP-адресов всех ключевых поисковых систем и сервисных краулеров интернета (Яндекс, Google, Bing, Mail.ru, Apple, DuckDuckGo). Предназначен для создания единого правила исключения в Nginx (директива geo), Apache (.htaccess) или Cloudflare WAF, гарантирующего беспрепятственный доступ легитимных поисковых роботов без замедления капчей.
1. Общие сведения и профиль сетевой активности
Диапазоны адресов закреплены за автономной системой Yandex, Google, Microsoft, Mail.ru, Apple, DuckDuckGo, Baidu. Запросы из этих сетей генерируются официальными роботами и сервисами индексации. При настройке фаерволов и WAF рекомендуется вносить эти адреса в белый список (Whitelist), чтобы избежать блокировки поисковой индексации и генерации сниппетов.
Важное правило безопасности:
Никогда не разрешайте доступ только по строке User-Agent. Спам-боты и скрипты кликфрода свободно подставляют User-Agent поисковых роботов. Надежная фильтрация требует сопоставления IP-клиента с приведенным ниже списком подсетей либо выполнения процедуры обратного DNS-запроса (rDNS).
2. Диапазоны IPv4 (CIDR)
Актуальный перечень подтвержденных IPv4-подсетей вендора для белого списка:
| Подсеть (CIDR) | Сетевая маска | Количество IP-адресов | Действие |
|---|---|---|---|
| 5.45.192.0/18 | 255.255.192.0 | 16 384 | |
| 5.255.192.0/18 | 255.255.192.0 | 16 384 | |
| 37.9.64.0/18 | 255.255.192.0 | 16 384 | |
| 37.140.128.0/18 | 255.255.192.0 | 16 384 | |
| 77.88.0.0/18 | 255.255.192.0 | 16 384 | |
| 84.201.128.0/18 | 255.255.192.0 | 16 384 | |
| 87.250.224.0/19 | 255.255.224.0 | 8 192 | |
| 93.158.128.0/18 | 255.255.192.0 | 16 384 | |
| 95.108.128.0/17 | 255.255.128.0 | 32 768 | |
| 100.43.64.0/18 | 255.255.192.0 | 16 384 | |
| 141.8.128.0/18 | 255.255.192.0 | 16 384 | |
| 178.154.128.0/18 | 255.255.192.0 | 16 384 | |
| 185.32.187.0/24 | 255.255.255.0 | 256 | |
| 199.21.96.0/22 | 255.255.252.0 | 1 024 | |
| 213.180.192.0/19 | 255.255.224.0 | 8 192 | |
| 66.249.64.0/19 | 255.255.224.0 | 8 192 | |
| 66.249.80.0/20 | 255.255.240.0 | 4 096 | |
| 66.249.64.0/20 | 255.255.240.0 | 4 096 | |
| 66.102.0.0/20 | 255.255.240.0 | 4 096 | |
| 209.85.128.0/17 | 255.255.128.0 | 32 768 | |
| 216.58.192.0/19 | 255.255.224.0 | 8 192 | |
| 216.239.32.0/19 | 255.255.224.0 | 8 192 | |
| 64.233.160.0/19 | 255.255.224.0 | 8 192 | |
| 20.36.0.0/14 | 255.252.0.0 | 262 144 | |
| 20.40.0.0/13 | 255.248.0.0 | 524 288 | |
| 20.105.0.0/16 | 255.255.0.0 | 65 536 | |
| 20.125.0.0/16 | 255.255.0.0 | 65 536 | |
| 40.77.167.0/24 | 255.255.255.0 | 256 | |
| 40.77.168.0/22 | 255.255.252.0 | 1 024 | |
| 157.55.39.0/24 | 255.255.255.0 | 256 | |
| 207.46.13.0/24 | 255.255.255.0 | 256 | |
| 13.66.136.0/21 | 255.255.248.0 | 2 048 | |
| 13.66.144.0/20 | 255.255.240.0 | 4 096 | |
| 13.78.128.0/17 | 255.255.128.0 | 32 768 | |
| 52.167.144.0/20 | 255.255.240.0 | 4 096 | |
| 94.100.176.0/20 | 255.255.240.0 | 4 096 | |
| 95.163.0.0/16 | 255.255.0.0 | 65 536 | |
| 178.22.88.0/21 | 255.255.248.0 | 2 048 | |
| 185.30.176.0/22 | 255.255.252.0 | 1 024 | |
| 188.93.56.0/21 | 255.255.248.0 | 2 048 | |
| 217.69.128.0/20 | 255.255.240.0 | 4 096 | |
| 87.240.128.0/18 | 255.255.192.0 | 16 384 | |
| 93.186.224.0/20 | 255.255.240.0 | 4 096 | |
| 17.58.0.0/16 | 255.255.0.0 | 65 536 | |
| 17.121.0.0/16 | 255.255.0.0 | 65 536 | |
| 17.253.0.0/16 | 255.255.0.0 | 65 536 | |
| 17.171.0.0/16 | 255.255.0.0 | 65 536 | |
| 20.191.45.0/24 | 255.255.255.0 | 256 | |
| 40.88.21.0/24 | 255.255.255.0 | 256 | |
| 52.142.26.0/24 | 255.255.255.0 | 256 | |
| 52.234.254.0/24 | 255.255.255.0 | 256 | |
| 54.197.234.0/24 | 255.255.255.0 | 256 |
3. Диапазоны IPv6 (CIDR)
Для веб-серверов с активированным IPv6 добавьте следующие диапазоны:
| IPv6 подсеть (CIDR) | Длина префикса | Действие |
|---|---|---|
| 2a02:6b8::/32 | 32 бит | |
| 2001:4860::/32 | 32 бит | |
| 2a00:1450::/32 | 32 бит | |
| 2603:1030::/32 | 32 бит | |
| 2620:1ec:c11::/48 | 48 бит | |
| 2a00:1148::/32 | 32 бит | |
| 2620:149::/32 | 32 бит |
4. Проверка подлинности (Reverse DNS / PTR)
Рекомендуется применять многоуровневый подход: сверка IP с данным белым списком CIDR на первом этапе и проверка соответствия заголовка User-Agent с контролем PTR-записи на втором этапе (через WAF или AntiBotCore модуль).
# 1. Получаем PTR запись проверяемого IP:
$ dig -x <IP-АДРЕС> +short
# 2. Проверяем прямую A-запись полученного хоста:
$ dig <ПОЛУЧЕННЫЙ_ХОСТ> +short
# Если возвращенный IP совпадает с исходным и хост оканчивается на Специфично для каждого поискового оператора — бот подлинный.
5. Конфигурации для веб-серверов
Используйте готовые директивы для добавления диапазонов в белый список вашего веб-сервера или WAF:
geo $is_all_search_engines {
default 0;
5.45.192.0/18 1;
5.255.192.0/18 1;
37.9.64.0/18 1;
37.140.128.0/18 1;
77.88.0.0/18 1;
84.201.128.0/18 1;
87.250.224.0/19 1;
93.158.128.0/18 1;
95.108.128.0/17 1;
100.43.64.0/18 1;
141.8.128.0/18 1;
178.154.128.0/18 1;
185.32.187.0/24 1;
199.21.96.0/22 1;
213.180.192.0/19 1;
66.249.64.0/19 1;
66.249.80.0/20 1;
66.249.64.0/20 1;
66.102.0.0/20 1;
209.85.128.0/17 1;
216.58.192.0/19 1;
216.239.32.0/19 1;
64.233.160.0/19 1;
20.36.0.0/14 1;
20.40.0.0/13 1;
20.105.0.0/16 1;
20.125.0.0/16 1;
40.77.167.0/24 1;
40.77.168.0/22 1;
157.55.39.0/24 1;
207.46.13.0/24 1;
13.66.136.0/21 1;
13.66.144.0/20 1;
13.78.128.0/17 1;
52.167.144.0/20 1;
94.100.176.0/20 1;
95.163.0.0/16 1;
178.22.88.0/21 1;
185.30.176.0/22 1;
188.93.56.0/21 1;
217.69.128.0/20 1;
87.240.128.0/18 1;
93.186.224.0/20 1;
17.58.0.0/16 1;
17.121.0.0/16 1;
17.253.0.0/16 1;
17.171.0.0/16 1;
20.191.45.0/24 1;
40.88.21.0/24 1;
52.142.26.0/24 1;
52.234.254.0/24 1;
54.197.234.0/24 1;
2a02:6b8::/32 1;
2001:4860::/32 1;
2a00:1450::/32 1;
2603:1030::/32 1;
2620:1ec:c11::/48 1;
2a00:1148::/32 1;
2620:149::/32 1;
}
Поместите блок geo в контекст http { ... } (например, в /etc/nginx/conf.d/search_bots.conf) и используйте переменную для снятия rate-limit ограничений.
<RequireAny>
Require ip 5.45.192.0/18
Require ip 5.255.192.0/18
Require ip 37.9.64.0/18
Require ip 37.140.128.0/18
Require ip 77.88.0.0/18
Require ip 84.201.128.0/18
Require ip 87.250.224.0/19
Require ip 93.158.128.0/18
Require ip 95.108.128.0/17
Require ip 100.43.64.0/18
Require ip 141.8.128.0/18
Require ip 178.154.128.0/18
Require ip 185.32.187.0/24
Require ip 199.21.96.0/22
Require ip 213.180.192.0/19
Require ip 66.249.64.0/19
Require ip 66.249.80.0/20
Require ip 66.249.64.0/20
Require ip 66.102.0.0/20
Require ip 209.85.128.0/17
Require ip 216.58.192.0/19
Require ip 216.239.32.0/19
Require ip 64.233.160.0/19
Require ip 20.36.0.0/14
Require ip 20.40.0.0/13
Require ip 20.105.0.0/16
Require ip 20.125.0.0/16
Require ip 40.77.167.0/24
Require ip 40.77.168.0/22
Require ip 157.55.39.0/24
Require ip 207.46.13.0/24
Require ip 13.66.136.0/21
Require ip 13.66.144.0/20
Require ip 13.78.128.0/17
Require ip 52.167.144.0/20
Require ip 94.100.176.0/20
Require ip 95.163.0.0/16
Require ip 178.22.88.0/21
Require ip 185.30.176.0/22
Require ip 188.93.56.0/21
Require ip 217.69.128.0/20
Require ip 87.240.128.0/18
Require ip 93.186.224.0/20
Require ip 17.58.0.0/16
Require ip 17.121.0.0/16
Require ip 17.253.0.0/16
Require ip 17.171.0.0/16
Require ip 20.191.45.0/24
Require ip 40.88.21.0/24
Require ip 52.142.26.0/24
Require ip 52.234.254.0/24
Require ip 54.197.234.0/24
Require ip 2a02:6b8::/32
Require ip 2001:4860::/32
Require ip 2a00:1450::/32
Require ip 2603:1030::/32
Require ip 2620:1ec:c11::/48
Require ip 2a00:1148::/32
Require ip 2620:149::/32
</RequireAny>
Директива <RequireAny> разрешает доступ клиентам, чей IP-адрес входит в любую из указанных подсетей.
(ip.src in {
5.45.192.0/18 5.255.192.0/18 37.9.64.0/18 37.140.128.0/18
77.88.0.0/18 84.201.128.0/18 87.250.224.0/19 93.158.128.0/18
95.108.128.0/17 100.43.64.0/18 141.8.128.0/18 178.154.128.0/18
185.32.187.0/24 199.21.96.0/22 213.180.192.0/19 66.249.64.0/19
66.249.80.0/20 66.249.64.0/20 66.102.0.0/20 209.85.128.0/17
216.58.192.0/19 216.239.32.0/19 64.233.160.0/19 20.36.0.0/14
20.40.0.0/13 20.105.0.0/16 20.125.0.0/16 40.77.167.0/24
40.77.168.0/22 157.55.39.0/24 207.46.13.0/24 13.66.136.0/21
13.66.144.0/20 13.78.128.0/17 52.167.144.0/20 94.100.176.0/20
95.163.0.0/16 178.22.88.0/21 185.30.176.0/22 188.93.56.0/21
217.69.128.0/20 87.240.128.0/18 93.186.224.0/20 17.58.0.0/16
17.121.0.0/16 17.253.0.0/16 17.171.0.0/16 20.191.45.0/24
40.88.21.0/24 52.142.26.0/24 52.234.254.0/24 54.197.234.0/24
2a02:6b8::/32 2001:4860::/32 2a00:1450::/32 2603:1030::/32
2620:1ec:c11::/48 2a00:1148::/32 2620:149::/32
})
Создайте Custom Rule в Cloudflare Dashboard: Security → WAF → Custom rules с действием: Skip / Allow (Пропуск без проверки).