MAATRIX / Блог / прокси для парсинга на сервере в России: настройка и обход блокировок

прокси для парсинга на сервере в России: настройка и обход блокировок

прокси для парсинга на сервере в России: настройка и обход блокировок

MAATRIX

Парсинг без прокси упирается в блокировки: сайты режут по IP, показывают капчу и отдают пустые страницы. Свой прокси на выделенном сервере снимает большую часть этих проблем и обходится дешевле аренды пулов. Разберём, как поднять прокси для парсинга на сервере в России и не попасть в бан.

Обсудить статью, задать вопрос или начать новую тему

Есть вопрос по этой статье, идея для обсуждения или просто хотите поделиться опытом? Сообщество MAATRIX ждёт. Для общения, пожалуйста, зарегистрируйтесь в нашем личном кабинете.

Перейти в сообщество →

Зачем парсеру отдельный прокси

Прокси для парсинга на сервере в России нужен, чтобы скрапер ходил на сайты не с вашего рабочего адреса, а с отдельного управляемого IP. Это решает сразу несколько задач: во-первых, ваш основной адрес не попадает в бан, если сайт заметит автоматизацию; во-вторых, вы получаете нужную географию — многие ресурсы отдают разные данные и цены в зависимости от страны запроса; в-третьих, через один узел можно централизованно управлять частотой и заголовками. Свой сервер с чистым выделенным IP — это предсказуемый датацентр-прокси: он дешевле резидентных пулов и полностью под вашим контролем. Его минус честно назовём: датацентр-адрес заметнее резидентного, и агрессивно защищённые сайты (крупные маркетплейсы, соцсети) отличают его легче.

Почему именно сервер в России

Сразу честно: сервер внутри России не обходит блокировки РКН зарубежных сайтов — он сам стоит за теми же фильтрами и подчиняется тем же законам. Российская локация решает обратную задачу. Во-первых, это доступ к рунету из-за границы: если вы уехали, а российские банки, госуслуги и маркетплейсы закрываются от иностранных адресов, свой узел с российским IP возвращает их. Во-вторых, это минимальный пинг до отечественной аудитории и отсутствие трансграничных задержек. В-третьих, это соответствие 152-ФЗ: персональные данные россиян по закону должны храниться в РФ, и сервер в стране закрывает этот вопрос. Если же ваша цель — открыть заблокированный в РФ зарубежный сервис, берите узел в США или Великобритании, об этом честно сказано выше. На практике российский узел выбирают под три сценария: соответствие 152-ФЗ для проектов с персональными данными россиян, минимальная задержка для сервисов с отечественной аудиторией и возврат доступа к рунету для тех, кто находится за границей. Во всех трёх случаях ключевое преимущество — близость и предсказуемая юрисдикция, а не обход зарубежных фильтров.

Нужен сервер под эту задачу?

Разверните VPS MAATRIX за пару минут: NVMe, AMD EPYC, root-доступ, локации UK, США и РФ. Оплата картой РФ и по СБП.

Арендовать VPS в России

Ресурсы и выбор IP

Для проксирования парсинга сам сервер грузится слабо — 1–2 ядра и 1–2 ГБ RAM хватает с запасом. Куда важнее сеть: широкий канал, щедрый лимит трафика (парсинг больших объёмов быстро его съедает) и чистый IP без истории злоупотреблений. Если проект большой, полезно иметь несколько IP-адресов на сервере и чередовать их между запросами — это снижает шанс упереться в лимит по одному адресу. Тяжёлую же логику рендеринга (headless-браузер) лучше держать отдельно от прокси, чтобы масштабировать их независимо.

> Чтобы поднять Прокси для парсинга в России, нужен VPS с чистым IP и широким каналом. У MAATRIX сервер в России оформляется за минуты, с оплатой из России картой, СБП, криптой или токеном MAAT.

Поднимаем прокси на 3proxy

Для парсинга удобен лёгкий 3proxy с HTTP и SOCKS5 и обязательной авторизацией. На сервере в России:

apt update && apt install -y build-essential git
git clone https://github.com/3proxy/3proxy && cd 3proxy && make -f Makefile.Linux
install -m755 bin/3proxy /usr/local/bin/3proxy

Конфиг /etc/3proxy/3proxy.cfg:

daemon
nserver 1.1.1.1
nscache 65536
users parser:CL:длинный_пароль
auth strong
allow parser
# HTTP для requests/scrapy и SOCKS5 для гибкости
proxy -n -a -p3128
socks -p1080

Запуск и порты:

3proxy /etc/3proxy/3proxy.cfg
ufw allow 3128/tcp
ufw allow 1080/tcp

В коде парсера прокси подключается одной строкой, например в Python requests:

proxies = {"http":"http://parser:пароль@IP:3128",
           "https":"http://parser:пароль@IP:3128"}
r = requests.get(url, proxies=proxies, timeout=20)

Как не попасть в бан: ритм, заголовки, ротация

Технически поднять прокси легко — сложнее парсить так, чтобы вас не заблокировали. Ключевое — ритм: делайте паузы между запросами, ограничивайте параллелизм и уважайте нагрузку на чужой сайт, иначе даже чистый IP улетит в бан за минуты. Отправляйте реалистичный User-Agent и полный набор заголовков обычного браузера, храните куки в рамках сессии. Если адрес всё же начал получать капчу, чередуйте несколько IP сервера и снижайте частоту. Для сайтов с серьёзной защитой (Cloudflare, крупные маркетплейсы) датацентр-прокси может не хватить — тогда честный путь либо резидентные адреса, либо официальный API площадки. И всегда сверяйтесь с robots.txt и условиями сайта: парсинг должен оставаться в правовых рамках.

Стек и масштабирование

Рабочая связка для парсинга: сервер с прокси на 3proxy, а на стороне клиента — Scrapy или requests с пулом прокси и middleware для ротации. Для страниц на JavaScript добавьте headless-браузер (Playwright, Selenium), направив его трафик через тот же прокси. Логи 3proxy помогут увидеть, какие запросы отдают ошибки и где сайт начинает сопротивляться. Когда одного адреса мало, масштабируйтесь горизонтально: несколько серверов в разных локациях с ротацией на уровне планировщика задач надёжнее, чем один перегруженный узел. Держите пароли прокси в секрете — открытый прокси мгновенно используют посторонние.

Типичные проблемы и их решение

Сайт стал отдавать капчу или 403 — первым делом снижайте частоту и параллелизм, а не наращивайте их: чаще всего дело в слишком агрессивном ритме, а не в самом IP. Приходят пустые страницы, хотя в браузере всё есть — значит, контент подгружается JavaScript, и нужен headless-браузер, а не голый requests. Ответы внезапно поехали с чужой географией — проверьте, что DNS резолвится через прокси, а не локально. Один IP уже «сгорел» — чередуйте несколько адресов сервера и делайте паузы, давая репутации восстановиться. Если же конкретный сайт защищён по-серьёзному и датацентр-адрес не проходит в принципе — это сигнал, что дешёвым прокси задачу не решить: считайте стоимость резидентных адресов или официального API, это честнее и надёжнее, чем бесконечная борьба с защитой.

Оплата из России и стабильность

Отдельная боль для российского пользователя — как вообще оплатить сервер, когда зарубежные карты не работают, а иностранные провайдеры не принимают российские. MAATRIX закрывает этот вопрос: оплата картой российского банка, через СБП, криптовалютой или токеном MAAT. Иностранная карта не нужна, а сервер в России оформляется так же просто, как обычный российский хостинг, — за несколько минут и с доступом по SSH сразу после оплаты.

Российская локация — про соответствие 152-ФЗ и хранение персональных данных внутри страны. Это важно для сайтов, собирающих данные пользователей из РФ: закон требует, чтобы первичная база лежала на территории России. Для чисто прикладного шифрованного туннеля к рунету это тоже удобно — минимальные задержки и предсказуемая юрисдикция.

Чтобы узел работал годами без сюрпризов, соблюдайте базовую гигиену: включите автоматические обновления безопасности (unattended-upgrades), закройте всё лишнее файрволом, входите по SSH-ключу вместо пароля и держите под рукой запасной способ доступа через панель. Раз в пару недель проверяйте, что сервис поднимается автоматически после перезагрузки — systemctl is-enabled покажет статус автозапуска. Настроенный один раз сервер дальше живёт сам. Заведите мониторинг доступности: даже простой внешний пинг или проверка порта раз в минуту сразу покажет, если сервис упал или узел заблокировали, и вы не узнаете об этом в самый неподходящий момент. Полезно держать снапшот настроенной системы — тогда при смене IP (например, если адрес всё-таки попал под ограничение) вы развернёте готовую конфигурацию за минуты, а не собираете всё заново. И храните конфиги и ключи в защищённом месте вне сервера: их потеря означает переустановку с нуля.

Нужен сервер под эту задачу?

Разверните VPS MAATRIX за пару минут: NVMe, AMD EPYC, root-доступ, локации UK, США и РФ. Оплата картой РФ и по СБП.

Арендовать VPS в России

Обсудить статью, задать вопрос или начать новую тему

Есть вопрос по этой статье, идея для обсуждения или просто хотите поделиться опытом? Сообщество MAATRIX ждёт. Для общения, пожалуйста, зарегистрируйтесь в нашем личном кабинете.

Перейти в сообщество →

Частые вопросы

Датацентр-прокси или резидентный?

Свой сервер — это датацентр-прокси: дешевле и под полным контролем, но заметнее. Для агрессивно защищённых сайтов иногда нужны резидентные адреса или официальный API.

Как снизить число банов?

Держите ритм: паузы между запросами, ограниченный параллелизм, реалистичные заголовки и куки, ротация нескольких IP. Скорость в ущерб аккуратности приводит к бану.

Сколько ресурсов нужно серверу?

Сам прокси лёгкий — 1–2 ядра и 1–2 ГБ RAM. Важнее широкий канал, большой лимит трафика и чистый IP.

Парсинг — это законно?

Зависит от данных и условий сайта. Сверяйтесь с robots.txt и правилами площадки, не трогайте персональные данные без оснований и не создавайте чрезмерную нагрузку.

Нужны сами нейросети для контента?

Генерируйте изображения, видео и озвучку нейросетями на falapi.io — десятки моделей в одном окне. Оплата картой РФ и по СБП.