--proxy-server при запуске браузера.
Базовая настройка
Вот как запустить экземпляр Puppeteer, который направляет весь свой трафик через наш прокси-шлюз.Вам понадобится
puppeteer, установленный в вашем проекте: npm install puppeteerbasic_setup.js
Пример из реальной практики: скриншот результатов поиска Amazon
Чаще всего Puppeteer используют для того, чтобы отобразить полную страницу с динамическим содержимым и сделать снимок экрана - например, для мониторинга рейтинга товаров или результатов поиска на крупном сайте электронной коммерции, таком как Amazon. Давайте сделаем скриншот результатов поиска по запросу “web scraping books” наamazon.com, при этом запрос будет выглядеть так, как будто он поступает из США.
amazon_scraper.js
Что демонстрирует этот пример
- Парсинг реального сложного сайта: Как подойти к такому крупному объекту, как Amazon.
- Аутентификация через прокси в Puppeteer: Правильный двухэтапный процесс установки
--proxy-serverи использованияpage.authenticate(). - Динамический геотаргетинг: Показывает, как изменить ваше видимое местоположение, изменив имя пользователя.
- Имитация реального пользователя: Демонстрирует лучшие практики, такие как установка реалистичного viewport и
User-Agent, чтобы снизить вероятность обнаружения анти-ботами. - Обработка ошибок: Включает блок
try...catchи сохраняет HTML страницы при неудаче - важный прием для отладки проблем со парсингом.