Вакансия: Python-разработчик (Web Scraping / Backend)
Формат: Удалённо, полный день
Уровень: Junior+/Middle
Опыт: от 1 года коммерческой разработки
Ищем разработчика, который будет отвечать за поддержку и развитие системы сбора данных (web scraping). Это отдельное направление внутри проекта — вы будете заниматься только скрапингом и сопутствующими микросервисами. Работа в связке с другими разработчиками, но в этой области вы будете главным экспертом.
Что предстоит делать:
- Поддержка и развитие скраперов на Scrapy (основной фреймворк, требует регулярной поддержки);
- Работа с асинхронным кодом на базе asyncio;
- Разработка и поддержка внутренних микросервисов на FastAPI;
- Интеграция с базами данных (PostgreSQL, MongoDB) через SQLAlchemy, PyMongo;
- Настройка взаимодействия между сервисами через AWS SQS;
- Запуск задач миграции данных через AWS Batch;
- (Редко) работа с Selenium в одном из скрапов ставок (почти не требует изменений);
- Использование Crawlab для управления скрапинг-задачами (есть внутренняя документация).
Требования:
- Опыт коммерческой разработки на Python от 1 года;
- Уровень английского В2 (устное взаимодействие с распределенной командой, в частности в РМ на английском);
- Опыт работы с Scrapy;
- Понимание асинхронного программирования (asyncio);
- Опыт с FastAPI, SQLAlchemy, PostgreSQL или MongoDB;
- Способность разбираться в чужом коде и вносить правки;
- Самостоятельность в рамках своей зоны ответственности.
Условия:
- Удалённая работа;
- Гибкий график;
- Минимум встреч и бюрократии;
- Наставничество на старте;
- Возможность развивать архитектуру скрапинг-системы.