Мы строим OneDWH — DWH-платформу, на инструментах которой дата-инженеры и аналитики компании строят процессы работы с данными. Наша цель — ускорить типовые сценарии работы с данными, не потеряв в надёжности.
Команда развивает несколько связанных продуктов: каталог данных и lineage, ETL-систему (фреймворк + оркестратор), инструменты Data Quality и контроля SLA, сервисы для работы с Jupyter-ноутбуками и интеграции с внешними источниками данных. На платформе уже работают сотни production-процессов. Теперь нам нужно превратить существующие MVP и технические решения в целостную продуктовую экосистему, масштабировать её на разные части компании и обеспечить устойчивое развитие.
Стек: Go, PostgreSQL, YTSaurus, Python, Redis, распределённые системы.
Задачи
- Управлять командой backend-инженеров: ставить цели, делегировать ответственность, развивать сотрудников и поддерживать качество инженерных решений
- Формировать техническое и продуктовое видение платформы OneDWH и собрать отдельные сервисы в единую экосистему
- Развивать продукты DWH-платформы: каталог данных, мультикластерный ETL-оркестратор, Data Quality и другие
- Отвечать за предсказуемость поставки, качество и стабильность сервисов, участвовать в разборе production-инцидентов и улучшать систему по их итогам
- Работать с командами дата-инженеров VK: понимать их сценарии, управлять ожиданиями и помогать переходить с локальных решений на общую платформу
Требования
- Опыт управления командой разработки. Техническое лидерство + people-management
- Сильный инженерный бэкграунд и опыт проектирования сложных backend-, инфраструктурных или платформенных систем
- Понимание принципов работы распределённых и отказоустойчивых систем
- Умение принимать архитектурные решения
- Готовность погрузиться в предметную область DWH и инструменты работы с большими данными
Будет плюсом
- Опыт разработки платформ данных, DWH или внутренних developer-платформ
- Продуктовое мышление: умение связывать технические инициативы с пользовательской и бизнес-ценностью, выбирать метрики результата
- Опыт работы с YTsaurus, Spark, Airflow или другими системами обработки и оркестрации данных
- Опыт построения мультикластерных систем, механизмов failover или workflow-движков
- Опыт управления через технических лидов или выращивания лидов внутри команды
Мы предлагаем
Формат работы
Уровень
График работы
Data Platform
Data Platform — подразделение в департаменте AI, контентных и рекомендательных сервисов. Команда создаёт внутренние сервисы и продукты для использования данных в аналитике, развитии продуктов и машинном обучении. Наша ключевая цель — сделать данные полезными для каждого сервиса и проекта компании VK.