Программист-исследователь (LLM) в AI VK, Москва

Фокус команды — applied research: мы берём современные идеи из research, проверяем их на практике и превращаем в устойчивые пайплайны обучения и оценки качества моделей.

Мы занимаемся обучением и улучшением больших языковых моделей масштаба 4B–80B параметров. Ценим и аккуратный код, и исследовательское мышление.

Задачи

• Проектировать и развивать пайплайны обучения LLM: SFT, Preference Optimization и другие alignment-подходы
• Формулировать и проверять гипотезы по улучшению поведения моделей: архитектурные решения, loss’ы, data-centric подходы, sampling
• Строить инструменты для генерации, разметки и оценки данных, включая semi-automatic и synthetic data сценарии
• Разрабатывать и поддерживать eval-фреймворки, метрики и бенчмарки для LLM (качество, устойчивость, alignment)
• Работать в тесной связке с другими исследователями и инженерами, доводя эксперименты до воспроизводимых и масштабируемых решений

Требования

• Уверенный Python и опыт написания поддерживаемого исследовательского кода
• Практический опыт с PyTorch
• Хорошее понимание Deep Learning и современных NLP-подходов, прежде всего Transformer-архитектур
• Опыт работы с задачами языкового моделирования, диалогов, машинным переводом, суммаризации или близких направлений

Будет плюсом

• Опыт с Reinforcement Learning/ Reward Modeling / Preference Optimization
• Исследовательский бэкграунд, публикации, open-source или собственные проекты
• Умение превращать «идею из статьи» в аккуратный и воспроизводимый эксперимент