Python Developer в VK Teams, Москва

VK Assistant — цифровой ассистент на базе искусственного интеллекта. Ассистент использует разнообразные модели искусственного интеллекта, самой крупной из которых является LLM модель. Он интегрируется с внутренними системами и общается с пользователями на понятном языке, выполняет поручения и ищет нужную информацию не хуже реального сотрудника. В этом ему помогают разнообразные пайплайны использования построенные на основе RAG подхода. Мы постоянно улучшаем наши пайплайны, делая систему умнее и полезнее конечному пользователю.

Задачи

• Проработка архитектуры приложения для обеспечения масштабируемости и высокой скорости ответа;
• разработка сервисов для реализации решения задачи RAG, саммаризации;
• проведение исследований с целью выбора оптимальных ML-моделей с учётом специфики домена текстов.

Требования

• Python; ML/DS, понимание базовых архитектур;
• Docker; Git, GitLab;
• знакомство с векторными хранилищами Faiss/ES/OpenSearch/Milvus;
• опыт работы с LangChain;
• опыт работы с микросервисной архитектурой, понимание особенностей;
• опыт оформления исследований для презентации заказчикам/коллегам;
• системность, аккуратность, ответственность, обучаемость, готовность развиваться и пробовать новые инструменты, самостоятельность и в то же время умение работать в команде — отзывчивость и коммуникабельность.

Будет плюсом

• Опыт написания на Go;
• опыт тонкой настройки Faiss;
• опыт с Jira, Confluence;
• опыт работы с Kubernetes;
• опыт работы с моделями для решения задачи speech-to-text;
• опыт вывода ML-моделей в прод, использования vLLM;
• опыт fine tuning LLM;
• знакомство с подходом графового RAG;
• знакомство с методами оценки качества работы LLM.