Research LLM Engineer в команду ML Ops Platform

Внутри банка уже много задач на LLM и большой объем потребления. Нам нужны внутренние модели, которые дают лучший price/performance на конкретных задачах.

У инженера есть возможность позаниматься совершенно разными задачами и определить оптимальные пути развития. Роль устроена end-to-end: один человек может заниматься как выбором и дообучением модели, так и доведением ее до продакшн-инференса.

Мы вам доверим

• Дообучать модели не с целью создания универсальной большой модели, а для получения лучших метрик price/performance на ключевых задачах внутри организации.
• Определять оптимальный способ инференса наших моделей и выбирать метрики успешности.
• Выполнять задачи end-to-end: от выбора и дообучения модели до продакшн-инференса.

Наши ожидания

• Мы готовы рассматривать разных кандидатов с разными профилями (специализация как на инференсе, так и на дообучении), поэтому пункты ниже не являются обязательными на 100%.
• Понимание устройства современных LLM и основных этапов их обучения, включая post-training для агентов.
• Опыт работы с фреймворками для RL (verl, slime, prime-rl) и оркестрацией окружений для агентов (Harbor, verifiers).
• Понимание устройства инференса LLM и механизмов его ускорения (KV-кэширование, батчинг, параллелизм).
• Опыт работы с движками инференса (vLLM, SGLang, TensorRT-LLM или аналоги).
• Навыки программирования на Python и PyTorch.
• Готовность работать на стыке ML-систем, инфраструктуры и NLP в зависимости от стадии проекта.

Будет плюсом

• Опыт участия в проектах по обучению LLM использовать инструменты, рассуждать перед ответом или работать с длинным контекстом.
• Наличие open-source проектов или публикаций по инференсу или обучению LLM.

Мы предлагаем

• Возможность работать из офиса или удаленно.
• ДМС со стоматологией, массажем, телемедициной, чек-апами с первого месяца работы.
• Три оплачиваемых отгула в год.
• Страхование от несчастных случаев и критических заболеваний, страхование выезжающих за границу.
• Бесплатные индивидуальные консультации психологов, юристов, экспертов по личным финансам и консультантов по здоровому образу жизни.
• Программы профессионального обучения: hard- и soft-навыки, лидерские компетенции.
• Льготные условия по банковским продуктам и услугам.
• Скидки от партнеров банка.