Data Scientist
Компания скрыта (Банк) · Россия ·
- Work mode
- Remote
- Category
- Data science
- Company size
- 501-1000
Data Scientist develops and deploys AI/ML solutions for a bank’s internal digital products, focusing on improving AI system quality, user context handling, and product applications. Daily work involves solving complex ML tasks, designing evaluation pipelines, and integrating models into product infrastructure.
Мы развиваем внутренние цифровые продукты, которые помогают сотрудникам получать информацию, решать рабочие задачи и эффективнее взаимодействовать с сервисами банка. В числе наших продуктов — Раф, диалоговый агент-ассистент сотрудника, внутренний поиск и другие пользовательские сценарии. Все они создают данные, на основе которых можно измерять качество продуктов, лучше понимать поведение сотрудников и находить новые задачи, которые Insider может помогать решать.
ML Engineer помогает превратить эти данные в работающие метрики, модели и продуктовые улучшения. В фокусе роли — оценка качества AI-систем и поиска, анализ пользовательского поведения, выявление новых jobs-to-be-done и разработка прикладных ML-решений.
Ключевые задачи
- Развивать систему оценки качества продуктов Insider (диалогового агента, поиска и других пользовательских сценариев).
- Определять измеримые критерии качества и переводить продуктовые ожидания в метрики, тестовые наборы и процедуры оценки.
- Организовывать сбор и подготовку данных из продуктовых событий, поисковых запросов, диалогов, действий агента, пользовательской обратной связи и экспертной разметки.
- Строить offline- и online-пайплайны расчета метрик, обеспечивать их воспроизводимость и сопоставимость между версиями продукта.
- Оценивать качество ответов и действий AI-агента (корректность, релевантность, выбор инструментов и успешность выполнения пользовательской задачи).
- Исследовать качество поиска (релевантность результатов, успешность поисковых сессий, переформулировки запросов, запросы без результатов и другие сигналы).
- Разрабатывать модели классификации, кластеризации, ранжирования, поиска аномалий и прогнозирования пользовательского поведения.
- Анализировать последовательности пользовательских действий, выделять типовые сценарии и сегменты пользователей.
- Находить неудовлетворенные потребности и новые jobs-to-be-done, которые могут стать основой для развития продуктов Insider.
- Разрабатывать автоматические модели оценки качества и классификации ошибок.
- Формировать эталонные и диагностические выборки, проектировать разметку и контролировать качество данных.
- Проводить анализ ошибок, находить причины изменения метрик и определять сценарии, требующие улучшения.
- Оценивать продуктовые и модельные изменения с помощью экспериментов, статистических методов и A/B-тестов.
- Создавать мониторинг качества после запуска (отслеживать деградации, изменения пользовательского поведения и появление новых классов ошибок).
- Интегрировать модели, метрики и пайплайны обработки данных в продуктовую и инженерную инфраструктуру команды.
- Вместе с Product Owner, аналитиками и инженерами формулировать гипотезы, определять критерии успеха и интерпретировать результаты исследований.
Экспертиза
- Коммерческий опыт работы ML Engineer или Data Scientist над прикладными ML-задачами.
- Уверенное знание классического машинного обучения (классификация, регрессия, кластеризация, ранжирование, методы отбора признаков и оценка моделей).
- Понимание статистики, дизайна экспериментов, доверительных интервалов и принципов A/B-тестирования.
- Опыт разработки метрик, тестовых наборов и пайплайнов оценки качества ML-систем.
- Опыт анализа продуктовых событий, пользовательских сценариев, логов или поискового поведения.
- Умение проводить анализ ошибок, выявлять смещения в данных и оценивать качество моделей по отдельным сегментам.
- Уверенное владение Python и основными библиотеками для анализа данных и машинного обучения.
- Знание SQL и опыт работы с большими наборами данных.
- Умение писать поддерживаемый и воспроизводимый код и покрывать критичную логику тестами.
- Опыт интеграции моделей или ML-пайплайнов в продуктовую среду.
- Умение понятно объяснять выбор метрик, ограничения оценки и результаты экспериментов инженерам и продуктовым партнерам.
- Интерес к исследованию пользовательского поведения и поиску новых продуктовых возможностей на основе данных.
Дополнительные навыки, которые мы ценим
- Опыт работы с поисковыми или рекомендательными системами, ранжированием, OpenSearch, векторным или гибридным поиском.
- Опыт оценки диалоговых систем, LLM-приложений, RAG или AI-агентов.
- Понимание специфики оценки агентных систем (качество отдельных действий, выбор инструментов, траектория выполнения и итоговый результат).
- Опыт построения автоматических оценщиков, включая ML-классификаторы и LLM-as-a-judge, а также проверки их согласованности с экспертной оценкой.
- Опыт построения моделей пользовательского поведения, сегментации, анализа последовательностей действий или выявления пользовательских намерений.
- Опыт организации экспертной разметки и оценки согласованности разметчиков.
- Опыт работы с MLOps (версионирование данных и моделей, воспроизводимые эксперименты, развертывание и мониторинг).
- Базовое понимание production-разработки, API, контейнеризации и облачной инфраструктуры.
Бенефиты для сотрудников
- Возможность работать из офиса или удаленно.
- ДМС со стоматологией, массажем, телемедициной, ежегодными чекапами, которое работает как в Москве, так и в регионах.
- Три оплачиваемых отгула в год.
- Страхование жизни в путешествиях, от несчастных случаев, болезней и критических заболеваний.
- Бесплатные индивидуальные консультации психологов, юристов, экспертов по личным финансам и консультантов по здоровому образу жизни.
- Поддержку опытного наставника, обучающие курсы для комфортной адаптации, помощь в развитии экспертизы со стороны профессиональных сообществ банка.
- Собственную ИТ-академию, участие в конференциях.
- Льготные условия по банковским продуктам и услугам.
- Скидки от партнеров банка в приложении PrimeZone в сферах здоровья, развлечений, творчества и интернет-покупок.