Это возможность возглавить исследовательское направление в команде, занимающейся проектами в новом, динамично развивающемся направлении безопасности искусственного интеллекта. Ваши задачи будут связаны с поиском и исследованием уязвимостей GenAI и AI-приложений с их использованием, в том числе AI-агентов. В коллективе опытных экспертов вы будете оценивать безопасность разрабатываемого ПО, предлагать инструменты для автоматизации исследования и тестирования безопасности GenAI-моделей, а также формировать и развивать исследовательскую команду, участвуя в международных и внутренних CTF.
Это не административная роль, мы ищем «играющего тренера», который сам может написать первый прототип, проверить гипотезу об угрозе и решить таск на CTF — и только потом делегирует масштабирование команде. Если ваш опыт ограничивается управлением процессами без hands-on разработки и исследований, эта позиция не подойдёт.
Вам предстоит:
- Исследование угроз GenAI: создание, поддержка и развитие инструментов для анализа и поиска угроз, в т.ч.:
-разработка средств автоматизации сбора, хранения и анализа новых публикаций, инцидентов и методов атак на GenAI (краулинг, парсинг информации, разработка и управление системами хранения).
-создание и тестирование прототипов (Proof of Concept) для поиска уязвимостей GenAI (скрипты, основные библиотеки GenAI, AI-агенты для генерации кода).
- DevOps: CI/CD, контроль версий (git), тестирование качества, инфраструктура для работы (linux).
- Внедрение практик AI PDLC: исследование и применение методов и инструментов создания и развития программного обеспечения с применением передовых ИИ-моделей.
- Погружение в экосистему: изучение и практическое применение передовых фреймворков и библиотек для работы с LLM и AI-агентами.
- Управление командой: формирование и развитие исследовательской команды (3–5 человек), приоритизация исследований, защита решений перед руководством и смежными командами.
- CTF и хакатоны: формирование и капитанство команды на международных CTF по AI/ML security, трансляция найденных техник в работу направления.
- Публикации и нормативные документы: оформление результатов исследований, вклад в нормативные документы безопасности AI.
Что для нас важно:
- Профиль и образование: законченное высшее образование в области информационных технологий, компьютерных наук, прикладной математики, программной инженерии или смежных направлений.
- Продвинутые навыки программирования: понимание принципов проектирования и разработки программного обеспечения, опыт в написании и чтении программного кода (понятный, поддерживаемый).
- Навыки DevOps: работа с git, администрирование linux, автоматизация этапов жизненного цикла разработки ПО.
- LLM и AI-агенты: экспертный уровень применения LLM для разработки ПО, глубокое понимание архитектуры агентов и их векторов атак.
- Английский язык на уровне не менее чтения технической документации, статей и участия в международных CTF.
- Опыт командной работы в проектах разработки: канбан (спринты, трекинг задач), jira/git/confluence, презентации и умение понятно объяснять свои идеи команде/руководству и согласовывать требования.
- Adversarial ML и red teaming LLM: практический опыт поиска уязвимостей в GenAI-моделях (prompt injection, jailbreaking, tool poisoning, data extraction).
- Знание инструментария для LLM security: Giskard, Garak, LLM Guard и др.
- CTF и хакатоны: участие в международных CTF по AI/ML security (желательно — победы или призовые места).
Мы предлагаем:
- Комфортный современный офис ул. Вавилова 19.
- Офисный формат работы.
- Ежегодный пересмотр зарплаты, годовая премия.
- Корпоративный спортзал и зоны отдыха.
- Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития.
- Программа адаптации и помощь руководителя на старте.
- Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа.
- Гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ.
- Подписка Прайм с возможностью совместного использования на трёх близких.
- Вознаграждение за рекомендацию друзей в команду Сбера.