О проекте
Крупная AI-платформа, где строится экосистема агентных решений: каталог AI-агентов, мультиагентные системы, конструктор воркфлоу, реестр промптов и единый безопасный доступ к десяткам LLM (как локальным, так и внешним). Команда делает инфраструктуру и инструменты, на которых другие команды собирают и запускают AI-продукты. Это возможность работать на стыке DevOps и современного AI — с GPU, инференсом, оркестрацией агентов и безопасностью LLM.
Обязанности
- Развивать и поддерживать Kubernetes-инфраструктуру для AI/LLM-сервисов, включая GPU-нагрузки и инференс моделей.
- Строить и автоматизировать CI/CD и GitOps-процессы для быстрой и безопасной доставки AI-компонентов.
- Разворачивать и сопровождать стек observability для LLM: метрики, трейсинг, логи, мониторинг latency, токенов и стоимости.
- Обеспечивать безопасность и изоляцию: управление секретами, RBAC, сетевые политики, защита пайплайнов от prompt injection и утечек данных.
- Работать в плотной связке с ML/AI-командами: помогать с инференсом, векторными хранилищами, оркестрацией агентов и масштабированием.
Требования
- 4+ лет в DevOps / Platform / MLOps / Infrastructure Engineering.
- Kubernetes в проде (managed и/или on-prem, OpenShift — плюс), Helm, операторы.
- IaC: Terraform / Terragrunt, Ansible.
- CI/CD: GitLab CI, Argo CD, GitOps.
- Observability: Prometheus, Grafana, VictoriaMetrics, ELK/EFK, алертинг.
- Управление секретами и безопасность: Vault, Keycloak, RBAC, network policies.
- Опыт работы с AI/LLM-нагрузками: GPU-инфраструктура (NVIDIA, CUDA, MIG), инференс LLM (vLLM, TGI, Triton), векторные БД (Qdrant, Milvus, pgvector).
- Понимание MLOps-стека: MLflow, DVC, ClearML, Kubeflow или аналогов.
- Python для автоматизации и обвязки сервисов.
- Опыт с LLM-мониторингом (Langfuse, LangSmith, Arize) и OpenAI-совместимыми шлюзами (LiteLLM) — плюс.
- Понимание agentic-архитектур, RAG, prompt injection и guardrails — плюс.
- Опыт в банке / финтехе / cloud-провайдере — плюс.
Условия
- Официальное оформление по ТК РФ (компания имеет ИТ-аккредитацию).
- Удаленный формат работы (только с территории РФ).
- Конкурентный уровень дохода (оклад + годовой бонус).
- ДМС со стоматологией.
- Много возможностей для профессионального роста.