AI Security Engineer

Szukamy AI Security Engineera, który dołączy do zespołu rozwijającego i wdrażającego rozwiązania AI w dużej organizacji z sektora finansowego. Rola łączy Offensive Security/Red Teaming z bezpieczeństwem rozwiązań GenAI/LLM. Szukamy osoby technicznej, która potrafi nie tylko ocenić ryzyko, ale również samodzielnie testować rozwiązania, automatyzować testy i budować narzędzia wspierające red teaming.

Tryb pracy: hybrydowy, Warszawa

Zakres obowiązków

• Opiniowanie i ocena rozwiązań AI pod kątem bezpieczeństwa przed ich wdrożeniem.

• Prowadzenie testów bezpieczeństwa i red teamingu rozwiązań opartych na LLM.

• Identyfikowanie podatności i ryzyk związanych m.in. z prompt injection, jailbreakami, dostępem do danych, RAG i agentami AI.

• Przygotowywanie, wdrażanie i testowanie guardrails/safeguards.

• Automatyzacja procesów security testingu i budowa narzędzi wspierających red teaming.

• Rozwój wewnętrznych agentów AI wspierających testy bezpieczeństwa.

• Analiza bezpieczeństwa całego rozwiązania, w tym API, integracji, IAM/uprawnień, danych, mikroserwisów i infrastruktury.

• Zabezpieczanie rozwiązań AI działających w środowiskach cloud i on premises.

• Przeprowadzanie analiz i ocen ryzyka technicznego.

• Wspieranie zgodności rozwiązań z wymaganiami organizacji oraz regulacjami dotyczącymi AI i sektora finansowego.

Wymagania

• Minimum 5 lat doświadczenia w obszarze bezpieczeństwa IT, najlepiej w Penetration Testingu, Red Teamingu, Offensive Security, Application Security lub Security Engineering.

• Praktyczne, udokumentowane doświadczenie z bezpieczeństwem rozwiązań AI/LLM.

• Doświadczenie w testowaniu podatności i prowadzeniu red teamingu rozwiązań wykorzystujących LLM.

• Znajomość zagrożeń charakterystycznych dla GenAI/LLM, w tym prompt injection, jailbreak, data leakage oraz ryzyk związanych z RAG i agentami AI.

• Znajomość OWASP Top 10 for LLM/GenAI Applications oraz praktycznych metodyk testowania bezpieczeństwa AI.

• Praktyczna znajomość guardrails/safeguards.

• Umiejętność automatyzacji testów bezpieczeństwa i tworzenia narzędzi/skryptów w Pythonie. Nie wymagamy poziomu Python Developera, ale oczekujemy rozumienia tworzonego kodu i umiejętności świadomego wykorzystania go w testach.

• Znajomość bezpieczeństwa architektury mikroserwisowej, środowisk on premises i chmury publicznej, w szczególności Microsoft Azure.

• Umiejętność analizy ryzyka oraz projektowania zabezpieczeń dla całego rozwiązania AI.

• Znajomość wymagań regulacyjnych dotyczących AI w sektorze finansowym, w szczególności AI Act i DORA, oraz standardów ISO 27001 i ISO/IEC 42001.