Senior DevOps Engineer – GenAI Platform & Azure Cloud (100%)
callista · Zürich, Zürich, Switzerland ·
- Seniority
- Senior
- Category
- AI engineering
callista · Zürich, Zürich, Switzerland ·
Callista Group AG · Zürich, Zürich, Switzerland
Callista Group AG · Zürich, Zürich, Switzerland
ITech Consult AG · Zürich, Switzerland
PROSTAFF Schweiz GmbH · Zürich, Switzerland
Build and operate a client's GenAI platform on Azure, on-site in Zürich: manage services (API Management, Foundry, OpenAI, AI Search, AKS) as code with Terraform/GitLab, automate LLMOps pipelines, add monitoring/alerting, and develop policies in Python/Java. Fixed-term 100% engagement (Jan 2027–Mar 2028); German and English required.
Du möchtest die Entwicklung innovativer KI-Lösungen aktiv mitgestalten? Als Senior DevOps Engineer berätst du beim Aufbau einer modernen GenAI-Plattform und bringst deine technische Expertise in deren Konzeption und Umsetzung ein. In einem interdisziplinären DevOps-Team aus Data Scientists, Business Engineers und DevOps Engineers entwickelst du gemeinsam zukunftsorientierte Lösungen und treibst den Aufbau der Plattform voran.
Hauptaufgaben:
Konfiguration und Verwaltung von Azure Cloud-Ressourcen insbesondere API Management, Foundry, OpenAI, AI Search, Document Intelligence sowie Kubernetes-basierten Applikationen wie Langfuse als "Infrastructure-as-Code" mit Terraform, HelmChart und Gitlab
Automatisierung von Build-, Test- und Release-Prozessen für GenAI-Anwendungen (LLMOps), um häufige und zuverlässige Releases in Entwicklungs-, Test- und Produktionsumgebungen sicherzustellen
Mitarbeit bei der Ausarbeitung von technischen Konzepten für die Umsetzung neuer Anforderungen an die GenAI Plattform, sowie derer laufenden Weiterentwicklung und Optimierung. Dabei sind alle Komponenten (Datenbanken, LLM-Modelle und andere AI-Services, Anwendungen), Aufwände, der laufende Betrieb mit diversen Client Applikationen und insbesondere die unternehmensweiten und regulatorischen Vorgaben zu berücksichtigen und abzustimmen.
Implementierung von Mechanismen für das Monitoring und die Alarmierung (z. B. Grafana und Azure Dashboard), um die Stabilität und Effizienz der Plattform zu gewährleisten
Support der Client Applikation bei konzeptionellen Fragen, Integrationen (Onboarding) sowie bei Problemen im Betrieb
Überwachung der Systemleistung, Betriebszeit und Protokolle, um Probleme frühzeitig zu erkennen und zu beheben
Neu- und Weiterentwicklung von code-basierten Umsetzungen für beispielweise Autorisierungsprüfung, Logging/Monitoring, Routinglogiken, Guardrails-Validierungen mit Java, Python, XML, C# (APIM Policies)
Anforderungen:
Fundierte Kenntnisse mit DevOps-Toolchains (z. B. Git, Gitlab, Docker, Terraform), um die Plattform Services state-of-the-art bereitzustellen und zu betreiben
Tiefgehendes Wissen über Azure Cloud-Dienste: Azure API Management, AKS, Azure Functions, OpenAI, AI Search, Document Intelligence, Azure Foundry, Storage Accounts
Kenntnisse im Bereich DevOps, einschliesslich der Nutzung von Monitoring-Tools (z. B. Prometheus, Grafana, Azure Monitor), Logging-Systemen und Alarmierung, um eine hohe Verfügbarkeit sicherzustellen
Idealerweise Projekterfahrung mit GenAI-Technologien, einschliesslich Retrieval-Augmented Generation (RAG) und Agentic AI, sowie Erfahrung in der Optimierung von GenAI-Lösungen
Fähigkeit, Konzepte und Architekturlösungen zu entwickeln und gegenüber IT-Security und Domänen-Architektur zu vertreten
Fundiertes Verständnis von Authentisierung- und Autorisierungsverfahren mittels Azure EntraID, RBAC und OAuth Konzepte
Kenntnisse in der Softwareentwicklung mit Python und / oder Java
Generelle Rahmenbedingungen:
Pensum: 100%
Einsatz: ab 1. Januar 2027 bis 31. März 2028
Arbeitsort: vor Ort beim Kunden in Zürich
Gute Deutsch- und Englischkenntnisse zwingend
Pro Informatik AG · Zürich, Switzerland