Projektportal
Projektdetails
Aufgaben
- Konzeption und Entwicklung produktiver Agentic-AI-Lösungen auf Databricks und Azure, vom Prototyp bis zum skalierbaren Betrieb
- Entwicklung von KI-Agenten und Multi-Agent-Workflows, die LLMs, Unternehmensdaten, APIs und interne Systeme verbinden
- Umsetzung von RAG-, Tool-Calling- und Workflow-Architekturen sowie wiederverwendbarer Komponenten für Prompts, Tools, Agenten und Datenzugriffe
- Integration von Azure OpenAI und weiteren Foundation Models in die Databricks-Plattform und bestehende Systemlandschaften
- Aufbau von Daten- und Verarbeitungspipelines mit Python, SQL, Spark und Delta Lake
- Entwicklung, Versionierung, Evaluation, Deployment und Monitoring von Modellen, Prompts und Agenten mit Databricks Mosaic AI und MLflow
- Automatisierung von Prozessen mit Databricks Workflows
- Gestaltung einer sicheren, skalierbaren und kosteneffizienten Azure- und Databricks-Architektur
- Etablierung von CI/CD- und MLOps-Prozessen (automatisierte Tests, Deployment-Pipelines, Infrastructure as Code, Versionierung)
- Aufbau von Evaluationsverfahren für KI-Anwendungen (Antwortqualität, Groundedness, Sicherheit, Latenz, Kosten, Zuverlässigkeit)
- Aufbau eines nachvollziehbaren Betriebs über Unity Catalog, Secrets Management, Managed Identities, RBAC, Private Endpoints, Logging und Monitoring
- Dokumentation von Architekturen, Datenflüssen, Agentenlogik, Betriebsprozessen und Security Controls zur Übergabe in den Betrieb
Anforderungen
Must-haves
- Mehrjährige Erfahrung als AI Engineer, ML Engineer, Data Engineer, Cloud Engineer oder in vergleichbarer Rolle
- Praktische Erfahrung in der Entwicklung von LLM-Anwendungen, idealerweise mit RAG, Embeddings, Vector Search, Tool Calling oder agentenbasierten Architekturen
- Sehr gute Kenntnisse in Python und SQL sowie Software-Engineering-Praktiken (Git, automatisierte Tests, Code Reviews, modulare Entwicklung)
- Fundierte Databricks-Erfahrung (z. B. Spark, Delta Lake, Workflows, Unity Catalog, MLflow, Mosaic AI)
- Gute Kenntnisse der Azure-Plattform, insbesondere Azure OpenAI, Managed Identities, Key Vault, Storage, Networking und Monitoring
- Erfahrung in der produktiven Integration von APIs, Datenquellen und Unternehmenssystemen sowie Verständnis verteilter und ereignisgetriebener Architekturen
- Praktische Erfahrung mit CI/CD, MLOps und Infrastructure as Code (z. B. GitHub Actions oder Azure DevOps, Terraform oder Bicep)
- Solides Verständnis von Cloud Security, Datenschutz und AI Governance (Berechtigungskonzepte, Datenklassifizierung, sichere Modellzugriffe)
- Erfahrung im Monitoring produktiver KI-Lösungen und in der systematischen Bewertung von Prompt-, Retrieval- und Agentenqualität
- Fähigkeit, fachliche Anforderungen in robuste, wartbare und skalierbare Lösungen zu übersetzen
- Freude an interdisziplinärer Zusammenarbeit und verständlicher Vermittlung komplexer Zusammenhänge
Nice-to-haves
- Erfahrung mit Agenten- und LLM-Frameworks, strukturierten Ausgaben, Guardrails und Human-in-the-Loop-Prozessen
- Kenntnisse in Docker und Kubernetes sowie im Betrieb containerisierter KI-Anwendungen
- Erfahrung mit Event Streaming (z. B. Azure Event Hubs, Apache Kafka)
- Know-how in Kosten-, Latenz- und Skalierungsoptimierung LLM-basierter Anwendungen
- Erfahrung in regulierten oder datenschutzsensiblen Umfeldern
Rahmenbedingungen
Seniorität: Senior
Start: asap
Laufzeit: bis 31.12.2027 (Option auf Verlängerung)
Einsatzort: Köln / Remote (ca. 50 % remote, in der Regel 1–2 Tage pro Woche vor Ort im Büro Köln Rheinauhafen)
Projektsprache: Deutsch