Senior Data- & KI-Ingenieur (GenAI / LLM)

Unser Endkunde, ein Enterprise-Unternehmen im DACH-Raum, baut seine zentrale Datenplattform aus und bringt erste GenAI-Use-Cases (interner Wissensassistent, Dokumenten-Intelligenz) vom Pilot in den Produktivbetrieb. Gesucht wird ein Data & AI Engineer, der sowohl robuste Datenpipelines als auch produktionsreife LLM-Anwendungen baut — kein reines Prototyping.

Aufgaben

• Design und Entwicklung skalierbarer Datenpipelines (Batch und Streaming) auf einer Lakehouse-Architektur
• Aufbau produktionsreifer RAG-Systeme: Chunking-Strategien, Embeddings, Vektor-Retrieval, Antwort-Evaluierung
• Integration von LLM-APIs (OpenAI, Anthropic, Google) inklusive Function Calling und strukturierten Outputs
• LLMOps: Deployment, Monitoring, Kosten-Tracking, Guardrails und Evaluierungs-Pipelines
• DSGVO- und EU-AI-Act-konforme Umsetzung in Zusammenarbeit mit Data Governance und Legal
• Datenmodellierung und Aufbau kuratierter Datenprodukte für Fachbereiche

Must-have Skills

• 6+ Jahre Data Engineering, davon 2+ Jahre mit LLM-/GenAI-Anwendungen im Produktivbetrieb
• Python auf Senior-Niveau, sehr gutes SQL
• Moderner Data Stack: dbt, Airflow oder Dagster, Spark
• Databricks oder Snowflake (Lakehouse-/Warehouse-Architektur)
• RAG-Stack: Vektordatenbanken (pgvector, Weaviate, Qdrant o. ä.), Embedding-Modelle, Orchestrierung mit LangChain/LlamaIndex oder eigenem Framework
• Hands-on-Erfahrung mit LLM-APIs (OpenAI, Anthropic Claude, Google Gemini)
• MLOps-Grundlagen: MLflow, Container, CI/CD; Azure ML oder Vertex AI

Nice-to-have

• LLM-Evaluierung mit Ragas, promptfoo oder eigenen Eval-Frameworks
• Fine-tuning / PEFT (z. B. LoRA) und Erfahrung mit Open-Weight-Modellen
• Streaming mit Kafka
• Kubernetes und Terraform
• Erfahrung mit EU-Datenresidenz-Anforderungen (EWR-Cloud-Setups)