DevOps Experten in Berlin

Qualität von KI-Modellen im großen Maßstab vorantreiben – Bewertung der Prompt-Antwort-Genauigkeit, Erkennung von Randfällen und Einhaltung SLA-konformer Workflows über verteilte globale Teams hinweg.

• Analyse von KI-Prompts und nebeneinander gestellten Modellausgaben zur Bewertung der Antwortqualität, Sachgenauigkeit, Relevanz, Konsistenz und Einhaltung der Projektbewertungsrichtlinien.
• Durchführung von Faktenprüfungen, Datenvalidierung, Fehlerbehebung, Identifizierung von Problemen und Überprüfung von Randfällen zur Verbesserung der Qualitätsstandards in den KI-Trainingsunterstützungs-Workflows.
• Verwendung von Google Sheets, Google Docs und browserbasierten Tools zur Dokumentation von Ergebnissen, Führung von Bewertungsprotokollen, Verfolgung von Problemmustern und Unterstützung der Workflow-Optimierung in einer Remote-Umgebung.
• Erstellung klarer schriftlicher Begründungen, Review-Zusammenfassungen und KPI-orientierter Berichte mit Fokus auf Genauigkeit, Durchlaufzeit, Vollständigkeit der Dokumentation, Fehlererkennungsrate und SLA-Einhaltung.

• Private Cloud-Datenplattform auf VMware vSphere entworfen und implementiert, Greenplum MPP, Apache Kafka, Kubernetes und Apache Solr integriert und Echtzeit-Ingestion-Pipelines mit Kafka Connect und Schema Registry entwickelt.
• Migration von Oracle Exadata zu Greenplum geleitet, Datenmodelle neu architektonisch aufgebaut, Speicher optimiert, RabbitMQ mit Debezium für CDC implementiert und VectorDB für Generative AI eingeführt.
• PoC für Multi-Cloud-Migration über AWS, Azure und GCP entworfen und umgesetzt, KPIs für Durchsatz, Latenz und Kosteneffizienz definiert, Bulk-Datentransfers durchgeführt, Analytics- und Streaming-Workloads validiert und Architektur-Empfehlungen im großen Maßstab geliefert.
• Legacy-On-Premises-Infrastruktur bewertet und moderne cloud-native Datenplattformen mit Greenplum und containerisierten Microservices entworfen, mit Beratung zu Skalierbarkeit, Disaster Recovery und High Availability.

• Verantwortlich für die Full-Stack-Entwicklung einer AI-native Unternehmensplattform auf Basis von TypeScript, React, Vite, tRPC, Hono und PostgreSQL, die KI-gestützte Beratungs-Workflows für B2B-Kunden liefert.
• Entwarf und lieferte ein Multi-Agenten-KI-System mit dem ReAct-Framework und Claude-Skills-Workflow-Mustern, inklusive eines intelligenten PM-Assistenten mit umfangreichen System-Prompts, Slash-Befehlen, Tool-Integrationen und Streaming-Chat-Oberfläche.
• Entwickelte ein LLM-Bewertungs-Framework: rubrikbasierte LLM-als-Richter, Golden Datasets, Regressionstests und automatisierte Qualitätssicherung — für konsistente KI-Ausgabequalität in großem Maßstab.
• Integrierte LangFuse für durchgehendes LLM-Tracking, Konversations-Wiedergaben und Bewertungs-Pipelines, was datengetriebene Prompt-Optimierung ermöglichte und Token-Kosten sowie Antwort-Varianz reduzierte.
• Implementierte Drizzle ORM, pgvector und Knowledge Graphs für strukturierten Datenzugriff, semantische Suche und beziehungsorientiertes KI-Schlussfolgern über die gesamte Plattform.
• Führte die TanStack React Query-Migration in der gesamten Anwendung durch — ersetzte manuelles State-Management durch zentrales Caching und automatisches Refetching, was den Boilerplate-Aufwand für Datenabrufe deutlich reduzierte.
• Setzte AI-native Entwicklung durchgehend ein: Claude Code, Codex, Perplexity SDK und LLM-unterstütztes Testing im gesamten Entwicklungszyklus. Deployment auf Vercel + Azure ACA mit Biome für Linting/Formatting.

• Konzipiert, entwickelt und eingeführt eine interne Webanwendung zur Veranstaltungsplanung, die von über 100 Abteilungsleitern für eine große Veranstaltung genutzt wurde, obwohl keine dedizierte Testphase stattfand.

• Einen reibungslosen und fehlerfreien Betrieb beim ersten Live-Einsatz sichergestellt, wodurch das Tool für zukünftige Veranstaltungen übernommen wurde.

• Catering-Berechnungen und zugehörige Workflows automatisiert, wodurch E-Mail-Kommunikation und manueller Aufwand für die Essensplanung deutlich reduziert wurden.

• Bereitstellung und Hosting auf einem Linux-Server mittels Coolify verwaltet, einschließlich Einrichtung der Anwendung und Laufzeitbetrieb.

• Einen Kommunikationsdesigner im Bereich UX eingestellt und angeleitet und dabei alle technischen Entscheidungen und die Implementierung eigenständig verantwortet.

• Die End-to-End-Auslieferung von Enterprise-Full-Stack-Webanwendungen geleitet, indem ich Anforderungsanalyse, Lösungsdesign, Frontend- und Backend-Entwicklung, Datenbankdesign, API-Integration, Code-Reviews, Teamkoordination, Agile Umsetzung, CI/CD-Deployments, Produktionssupport, Performance-Optimierung, Sicherheitsimplementierung und die Zusammenarbeit mit Stakeholdern gesteuert habe, um skalierbare, hochwertige Softwarelösungen zu liefern.

• Mentor eines Teams aus 6 ML-Platform-Engineers durch wöchentliche 1:1s, technische Design-Reviews und Best Practices; Verbesserung der Team-Produktivität um 35% durch strukturierte Sprint-Planung und Programme zur Skill-Entwicklung
• Definition der ML-Plattform-Roadmap 2025–2026 in Zusammenarbeit mit Data Science, Cloud Engineering und Product Teams; Priorisierung von automatisierter Model Governance, Cost-Attribution-Systemen und Multi-Environment-Deployment-Strategien
• Zusammenarbeit mit Stakeholdern aus Data Science, SRE und Product, um die Fähigkeiten der ML-Plattform mit den Geschäftszielen abzustimmen; Reduktion der Deployment-Hürden für Data Scientists um 60% durch Self-Service-Plattformen
• Architektur und Lieferung einer produktionsreifen MLOps-Plattform für 50+ Modelle in Produktion mit automatisierten Promotion-Pipelines, Versionierung und Rollback-Funktionen; Erreichung eines SLA von 99,5% Plattform-Uptime
• Design einer verteilten ML-Pipeline-Architektur mit Metaflow und Argo Workflows (Vertex Pipelines-kompatibel); Verkürzung der Modell-Trainingszeit um 30% und der Deployment-Zyklen von 2 Wochen auf 3 Tage durch vollständige CI/CD-Automatisierung
• Aufbau containerisierter ML-Services auf Kubernetes mit Auto-Scaling-Policies, Resource Quotas und Multi-Tenancy-Isolation; Optimierung der Infrastrukturkosten um 180K $ pro Jahr (25% Reduktion)
• Implementierung von Monitoring, Alerting und Performance-Tracking mit Prometheus, Grafana und Custom Instrumentation; Reduktion der Debugging-Zeit für Modelle um 50% und Einführung von SLOs für die Modell-Performance
• Leitung der Entwicklung einer RAG-basierten Document-Intelligence-Plattform mit LangChain, LangGraph und Vektor-Datenbanken; Implementierung von Agentic-AI-Workflows für die automatisierte Verarbeitung von Finanzdokumenten
• Implementierung von Infrastructure-as-Code mit Terraform für reproduzierbare Umgebungseinrichtung und GitOps-Workflows; Reduktion von Infrastruktur-Drift-Vorfällen um 80%
• Design von rollenbasiertem Zugriff für die ML-Plattform, Implementierung von Model-Lineage-Tracking und Aufbau von Audit Trails für regulatorische Compliance nach Enterprise-IAM-Best Practices

• Verantwortlichkeiten:
• Zusammenarbeit mit dem Product Owner zur Definition funktionaler und technischer Anforderungen
• Quartalsweise Roadmap-Definition mit Executives und Product Owner
• Bugs beheben und neue Features in Go und Typescript entwickeln
• Full-Stack-Engineering-Team führen und mentorieren
• Systemdesign in einer Microservice-Umgebung
• Anwendungssicherheit gewährleisten
• Engineering-Effizienz und Qualität der Ergebnisse verbessern
• Automatisierung mit agentic-AI-Workflows unterstützen
• Erfolge:
• Sicherheits- und Datenschutzbewusstsein im Team verbessert durch Workshops zu Best Practices, Sicherheitsmaßnahmen und Angriffstypen
• Eine neue Echtzeit-Chat-Anwendung konzipiert, entworfen und erfolgreich ausgeliefert, um die Beziehung und Zusammenarbeit zwischen Partnern und Unternehmen in Go und Typescript zu verbessern
• Meetingstunden für Engineers reduziert, indem ich den Workflow zur Projektvorbereitung in Zusammenarbeit mit dem Produktteam umstrukturiert habe

• Führte die End-to-End-Transformation einer Entwicklungsorganisation mit über 125 Mitarbeitenden und integrierte sie innerhalb von neun Monaten vollständig operativ in die Aviv Group
• Erneuerte Finance, HR, IT und Facilities durch den Aufbau skalierbarer Rahmenwerke und moderner Governance-Modelle
• Führte strukturierte Budget- und Cashflow-Prozesse, Job-Leveling und Vergütungsrahmen ein, um Transparenz, Verantwortlichkeit und nachhaltiges Wachstum zu schaffen
• Setzte eine vollständige finanzielle Restrukturierung mit einem strategischen Budgetierungsprozess um, der auf die Ziele der Gruppe abgestimmt war
• Restrukturierte und operationalisierte HR-Funktionen und etablierte moderne Prozesse für Talentmanagement und Organisationsentwicklung
• Formalisierte das Nearshore-Vendor-Management durch die vollständige Integration von Partnern und Prozessen in das operative Framework der Aviv Group
• Skalierte die IT-Infrastruktur und Support-Fähigkeiten und erweiterte den Helpdesk deutlich
• Führte klare On-Call- und Überstundenregelungen für Nearshore-Partner ein, um die Servicezuverlässigkeit und Kostenvorhersagbarkeit zu verbessern
• Verantwortete das Management von Facilities und Immobilien, um produktive und effiziente Arbeitsumgebungen sicherzustellen
• Erreichte eine geschlossene und verantwortungsvolle Tochtergesellschaft, die vollständig auf die Strategie von Aviv ausgerichtet war

KI-Plattform-Backend – Senior Developer

Engagiert, um ein Backend für eine KI-Plattform von Grund auf zu konzipieren und aufzubauen, inklusive Multi-Provider-LLM-Orchestrierung und Echtzeitinfrastruktur für KI-Influencer-Personas im großen Maßstab.

Aufgaben und Verantwortlichkeiten

• Architektur und Implementierung einer Multi-LLM-Orchestrierungsschicht mit Semantic Kernel zur Integration von GPT-4 und weiteren Anbietern für die Kernplattformlogik und KI-Influencer-Personas, Reduzierung des Modellwechsel-Overheads durch Abstraktion der Anbieter-APIs hinter einer einheitlichen Schnittstelle.
• Entwurf und Entwicklung eines Backends von Grund auf in C# / .NET 10, einschließlich Domain-Modellierung mit DDD, versionierter RESTful-API-Schicht und Cloud-Infrastrukturaufbau auf Azure.
• Aufbau einer Echtzeit-Chat-Infrastruktur mit Server-Sent Events (SSE), Nachrichtenpersistenz und Zustellungsgarantien für den Live-Betrieb von KI-Influencer-Personas im großen Maßstab.
• Entwicklung eines Medienverwaltungsdienstes mit Integration von Cloud-Objektspeicher für Upload und Abruf influencer-generierter Inhalte.
• Erstellung einer Integrations- und Unit-Test-Suite mit Daten-Seeding für zuverlässige Regressionstests über alle Kernplattform-Flows, deutliche Reduzierung der Produktionsfehlerrate.

Werkzeuge und Technologien: C#, .NET, ASP.NET Core, Python, TypeScript, MySQL, Semantic Kernel, EF Core, Minimal APIs, LLM Orchestration, Prompt Engineering, Agentic AI, Generative AI, AI-Assisted Engineering, Claude Code, GitHub Copilot, Google Gemini, OpenAI API, Ollama, Redis, Azure, Azure Container Apps, Azure Database for MySQL, Docker, GitHub Actions, Clean Architecture, Vertical Slice Architecture, CQRS, Domain-Driven Design, REST API, xUnit, Integration Testing, Unit Testing, Jira, Confluence, Scrum

• Leitung der Migration zu GCP mit Terraform, GKE und GitOps, was die Konsistenz und Skalierbarkeit von Deployments verbesserte
• Implementierung des Datadog-Observability-Stacks mit Terraform und dem datadog-operator
• Einrichtung automatisierter End-to-End-Tests und On-Call-Prozesse zur Verbesserung der Incident-Response und Service-Zuverlässigkeit
• Migration vom NGINX Ingress Controller zur Kubernetes Gateway API (NGINX Gateway Fabric)
• Migration zustandsbehafteter Dienste (PostgreSQL und Redis) zu GCP, was Skalierbarkeit und operative Zuverlässigkeit steigerte

• Wandelt natürliche Sprache mit RAG und pgvector in JQL um. Gibt strukturiertes JSON mit einer Query, einer Chart-Spezifikation und einer Klartext-Antwort zurück. Ein zweistufiger Router beantwortet allgemeine Fragen ganz ohne den JQL-Pipeline-Pfad.
• Austauschbare LLM-Backends: Ollama, vLLM, Groq, Anthropic Claude, AWS Bedrock - zur Laufzeit umschaltbar, ohne Codeänderungen. Self-healing JQL: Bei Jira-Validierungsfehlern wird der Fehler an das LLM zurückgegeben und bis zu 4 Mal erneut versucht. OCI Vault für Secrets. Bereitgestellt auf Oracle Cloud A1 mit GPU-Inferenz über ein Tailscale-Privatnetzwerk. Open Source.

• Unterstützung der Authorization as a Service-Initiative für eine Autorisierungsplattform im Enterprise-Umfeld
• Umfassende Observability-Lösungen in die Autorisierungsinfrastruktur integriert
• AWS-Infrastruktur für Autorisierungsdienste bereitgestellt und verwaltet
• Entwicklungsteam in AWS- und Kubernetes-Best Practices gecoacht
• Tech Stack: Java/Kotlin, Golang, Python, OPA, Spring Boot, AWS, Kubernetes, Terraform, ELK Stack, Prometheus, Grafana

• Neue Benachrichtigungsplattform von Grund auf entwickelt und bestehende sowie geplante Services ersetzt
• Zusammenarbeit mit anderen Teams zur Integration weiterer Bereiche

Tech-Stack:

• Daten: Scala 3, Apache Kafka, Python, Airflow, Astronomer
• Backend/Frontend: TypeScript, NestJS, Java, Spring Boot, Vue
• DevOps: AWS, PostgreSQL, Docker, GitHub Actions, Kubernetes, Helm, ArgoCD

• Entwickelte und implementierte ein hybrides Empfehlungssystem (Content-Based + Collaborative Filtering)
• Baute End-to-End-ML-Pipelines inklusive Datenverarbeitung, Feature Engineering, Modelltraining und Bewertung
• Entwickelte RAG-basierte LLM-Systeme mit LangChain und Vektordatenbanken für semantische Suche und Wissensabruf
• Etablierte MLOps-Workflows mit MLflow für Experiment-Tracking, Versionierung und Deployment-Bereitschaft
• Implementierte Deep-Learning-Modelle (Computer Vision & Klassifikation) mit PyTorch und TensorFlow