DevOps-Experten in Berlin

Qualität von KI-Modellen im großen Maßstab vorantreiben – Bewertung der Prompt-Antwort-Genauigkeit, Erkennung von Randfällen und Einhaltung SLA-konformer Workflows über verteilte globale Teams hinweg.

• Analyse von KI-Prompts und nebeneinander gestellten Modellausgaben zur Bewertung der Antwortqualität, Sachgenauigkeit, Relevanz, Konsistenz und Einhaltung der Projektbewertungsrichtlinien.
• Durchführung von Faktenprüfungen, Datenvalidierung, Fehlerbehebung, Identifizierung von Problemen und Überprüfung von Randfällen zur Verbesserung der Qualitätsstandards in den KI-Trainingsunterstützungs-Workflows.
• Verwendung von Google Sheets, Google Docs und browserbasierten Tools zur Dokumentation von Ergebnissen, Führung von Bewertungsprotokollen, Verfolgung von Problemmustern und Unterstützung der Workflow-Optimierung in einer Remote-Umgebung.
• Erstellung klarer schriftlicher Begründungen, Review-Zusammenfassungen und KPI-orientierter Berichte mit Fokus auf Genauigkeit, Durchlaufzeit, Vollständigkeit der Dokumentation, Fehlererkennungsrate und SLA-Einhaltung.

• Migration zu GCP mit Terraform, GKE und GitOps geleitet und damit die Konsistenz und Skalierbarkeit von Deployments verbessert
• Datadog-Observability-Stack über Terraform und datadog-operator implementiert
• Automatisierte End-to-End-Tests und On-Call-Prozesse eingeführt und dadurch die Reaktion auf Incidents sowie die Service-Zuverlässigkeit verbessert
• Migration vom NGINX Ingress Controller zur Kubernetes Gateway API (NGINX Gateway Fabric)
• Stateful Services (PostgreSQL und Redis) nach GCP migriert und dadurch Skalierbarkeit und operative Zuverlässigkeit verbessert

• Private Cloud-Datenplattform auf VMware vSphere entworfen und implementiert, Greenplum MPP, Apache Kafka, Kubernetes und Apache Solr integriert und Echtzeit-Ingestion-Pipelines mit Kafka Connect und Schema Registry entwickelt.
• Migration von Oracle Exadata zu Greenplum geleitet, Datenmodelle neu architektonisch aufgebaut, Speicher optimiert, RabbitMQ mit Debezium für CDC implementiert und VectorDB für Generative AI eingeführt.
• PoC für Multi-Cloud-Migration über AWS, Azure und GCP entworfen und umgesetzt, KPIs für Durchsatz, Latenz und Kosteneffizienz definiert, Bulk-Datentransfers durchgeführt, Analytics- und Streaming-Workloads validiert und Architektur-Empfehlungen im großen Maßstab geliefert.
• Legacy-On-Premises-Infrastruktur bewertet und moderne cloud-native Datenplattformen mit Greenplum und containerisierten Microservices entworfen, mit Beratung zu Skalierbarkeit, Disaster Recovery und High Availability.

• Verantwortlich für die Full-Stack-Entwicklung einer AI-native Unternehmensplattform auf Basis von TypeScript, React, Vite, tRPC, Hono und PostgreSQL, die KI-gestützte Beratungs-Workflows für B2B-Kunden liefert.
• Entwarf und lieferte ein Multi-Agenten-KI-System mit dem ReAct-Framework und Claude-Skills-Workflow-Mustern, inklusive eines intelligenten PM-Assistenten mit umfangreichen System-Prompts, Slash-Befehlen, Tool-Integrationen und Streaming-Chat-Oberfläche.
• Entwickelte ein LLM-Bewertungs-Framework: rubrikbasierte LLM-als-Richter, Golden Datasets, Regressionstests und automatisierte Qualitätssicherung — für konsistente KI-Ausgabequalität in großem Maßstab.
• Integrierte LangFuse für durchgehendes LLM-Tracking, Konversations-Wiedergaben und Bewertungs-Pipelines, was datengetriebene Prompt-Optimierung ermöglichte und Token-Kosten sowie Antwort-Varianz reduzierte.
• Implementierte Drizzle ORM, pgvector und Knowledge Graphs für strukturierten Datenzugriff, semantische Suche und beziehungsorientiertes KI-Schlussfolgern über die gesamte Plattform.
• Führte die TanStack React Query-Migration in der gesamten Anwendung durch — ersetzte manuelles State-Management durch zentrales Caching und automatisches Refetching, was den Boilerplate-Aufwand für Datenabrufe deutlich reduzierte.
• Setzte AI-native Entwicklung durchgehend ein: Claude Code, Codex, Perplexity SDK und LLM-unterstütztes Testing im gesamten Entwicklungszyklus. Deployment auf Vercel + Azure ACA mit Biome für Linting/Formatting.

• Konzipiert, entwickelt und eingeführt eine interne Webanwendung zur Veranstaltungsplanung, die von über 100 Abteilungsleitern für eine große Veranstaltung genutzt wurde, obwohl keine dedizierte Testphase stattfand.

• Einen reibungslosen und fehlerfreien Betrieb beim ersten Live-Einsatz sichergestellt, wodurch das Tool für zukünftige Veranstaltungen übernommen wurde.

• Catering-Berechnungen und zugehörige Workflows automatisiert, wodurch E-Mail-Kommunikation und manueller Aufwand für die Essensplanung deutlich reduziert wurden.

• Bereitstellung und Hosting auf einem Linux-Server mittels Coolify verwaltet, einschließlich Einrichtung der Anwendung und Laufzeitbetrieb.

• Einen Kommunikationsdesigner im Bereich UX eingestellt und angeleitet und dabei alle technischen Entscheidungen und die Implementierung eigenständig verantwortet.

• Die End-to-End-Auslieferung von Enterprise-Full-Stack-Webanwendungen geleitet, indem ich Anforderungsanalyse, Lösungsdesign, Frontend- und Backend-Entwicklung, Datenbankdesign, API-Integration, Code-Reviews, Teamkoordination, Agile Umsetzung, CI/CD-Deployments, Produktionssupport, Performance-Optimierung, Sicherheitsimplementierung und die Zusammenarbeit mit Stakeholdern gesteuert habe, um skalierbare, hochwertige Softwarelösungen zu liefern.

• Mentor eines Teams aus 6 ML-Platform-Engineers durch wöchentliche 1:1s, technische Design-Reviews und Best Practices; Verbesserung der Team-Produktivität um 35% durch strukturierte Sprint-Planung und Programme zur Skill-Entwicklung
• Definition der ML-Plattform-Roadmap 2025–2026 in Zusammenarbeit mit Data Science, Cloud Engineering und Product Teams; Priorisierung von automatisierter Model Governance, Cost-Attribution-Systemen und Multi-Environment-Deployment-Strategien
• Zusammenarbeit mit Stakeholdern aus Data Science, SRE und Product, um die Fähigkeiten der ML-Plattform mit den Geschäftszielen abzustimmen; Reduktion der Deployment-Hürden für Data Scientists um 60% durch Self-Service-Plattformen
• Architektur und Lieferung einer produktionsreifen MLOps-Plattform für 50+ Modelle in Produktion mit automatisierten Promotion-Pipelines, Versionierung und Rollback-Funktionen; Erreichung eines SLA von 99,5% Plattform-Uptime
• Design einer verteilten ML-Pipeline-Architektur mit Metaflow und Argo Workflows (Vertex Pipelines-kompatibel); Verkürzung der Modell-Trainingszeit um 30% und der Deployment-Zyklen von 2 Wochen auf 3 Tage durch vollständige CI/CD-Automatisierung
• Aufbau containerisierter ML-Services auf Kubernetes mit Auto-Scaling-Policies, Resource Quotas und Multi-Tenancy-Isolation; Optimierung der Infrastrukturkosten um 180K $ pro Jahr (25% Reduktion)
• Implementierung von Monitoring, Alerting und Performance-Tracking mit Prometheus, Grafana und Custom Instrumentation; Reduktion der Debugging-Zeit für Modelle um 50% und Einführung von SLOs für die Modell-Performance
• Leitung der Entwicklung einer RAG-basierten Document-Intelligence-Plattform mit LangChain, LangGraph und Vektor-Datenbanken; Implementierung von Agentic-AI-Workflows für die automatisierte Verarbeitung von Finanzdokumenten
• Implementierung von Infrastructure-as-Code mit Terraform für reproduzierbare Umgebungseinrichtung und GitOps-Workflows; Reduktion von Infrastruktur-Drift-Vorfällen um 80%
• Design von rollenbasiertem Zugriff für die ML-Plattform, Implementierung von Model-Lineage-Tracking und Aufbau von Audit Trails für regulatorische Compliance nach Enterprise-IAM-Best Practices

• Verantwortlichkeiten:
• Zusammenarbeit mit dem Product Owner zur Definition funktionaler und technischer Anforderungen
• Quartalsweise Roadmap-Definition mit Executives und Product Owner
• Bugs beheben und neue Features in Go und Typescript entwickeln
• Full-Stack-Engineering-Team führen und mentorieren
• Systemdesign in einer Microservice-Umgebung
• Anwendungssicherheit gewährleisten
• Engineering-Effizienz und Qualität der Ergebnisse verbessern
• Automatisierung mit agentic-AI-Workflows unterstützen
• Erfolge:
• Sicherheits- und Datenschutzbewusstsein im Team verbessert durch Workshops zu Best Practices, Sicherheitsmaßnahmen und Angriffstypen
• Eine neue Echtzeit-Chat-Anwendung konzipiert, entworfen und erfolgreich ausgeliefert, um die Beziehung und Zusammenarbeit zwischen Partnern und Unternehmen in Go und Typescript zu verbessern
• Meetingstunden für Engineers reduziert, indem ich den Workflow zur Projektvorbereitung in Zusammenarbeit mit dem Produktteam umstrukturiert habe

KI-Plattform Backend – Senior Developer

Engagiert, um ein Backend für eine KI-Plattform von Grund auf zu konzipieren und aufzubauen, inklusive Multi-Provider-LLM-Orchestrierung und Echtzeitinfrastruktur für KI-Influencer-Personas im großen Maßstab.

Aufgaben und Verantwortlichkeiten

• Architektur und Implementierung einer Multi-LLM-Orchestrierungsschicht mit Semantic Kernel zur Integration von GPT-4 und weiteren Anbietern für die Kernplattformlogik und KI-Influencer-Personas, Reduzierung des Modellwechsel-Overheads durch Abstraktion der Anbieter-APIs hinter einer einheitlichen Schnittstelle.
• Entwurf und Entwicklung eines Backends von Grund auf in C# / .NET 10, einschließlich Domain-Modellierung mit DDD, versionierter RESTful-API-Schicht und Cloud-Infrastrukturaufbau auf Azure.
• Aufbau einer Echtzeit-Chat-Infrastruktur mit Server-Sent Events (SSE), Nachrichtenpersistenz und Zustellungsgarantien für den Live-Betrieb von KI-Influencer-Personas im großen Maßstab.
• Entwicklung eines Medienverwaltungsdienstes mit Integration von Cloud-Objektspeicher für Upload und Abruf influencer-generierter Inhalte.
• Erstellung einer Integrations- und Unit-Test-Suite mit Daten-Seeding für zuverlässige Regressionstests über alle Kernplattform-Flows, deutliche Reduzierung der Produktionsfehlerrate.

Werkzeuge und Technologien: C#, .NET, ASP.NET Core, Python, TypeScript, MySQL, Semantic Kernel, EF Core, Minimal APIs, LLM Orchestration, Prompt Engineering, Agentic AI, Generative AI, AI-Assisted Engineering, Claude Code, GitHub Copilot, Google Gemini, OpenAI API, Ollama, Redis, Azure, Azure Container Apps, Azure Database for MySQL, Docker, GitHub Actions, Clean Architecture, Vertical Slice Architecture, CQRS, Domain-Driven Design, REST API, xUnit, Integration Testing, Unit Testing, Jira, Confluence, Scrum

• Gründete ein KI-gestütztes SaaS für Terminplanung und Geschäftsverwaltung für kleine und mittlere Unternehmen und verantwortete Technologiestrategie, Architektur, Produktentwicklung, UX, Abrechnung und Go-to-Market.
• Entwickelte und realisierte eine mandantenfähige Plattform mit REST-APIs, RBAC, CRM, Abrechnung und Benachrichtigungen für das Manager-Dashboard, die Admin-Konsole, das Buchungserlebnis und iOS-/Android-Anwendungen.
• Führte und betreute 7 Softwareentwickler, 1 DevOps-Ingenieur, 1 QA-Ingenieur und 1 UX/UI-Designer und arbeitete gleichzeitig praktisch in den Bereichen Backend, Frontend und Produktentwicklung.
• Entwickelte KI-Sprach- und Chat-Agenten mit Python/FastAPI, OpenAI- und Anthropic-APIs, RAG, pgvector und Tool-Calling; integrierte Twilio, Google Calendar/Meet, Stripe und Firebase.
• Verantwortete die Produktiv-Infrastruktur und automatisierte die Auslieferung in getrennten Umgebungen mit Docker, Nginx, GitHub Actions und Grafana; vertrat das Unternehmen bei Acceleratoren und internationalen Startup-Veranstaltungen.

Ausgewählter Tech-Stack: Python, FastAPI, Node.js, Vue 3, React/Next.js, React Native, PostgreSQL, Redis, Docker

• Migration der unternehmensweiten Autorisierungsplattform von Styra DAS zu Open-Source OPA über die Integration mit Skipper (Zalandos Golang-basiertem Ingress-Proxy)
• k8s-Ressourcen optimieren und native Prometheus-Metriken mit OPA integrieren
• Migration von einer internen Monitoring-Lösung zu Prometheus CRs + Dash0

Tech Stack: Java/Kotlin, Golang, Python, Spring Boot, AWS, Kubernetes, Docker, OpenTofu, Prometheus, Grafana

• Wandelt natürliche Sprache mit RAG und pgvector in JQL um. Gibt strukturiertes JSON mit einer Query, einer Chart-Spezifikation und einer Klartext-Antwort zurück. Ein zweistufiger Router beantwortet allgemeine Fragen ganz ohne den JQL-Pipeline-Pfad.
• Austauschbare LLM-Backends: Ollama, vLLM, Groq, Anthropic Claude, AWS Bedrock - zur Laufzeit umschaltbar, ohne Codeänderungen. Self-healing JQL: Bei Jira-Validierungsfehlern wird der Fehler an das LLM zurückgegeben und bis zu 4 Mal erneut versucht. OCI Vault für Secrets. Bereitgestellt auf Oracle Cloud A1 mit GPU-Inferenz über ein Tailscale-Privatnetzwerk. Open Source.

• Entwickelte und implementierte ein hybrides Empfehlungssystem (Content-Based + Collaborative Filtering)
• Baute End-to-End-ML-Pipelines inklusive Datenverarbeitung, Feature Engineering, Modelltraining und Bewertung
• Entwickelte RAG-basierte LLM-Systeme mit LangChain und Vektordatenbanken für semantische Suche und Wissensabruf
• Etablierte MLOps-Workflows mit MLflow für Experiment-Tracking, Versionierung und Deployment-Bereitschaft
• Implementierte Deep-Learning-Modelle (Computer Vision & Klassifikation) mit PyTorch und TensorFlow

• orderbird beim Aufbau und der Steuerung eines internen Advanced-Analytics-Projekts für das interne Kunden-Dashboard unterstützt
• Das interne Dashboard-Projekt für die spätere Entwicklung strukturiert