Observability-Experten in Berlin

• Migration zu GCP mit Terraform, GKE und GitOps geleitet und damit die Konsistenz und Skalierbarkeit von Deployments verbessert
• Datadog-Observability-Stack über Terraform und datadog-operator implementiert
• Automatisierte End-to-End-Tests und On-Call-Prozesse eingeführt und dadurch die Reaktion auf Incidents sowie die Service-Zuverlässigkeit verbessert
• Migration vom NGINX Ingress Controller zur Kubernetes Gateway API (NGINX Gateway Fabric)
• Stateful Services (PostgreSQL und Redis) nach GCP migriert und dadurch Skalierbarkeit und operative Zuverlässigkeit verbessert

• Ursachenanalyse komplexer fachlicher, technischer und datenbezogener Fehler in PowerCloud über Prozess-, Buchungs- und Systemgrenzen hinweg.
• Datenbasierte Steuerung von Zahlungsverkehr und Forderungsmanagement; Beitrag zum Abbau historischer Forderungsbestände von über 100 Mio. EUR auf unter 25 Mio. EUR.
• Identifikation von Automatisierungs- und Dunkelverarbeitungspotenzialen an der Schnittstelle zwischen Fachbereich, IT und externen Dienstleistern.

• Architektur und Entwicklung einer agentischen Plattform zur kreativen Automatisierung auf Basis von Mastra, mit einer individuellen RAG-Pipeline, eigenen Hooks, Tools und Skills, Chroma für die Vektorspeicherung sowie einem MongoDB/Express-Backend.
• Entwicklung der Agenten-Orchestrierung für den Multi-Agenten-Arbeitsbereich von Pixomi, einschließlich 72 individueller Marketing-Skills, Tools und Hooks sowie einer eigenen Pipeline für das Kontextmanagement.
• Design und Implementierung von Evals und Observability über Mastra Studio.
• Gewinnung von 10 Pilotkunden aus dem SMB-Bereich, die innerhalb von 3 Monaten pro Kampagne 10-mal mehr veröffentlichungsfertige kreative Inhalte produzierten als bei manueller Erstellung.
• Durchführung von Customer Discovery und Feedbackschleifen mit Pilotkunden zur Entwicklung der Roadmap für eine AI-native, workflowbasierte Plattform zur Inhaltserstellung.

• ▶ Echtzeit-Sprachassistenten entwickelt (STT → LLM → TTS-Pipeline), mehrere STT-Anbieter einschließlich faster-whisper und Azure Speech getestet und bewertet. Latenz von unter 3 Sekunden erreicht, Groq API (Llama 3) mit Multi-Turn-Speicher eingesetzt – einschließlich direkter Behandlung von Sonderfällen bei Diktaten sowie der Erkennung von Namen und Zugangscodes.

KI-Plattform Backend – Senior Developer

Engagiert, um ein Backend für eine KI-Plattform von Grund auf zu konzipieren und aufzubauen, inklusive Multi-Provider-LLM-Orchestrierung und Echtzeitinfrastruktur für KI-Influencer-Personas im großen Maßstab.

Aufgaben und Verantwortlichkeiten

• Architektur und Implementierung einer Multi-LLM-Orchestrierungsschicht mit Semantic Kernel zur Integration von GPT-4 und weiteren Anbietern für die Kernplattformlogik und KI-Influencer-Personas, Reduzierung des Modellwechsel-Overheads durch Abstraktion der Anbieter-APIs hinter einer einheitlichen Schnittstelle.
• Entwurf und Entwicklung eines Backends von Grund auf in C# / .NET 10, einschließlich Domain-Modellierung mit DDD, versionierter RESTful-API-Schicht und Cloud-Infrastrukturaufbau auf Azure.
• Aufbau einer Echtzeit-Chat-Infrastruktur mit Server-Sent Events (SSE), Nachrichtenpersistenz und Zustellungsgarantien für den Live-Betrieb von KI-Influencer-Personas im großen Maßstab.
• Entwicklung eines Medienverwaltungsdienstes mit Integration von Cloud-Objektspeicher für Upload und Abruf influencer-generierter Inhalte.
• Erstellung einer Integrations- und Unit-Test-Suite mit Daten-Seeding für zuverlässige Regressionstests über alle Kernplattform-Flows, deutliche Reduzierung der Produktionsfehlerrate.

Werkzeuge und Technologien: C#, .NET, ASP.NET Core, Python, TypeScript, MySQL, Semantic Kernel, EF Core, Minimal APIs, LLM Orchestration, Prompt Engineering, Agentic AI, Generative AI, AI-Assisted Engineering, Claude Code, GitHub Copilot, Google Gemini, OpenAI API, Ollama, Redis, Azure, Azure Container Apps, Azure Database for MySQL, Docker, GitHub Actions, Clean Architecture, Vertical Slice Architecture, CQRS, Domain-Driven Design, REST API, xUnit, Integration Testing, Unit Testing, Jira, Confluence, Scrum

• Aufbau unabhängiger Projekte im Bereich KI/Entwickler-Tools.
• Erprobung von Produktideen, schnellem Prototyping und Validierung der Markteinführung.
• Entwicklung eines KI-nativen Betriebsmodells – unter Einsatz agentischer Pipelines, dynamischer Kontextschemata und strenger Evaluierungs-Frameworks, um den Hebel einzelner Entwickler zu vervielfachen und Umsetzungshürden zu beseitigen.

• Migration der unternehmensweiten Autorisierungsplattform von Styra DAS zu Open-Source OPA über die Integration mit Skipper (Zalandos Golang-basiertem Ingress-Proxy)
• k8s-Ressourcen optimieren und native Prometheus-Metriken mit OPA integrieren
• Migration von einer internen Monitoring-Lösung zu Prometheus CRs + Dash0

Tech Stack: Java/Kotlin, Golang, Python, Spring Boot, AWS, Kubernetes, Docker, OpenTofu, Prometheus, Grafana

• Fractional Leadership; Beratung von Startups und Scale-ups in der Wachstumsphase zu Datenstrategie, ML-Produkten und Plattform-Grundlagen
• Aufbau von Entscheidungssystemen für Growth, Personalisierung und Produktexperimente in E-Commerce, Digital Health, Energie und Logistik
• Erforschung von Agentic AI und LLM-basierten Tools für produktionsreife Muster

• Die Entwicklung von 15+ Microservices (Java 17, Spring Boot) für Kundeninteraktionen geleitet; die Migration von On-Prem zu GCP Kubernetes durchgeführt, wodurch die Skalierbarkeit verbessert und die Infrastrukturkosten um 20 % gesenkt wurden.
• Benutzerdienste mit CouchDB-Caching und API-Refactoring optimiert, wodurch die Antwortzeiten um 35 % gesunken und die Kundenerfahrung verbessert wurden.
• Canary-Deployments, FluxCD GitOps und CI/CD-Optimierungen in GitLab eingeführt, wodurch die Release-Durchlaufzeit um 25 % reduziert und Rollouts ohne Downtime ermöglicht wurden.
• Grafana-Health-Checks und Anodot-Alerts für Latenz-, Fehler- und Durchsatz-Monitoring eingerichtet, wodurch die MTTR um 40 % gesenkt wurde.
• Sichere APIs mit OAuth2, DPoP und Gatekeeper aufgebaut, REST und GraphQL integriert und mit Unit- und E2E-Tests eine Testabdeckung von über 90 % erreicht.
• Junior-Entwickler betreut, Agile Best Practices gefördert und eng mit verschiedenen Teams zusammengearbeitet, um wichtige und zuverlässige kundennahe Features zu liefern.

• Entwickelte und implementierte ein hybrides Empfehlungssystem (Content-Based + Collaborative Filtering)
• Baute End-to-End-ML-Pipelines inklusive Datenverarbeitung, Feature Engineering, Modelltraining und Bewertung
• Entwickelte RAG-basierte LLM-Systeme mit LangChain und Vektordatenbanken für semantische Suche und Wissensabruf
• Etablierte MLOps-Workflows mit MLflow für Experiment-Tracking, Versionierung und Deployment-Bereitschaft
• Implementierte Deep-Learning-Modelle (Computer Vision & Klassifikation) mit PyTorch und TensorFlow

OpsWorker verwandelt Kubernetes-Alerts in Root-Cause-Analysen, zusätzlich zu dem Monitoring, das ein Team bereits betreibt. Ich leite die technische Seite: die Agentenarchitektur, die AWS-Infrastruktur, auf der das Ganze läuft (vollständig in EU-Regionen), und die Engineering-Entscheidungen dahinter, standardmäßig nur lesend im Cluster, der Mensch bleibt für die Bewertung im Loop. Der Stack darunter: Amazon Bedrock und Bedrock AgentCore, Agenten gebaut mit dem Strands Agents SDK, die Claude- und OpenAI-APIs sowie die Kubernetes-API.

In einem schlanken, umsetzungsorientierten Umfeld habe ich Verantwortung über einen engen Engineering-Bereich hinaus übernommen und Systeme über Backend, Daten und Infrastruktur hinweg mitgestaltet und umgesetzt. Ich habe direkt mit den drei Gründern in einem schnelllebigen, wichtigen Umfeld zusammengearbeitet und strategische Prioritäten in konkrete technische Entscheidungen und Ergebnisse in Produktion übersetzt.

• Verantwortete die Kernentwicklung der Plattform über Backend (Django/Rest Framework/Postgres), ETL (Python/Dagster), Infrastruktur (Terraform/Kubernetes/AWS) und Frontend (TypeScript/React) für ein Climate-Tech-SaaS-Produkt und trieb die laufende Cross-Stack-Entwicklung über fünf Repositories seit Oktober 2021 bis heute voran.
• Entwarf und verantwortete ein eigenständiges internes Python-Scoring-Framework für CRC-Assessments, mit YAML-basierten Regeln und Metaprogrammierung, damit auch nicht-technische Nutzer komplexe Bewertungslogik ohne fest verdrahtete Implementierungen definieren können.
• Entwickelte und stabilisierte ETL- und Scraping-Pipelines mit Dagster und Scrapfly und verbesserte Dokumentenaufnahme, Tagging, Retry-Verhalten, Deployments und die operative Stabilität.
• Trug zur Modernisierung und Zuverlässigkeit der Plattform bei durch Django-/Python-Upgrades, Änderungen an Postgres/RDS und EKS, CDN-/TLS-Updates, Verbesserungen bei Tests und Performance sowie stärkere Observability.
• Trieb das Backend-Engineering für Produktfeatures voran und übersetzte Anforderungen in technische Spezifikationen, API-Verträge, Datenstrukturen und skalierbare Umsetzungspläne.

• Mentor eines Teams aus 6 ML-Platform-Engineers durch wöchentliche 1:1s, technische Design-Reviews und Best Practices; Verbesserung der Team-Produktivität um 35% durch strukturierte Sprint-Planung und Programme zur Skill-Entwicklung
• Definition der ML-Plattform-Roadmap 2025–2026 in Zusammenarbeit mit Data Science, Cloud Engineering und Product Teams; Priorisierung von automatisierter Model Governance, Cost-Attribution-Systemen und Multi-Environment-Deployment-Strategien
• Zusammenarbeit mit Stakeholdern aus Data Science, SRE und Product, um die Fähigkeiten der ML-Plattform mit den Geschäftszielen abzustimmen; Reduktion der Deployment-Hürden für Data Scientists um 60% durch Self-Service-Plattformen
• Architektur und Lieferung einer produktionsreifen MLOps-Plattform für 50+ Modelle in Produktion mit automatisierten Promotion-Pipelines, Versionierung und Rollback-Funktionen; Erreichung eines SLA von 99,5% Plattform-Uptime
• Design einer verteilten ML-Pipeline-Architektur mit Metaflow und Argo Workflows (Vertex Pipelines-kompatibel); Verkürzung der Modell-Trainingszeit um 30% und der Deployment-Zyklen von 2 Wochen auf 3 Tage durch vollständige CI/CD-Automatisierung
• Aufbau containerisierter ML-Services auf Kubernetes mit Auto-Scaling-Policies, Resource Quotas und Multi-Tenancy-Isolation; Optimierung der Infrastrukturkosten um 180K $ pro Jahr (25% Reduktion)
• Implementierung von Monitoring, Alerting und Performance-Tracking mit Prometheus, Grafana und Custom Instrumentation; Reduktion der Debugging-Zeit für Modelle um 50% und Einführung von SLOs für die Modell-Performance
• Leitung der Entwicklung einer RAG-basierten Document-Intelligence-Plattform mit LangChain, LangGraph und Vektor-Datenbanken; Implementierung von Agentic-AI-Workflows für die automatisierte Verarbeitung von Finanzdokumenten
• Implementierung von Infrastructure-as-Code mit Terraform für reproduzierbare Umgebungseinrichtung und GitOps-Workflows; Reduktion von Infrastruktur-Drift-Vorfällen um 80%
• Design von rollenbasiertem Zugriff für die ML-Plattform, Implementierung von Model-Lineage-Tracking und Aufbau von Audit Trails für regulatorische Compliance nach Enterprise-IAM-Best Practices

• Too Good To Throw (KI-basierte Social-Impact-Webapp zur Verringerung von Lebensmittelverschwendung in Nigeria):

• Integration von Paystack Split Payments, um Zahlungen automatisch zwischen der Plattform und Partnern zu leiten.

• Konfiguration automatisierter Subaccount-Erstellungs-Workflows, sodass neue Unternehmen sofort ein Abrechnungskonto erhalten.

• Aufbau eines skalierbaren Cloud-Backends mit Supabase.

• Implementierung einer rollenbasierten Zugriffskontrolle (RBAC) für Nutzer, Partner und Admins.

• FaithFlow (KI-gestützte Webapp zur Unterstützung christlicher Jugendlicher auf ihrem spirituellen Weg):

• Entwurf und Implementierung einer KI-gesteuerten Bibelsuchmaschine, die natürliche Sprachfragen interpretiert und sie relevanten Bibeltexten, Kommentaren, Andachten und Querverweisen zuordnet.

• Entwicklung eines Dashboards für spirituelles Wachstum, mit dem Nutzer ihren Lesefortschritt, Gebetsserien und Meilensteine beim Abschluss von Andachten verfolgen können.