Observability Experten in Berlin

KI-Plattform-Backend – Senior Developer

Engagiert, um ein Backend für eine KI-Plattform von Grund auf zu konzipieren und aufzubauen, inklusive Multi-Provider-LLM-Orchestrierung und Echtzeitinfrastruktur für KI-Influencer-Personas im großen Maßstab.

Aufgaben und Verantwortlichkeiten

• Architektur und Implementierung einer Multi-LLM-Orchestrierungsschicht mit Semantic Kernel zur Integration von GPT-4 und weiteren Anbietern für die Kernplattformlogik und KI-Influencer-Personas, Reduzierung des Modellwechsel-Overheads durch Abstraktion der Anbieter-APIs hinter einer einheitlichen Schnittstelle.
• Entwurf und Entwicklung eines Backends von Grund auf in C# / .NET 10, einschließlich Domain-Modellierung mit DDD, versionierter RESTful-API-Schicht und Cloud-Infrastrukturaufbau auf Azure.
• Aufbau einer Echtzeit-Chat-Infrastruktur mit Server-Sent Events (SSE), Nachrichtenpersistenz und Zustellungsgarantien für den Live-Betrieb von KI-Influencer-Personas im großen Maßstab.
• Entwicklung eines Medienverwaltungsdienstes mit Integration von Cloud-Objektspeicher für Upload und Abruf influencer-generierter Inhalte.
• Erstellung einer Integrations- und Unit-Test-Suite mit Daten-Seeding für zuverlässige Regressionstests über alle Kernplattform-Flows, deutliche Reduzierung der Produktionsfehlerrate.

Werkzeuge und Technologien: C#, .NET, ASP.NET Core, Python, TypeScript, MySQL, Semantic Kernel, EF Core, Minimal APIs, LLM Orchestration, Prompt Engineering, Agentic AI, Generative AI, AI-Assisted Engineering, Claude Code, GitHub Copilot, Google Gemini, OpenAI API, Ollama, Redis, Azure, Azure Container Apps, Azure Database for MySQL, Docker, GitHub Actions, Clean Architecture, Vertical Slice Architecture, CQRS, Domain-Driven Design, REST API, xUnit, Integration Testing, Unit Testing, Jira, Confluence, Scrum

• Leitung der Migration zu GCP mit Terraform, GKE und GitOps, was die Konsistenz und Skalierbarkeit von Deployments verbesserte
• Implementierung des Datadog-Observability-Stacks mit Terraform und dem datadog-operator
• Einrichtung automatisierter End-to-End-Tests und On-Call-Prozesse zur Verbesserung der Incident-Response und Service-Zuverlässigkeit
• Migration vom NGINX Ingress Controller zur Kubernetes Gateway API (NGINX Gateway Fabric)
• Migration zustandsbehafteter Dienste (PostgreSQL und Redis) zu GCP, was Skalierbarkeit und operative Zuverlässigkeit steigerte

• Unterstützung der Authorization as a Service-Initiative für eine Autorisierungsplattform im Enterprise-Umfeld
• Umfassende Observability-Lösungen in die Autorisierungsinfrastruktur integriert
• AWS-Infrastruktur für Autorisierungsdienste bereitgestellt und verwaltet
• Entwicklungsteam in AWS- und Kubernetes-Best Practices gecoacht
• Tech Stack: Java/Kotlin, Golang, Python, OPA, Spring Boot, AWS, Kubernetes, Terraform, ELK Stack, Prometheus, Grafana

• Fractional Leadership; Beratung von Startups und Scale-ups in der Wachstumsphase zu Datenstrategie, ML-Produkten und Plattform-Grundlagen
• Aufbau von Entscheidungssystemen für Growth, Personalisierung und Produktexperimente in E-Commerce, Digital Health, Energie und Logistik
• Erforschung von Agentic AI und LLM-basierten Tools für produktionsreife Muster

• Die Entwicklung von 15+ Microservices (Java 17, Spring Boot) für Kundeninteraktionen geleitet; die Migration von On-Prem zu GCP Kubernetes durchgeführt, wodurch die Skalierbarkeit verbessert und die Infrastrukturkosten um 20 % gesenkt wurden.
• Benutzerdienste mit CouchDB-Caching und API-Refactoring optimiert, wodurch die Antwortzeiten um 35 % gesunken und die Kundenerfahrung verbessert wurden.
• Canary-Deployments, FluxCD GitOps und CI/CD-Optimierungen in GitLab eingeführt, wodurch die Release-Durchlaufzeit um 25 % reduziert und Rollouts ohne Downtime ermöglicht wurden.
• Grafana-Health-Checks und Anodot-Alerts für Latenz-, Fehler- und Durchsatz-Monitoring eingerichtet, wodurch die MTTR um 40 % gesenkt wurde.
• Sichere APIs mit OAuth2, DPoP und Gatekeeper aufgebaut, REST und GraphQL integriert und mit Unit- und E2E-Tests eine Testabdeckung von über 90 % erreicht.
• Junior-Entwickler betreut, Agile Best Practices gefördert und eng mit verschiedenen Teams zusammengearbeitet, um wichtige und zuverlässige kundennahe Features zu liefern.

Enterprise-KI-Inhaltskategorisierung und KI-gestützte Web-Recherche.

• Multi-LLM-Evaluierungs-Framework mit annotierten Daten aufgebaut
• LLM-Fehlerraten anhand annotierter Datensätze iteriert
• KI-gestützte Web-Recherche-Pipeline implementiert Technologie-Stack: LLM, evals, OpenRouter, Python, Node.js, TypeScript, React

• Entwickelte und implementierte ein hybrides Empfehlungssystem (Content-Based + Collaborative Filtering)
• Baute End-to-End-ML-Pipelines inklusive Datenverarbeitung, Feature Engineering, Modelltraining und Bewertung
• Entwickelte RAG-basierte LLM-Systeme mit LangChain und Vektordatenbanken für semantische Suche und Wissensabruf
• Etablierte MLOps-Workflows mit MLflow für Experiment-Tracking, Versionierung und Deployment-Bereitschaft
• Implementierte Deep-Learning-Modelle (Computer Vision & Klassifikation) mit PyTorch und TensorFlow

• Microservices in Kotlin und Spring Boot entwickelt und ausgeliefert, AWS Secrets Manager integriert, um Zugangsdaten zu sichern, und Netzwerkaufrufe dank Spring Cache verringert.
• Kafka-Consumer mit Spring Kafka überarbeitet und mittels semaphore-basierter Rückdrucksteuerung begrenzt, um Datensätze zu kappen und Heap-Speicher auch bei Lastspitzen stabil zu halten; auf Batch-Upserts umgestellt, um Datenbankzugriffe zu reduzieren; Testcontainers-Integrationstests für Kafka und Datenbank hinzugefügt, um künftige Änderungen zu erleichtern.
• Finanzabstimmungs-Workflow in Spring Boot (Kotlin) mit Spring Scheduler, Transaktionsgrenzen, JPA/Hibernate auf MySQL und Flyway-Migrationen automatisiert, wodurch das Buchhaltungsteam wöchentlich mehr als 16 Stunden spart.
• End-to-End-Testframework für Zahlungsprozesse in Robot (Python) entworfen und dockerisiert, mit wiederverwendbaren Keyword-Bibliotheken und Profilen; in GitLab CI integriert (JaCoCo XML- und HTML-Berichte), um Releases zu beschleunigen und die Codeabdeckung auf 80 % zu erhöhen.
• End-to-End-Beobachtbarkeit mit Datadog umgesetzt, indem Services mit Datadog APM instrumentiert, Metriken und Logs korreliert, Dashboards bereitgestellt und Monitore mit Burn-Rate-Warnungen und Anomalie-Erkennung erstellt wurden, um die Zuverlässigkeit zu stärken und Stakeholdern klare Einblicke zu geben.

OpsWorker verwandelt Kubernetes-Alerts in Root-Cause-Analysen, zusätzlich zu dem Monitoring, das ein Team bereits betreibt. Ich leite die technische Seite: die Agentenarchitektur, die AWS-Infrastruktur, auf der das Ganze läuft (vollständig in EU-Regionen), und die Engineering-Entscheidungen dahinter, standardmäßig nur lesend im Cluster, der Mensch bleibt für die Bewertung im Loop. Der Stack darunter: Amazon Bedrock und Bedrock AgentCore, Agenten gebaut mit dem Strands Agents SDK, die Claude- und OpenAI-APIs sowie die Kubernetes-API.

In einem schlanken, umsetzungsorientierten Umfeld habe ich Verantwortung über einen engen Engineering-Bereich hinaus übernommen und Systeme über Backend, Daten und Infrastruktur hinweg mitgestaltet und umgesetzt. Ich habe direkt mit den drei Gründern in einem schnelllebigen, wichtigen Umfeld zusammengearbeitet und strategische Prioritäten in konkrete technische Entscheidungen und Ergebnisse in Produktion übersetzt.

• Verantwortete die Kernentwicklung der Plattform über Backend (Django/Rest Framework/Postgres), ETL (Python/Dagster), Infrastruktur (Terraform/Kubernetes/AWS) und Frontend (TypeScript/React) für ein Climate-Tech-SaaS-Produkt und trieb die laufende Cross-Stack-Entwicklung über fünf Repositories seit Oktober 2021 bis heute voran.
• Entwarf und verantwortete ein eigenständiges internes Python-Scoring-Framework für CRC-Assessments, mit YAML-basierten Regeln und Metaprogrammierung, damit auch nicht-technische Nutzer komplexe Bewertungslogik ohne fest verdrahtete Implementierungen definieren können.
• Entwickelte und stabilisierte ETL- und Scraping-Pipelines mit Dagster und Scrapfly und verbesserte Dokumentenaufnahme, Tagging, Retry-Verhalten, Deployments und die operative Stabilität.
• Trug zur Modernisierung und Zuverlässigkeit der Plattform bei durch Django-/Python-Upgrades, Änderungen an Postgres/RDS und EKS, CDN-/TLS-Updates, Verbesserungen bei Tests und Performance sowie stärkere Observability.
• Trieb das Backend-Engineering für Produktfeatures voran und übersetzte Anforderungen in technische Spezifikationen, API-Verträge, Datenstrukturen und skalierbare Umsetzungspläne.

• Entwicklung und Implementierung eines unternehmensweiten Discovery-Frameworks basierend auf Ulwicks Ergebnisgetriebener Innovation; ermöglichte es 7 Product Ownern, unrealisierten Wert systematisch durch eine gemeinsame Ergebnissprache und eine Opportunity-Scoring-Methodik zu identifizieren und zu quantifizieren
• Umwandlung der Product-Owner-Rolle von reinen Backlog-Verwaltern zu strategischen Experimentierern; Einrichtung eines festen Zeitbudgets für autonome Hypothesentests und Discovery-Aktivitäten
• Neugestaltung der Customer Journey Maps, damit sie bei tatsächlichen Nutzerbedürfnissen (Tool-Auswahlphase) beginnen anstatt am Plattform-Einstiegspunkt; Eliminierung manueller Datenaggregationsarbeiten, die zuvor von Projektteams durchgeführt wurden
• Einführung des OKR-Frameworks in 4 Produktteams; Festlegung vierteljährlicher Objectives mit messbaren Key Results (z. B. 40 % Reduzierung des manuellen Integrationsaufwands, Steigerung der Self-Service-Nutzung)
• Vereinheitlichung von 3 separaten Roadmaps durch teamübergreifendes Abhängigkeits-Mapping und gemeinsame Servicevereinbarungen
• Unterstützung des Enterprise-Sales-Zyklus durch ROI-Modellierung und technische Due-Diligence für Automotive- und Verteidigungskunden

• Too Good To Throw (KI-basierte Social-Impact-Webapp zur Verringerung von Lebensmittelverschwendung in Nigeria):

• Integration von Paystack Split Payments, um Zahlungen automatisch zwischen der Plattform und Partnern zu leiten.

• Konfiguration automatisierter Subaccount-Erstellungs-Workflows, sodass neue Unternehmen sofort ein Abrechnungskonto erhalten.

• Aufbau eines skalierbaren Cloud-Backends mit Supabase.

• Implementierung einer rollenbasierten Zugriffskontrolle (RBAC) für Nutzer, Partner und Admins.

• FaithFlow (KI-gestützte Webapp zur Unterstützung christlicher Jugendlicher auf ihrem spirituellen Weg):

• Entwurf und Implementierung einer KI-gesteuerten Bibelsuchmaschine, die natürliche Sprachfragen interpretiert und sie relevanten Bibeltexten, Kommentaren, Andachten und Querverweisen zuordnet.

• Entwicklung eines Dashboards für spirituelles Wachstum, mit dem Nutzer ihren Lesefortschritt, Gebetsserien und Meilensteine beim Abschluss von Andachten verfolgen können.

• Steigerte die Zuverlässigkeit der LLM-Ausgaben durch Erstellung domänenspezifischer Prompts und Evaluationslogik und verbesserte damit die Konsistenz der Schlussfolgerungen in Produktions-Workflows von Sprachmodellen.
• Entwickelte fortgeschrittene Coding-Benchmarks und validierte Lösungen zur Stärkung von Trainings- und Evaluierungsdatensätzen, wodurch die Modellleistung bei technischen Problemlösungsaufgaben verbessert wurde.
• Entwarf und implementierte automatisierte Evaluierungsframeworks für technische Reasoning-Aufgaben; optimierte die Zuverlässigkeit der LLM-Ausgaben um 15 % durch rigoroses Prompt-Engineering und bewertungsbasierte Benchmarking.

• Habe Memorable umgesetzt, eine Produktions-iOS-App mit lokaler, auf dem Gerät laufender CLIP-basierter semantischer Fotosuche. Ich war für den gesamten Stack verantwortlich: Core-ML-Konvertierung, lokaler Inferenz-Pipeline, App-Store-Release und Weiterentwicklung nach dem Launch.
• Habe ein praxisnahes Framework für den KI-Einsatz entwickelt, das Workflow-Redesign, Priorisierung von Anwendungsfällen, Systemintegration, Evaluationsplanung und Human-in-the-Loop-Kontrollen abdeckt.
• Führe Gespräche zur Identifizierung von KI-Anwendungsfällen und berate Fachleute aus den Bereichen Recht, Steuern und Immobilien.