OpenTelemetry-Experten in Deutschland

Die Basisdienste von DB InfraGO bilden einen zentralen Datenhub zwischen den IT-Systemen des Unternehmens. Es werden gemeinsame Datendienste entwickelt, die Daten aus Quellsystemen an eine Vielzahl nachgelagerter Systeme verteilen (über JMS) und bereitstellen (über REST-API). Die bestehende, auf TIBCO basierende Servicelandschaft wird auf die cloud-native Plattform von DB InfraGO migriert.

• Architekturdesign und Implementierung einer performanceoptimierten Massenverarbeitung von mehreren Millionen Datensätzen zu bestimmten Tageszeiten
• Technische Spezifikation und Dokumentation der Geschäftsanforderungen
• Integration verschiedener Subsysteme (einschließlich SAP und Salesforce) durch die Neuentwicklung von mehr als 40 auf Spring Boot basierenden Microservices
• Migration von TIBCO-basierten Microservices von der Enterprise Integration Platform auf die Cloud Native Platform mit Spring Boot
• Aufbau einer Deployment-Pipeline mit GitLab CI/CD und Artifactory sowie automatisiertes Deployment in eine Kubernetes-Umgebung mithilfe von ArgoCD
• Definition und Implementierung automatisierter Unit-, Integrations- und Regressionstests

Teamgröße: 9

Technologien/Tools: Java, Spring Boot, ActiveMQ(JMS), JUnit, Tibco Business Works, Gitlab (CI/CD), Kubernetes (Amazon AWS), ArgoCD, postgreSQL, Oracle, Postman, Hoppscotch, openAPI, Sonarqube

• Vollständig On-Premises betriebene LLM-Plattform zur Dokumentenprüfung für einen Compliance-kritischen Bankbereich: agentenbasierte LangGraph-Pipeline mit deterministischer Verifizierung, jedes KI-Urteil strukturiert und an die Quelle gebunden; ~960 automatisierte Tests, kein Datenabfluss
• GPU-Durchsatzoptimierung (quantized serving, speculative decoding, prefix caching): 9.5-fache Beschleunigung der Extraktion, 500+ Fallakten mit mehreren Dokumenten pro Tag auf einer einzelnen A100
• KI-native EDI/EDIFACT-Integrationsplattform (~116k LOC Java 25 / Spring Boot 4, 1,900+ Tests): Von LLM erstellte Partnermappings werden vor dem Go-live maschinell verifiziert (DFDL-Konformität, Feldabdeckungsprüfungen, Testläufe), ~99.5% Byte-Übereinstimmung bei echten Kundendateien – ersetzt wochenlange manuelle Zuordnung pro Partner

Multi-Agenten-Plattform zur Dokumentenerstellung

Problem:

Aus einem einzelnen Prompt ein gut recherchiertes, strukturiertes und mit Quellen belegtes Dokument erstellen und dabei die Kontrolle beim Nutzer belassen: Jeder Schritt kann geprüft, korrigiert oder erneut aufgerufen werden, bevor das System fortfährt.

Architektur:

Ein Multi-Agenten-System, das von einer zentralen Steuerung koordiniert wird. Mehr als 20 spezialisierte pydantic-ai-Subagenten (Verstehen, Strukturieren, Planen, Recherchieren, Schreiben, Zusammenstellen, Querverweise prüfen, Glossar, Zitate, Referenztabelle und mehr) geben Ergebnisse anhand eines gemeinsamen, in Postgres gespeicherten Plans (asyncpg) weiter. Eine Runner-Schicht weist jede Aufgabe anhand ihres Namens einem Agenten zu. Mechanische Schritte wie Formatierung, Inhaltsverzeichnis und Abbildungsverzeichnis werden durch deterministischen Code statt durch LLM-Aufrufe erledigt. Der Anbieter (Anthropic oder OpenAI) wird über eine Konfiguration festgelegt, und Antworten werden über Server-Sent Events gestreamt.

Hosting & Infrastruktur:

Ein zustandsloser Container läuft als Scaleway Serverless Container in einem privaten Netzwerk mit verwaltetem PostgreSQL, Objektspeicher für fertige Dokumente und Assets sowie zentraler Protokollübertragung (Loki / Scaleway Cockpit). Bereitstellung mit OpenTofu-Modulen und Deployment über GitLab CI; die Nutzung wird pro API-Schlüssel abgerechnet.

Mein Beitrag und wichtige Entscheidungen:

• Zentrale Entscheidungssteuerung: Ein Zufriedenheitsklassifikator wandelt die Freitext-Rückmeldung des Nutzers in eine Entscheidung um (weiterarbeiten, fortfahren, abbrechen oder eine frühere Aufgabe überarbeiten). Eine Middleware wendet sie auf den Plan an. Der Plan kann zu früheren Aufgaben zurückspringen und die darauffolgenden Schritte erneut ausführen.
• Parallele Recherche und Texterstellung: Die Planung erstellt einen Plan, aus dem ein Recherche-Design-Agent einzelne Rechercheaufgaben und ein Schreib-Design-Agent einzelne Schreibaufgaben erstellt, die jeweils mit der benötigten Recherche verknüpft sind. Jede Aufgabe wird in einem eigenen Agenten mit eigenem Gesprächsverlauf ausgeführt.
• Selbstprüfung und Einbindung des Menschen: Nach jedem Schritt prüft ein Agent für kritisches Denken das Ergebnis. Bevor der Plan fortgesetzt wird, kann der Nutzer eine Kritik annehmen, überarbeiten oder Fragen dazu stellen.
• MCP-Integrationen: Zwei entfernte MCP-Server für die Websuche und die interne Dokumentensuche sind über pydantic-ai angebunden, mit Wiederholungsversuchen und Timeouts für lang laufende Tool-Aufrufe. Klassifikator-Agenten entscheiden für jede Aufgabe, ob eine Websuche nötig ist. Ein kleines Modell fasst rohe Suchergebnisse zu strukturierten Erkenntnissen zusammen, bevor sie die Schreibagenten erreichen.

Nutzungsabrechnung:

Kunden authentifizieren sich mit einem API-Schlüssel, der über einen Schlüsselverwaltungsdienst geprüft wird. Der Verbrauch wird in Credits abgerechnet, berechnet anhand der Token-Nutzung pro Modell zuzüglich eines Aufschlags. Bei ausgeschöpftem Kontingent wird HTTP 429 zurückgegeben.

• Auftraggeber: Prime Force Group GmbH

Eingesetzte Techniken: Java 25, Spring Boot 4, MapStruct, JSpecify, PostgreSQL, Redis, Liquibase, REST/OpenAPI, Apache Kafka, Apache Solr, OpenID Connect über IronGate/Keycloak, SAP Customer Data Cloud, JUnit, Testcontainers, Karate, Playwright, GitLab-Monorepo mit CI/CD, Jenkins, JFrog Artifactory, FluxCD, Docker, Kubernetes auf Azure, OpenTelemetry, arc42, Jira, Confluence

Das Team Management Center ist die neue zentrale Plattform des DFB für die Planung, Verwaltung und Durchführung von Teammaßnahmen der Nationalmannschaften – von der Kaderzusammenstellung über Lehrgänge und Trainingslager bis zur Kommunikation mit Spielern, Vereinen und Erziehungsberechtigten. Die Plattform ist mandantenfähig für DFB und Landesverbände ausgelegt; Spieler-, Vereins- und Stammdaten werden bewusst nicht kopiert, sondern zur Laufzeit über die DFBnet-APIs angebunden.

Ich bin seit der Architektur- und Konzeptphase (Sprint 0) durchgängig im Projekt und arbeite im verteilten Scrum-Team in zweiwöchigen Sprints. Neben der Implementierung liegen meine Schwerpunkte auf Architekturabstimmungen, der Anbindung der DFBnet-Schnittstellen sowie auf Code-Reviews und Test-Automatisierung als Qualitätssicherung im Team.

Schwerpunkte:

• Erarbeitung und Umsetzung des Mandantenfähigkeitskonzepts (Tenant-Modell für DFB und Landesverbände) inklusive Datenmodell, Zugriffsschicht und Liquibase-Migrationen.
• Konzeption des Personen-Services und des Suchkonzepts auf Basis von Apache Solr.
• Anbindung der DFBnet-APIs (Spieler-, Personen- und Vereinssuche, Club-Daten) inklusive Authentifizierung und synchroner Stammdaten-Synchronisation.
• Härtung der Integration durch Resilienzmuster: eigene Read-Timeouts je Suchpfad, Korrektur der Circuit-Breaker-Zählung, Begrenzung paralleler Aufrufe und Club-Cache zur Entlastung des Fremdsystems.
• Entwicklung der Self-Service-Endpunkte für Spieler (eigene Maßnahmen, Maßnahmendetails, Spiele) inklusive Zugriffskonzept für Teilnehmende sowie der Personendokumente und Datei-Uploads.
• Vereinheitlichung des API-Designs: OpenAPI-Annotationen, Nullability-Modell über einen eigenen ModelConverter, JSpecify-Migration der DTOs und dokumentierte API-Guidelines.
• Aufbau und Pflege der Karate-basierten API- und Integrationstests, Integrationstests mit Testcontainers, Test-Guidelines und Bug-Triage aus den Integrations- und Referenzumgebungen.
• Code-Reviews über Merge Requests, Architekturdokumentation nach arc42 und Architekturentscheidungen (ADRs) in Confluence.
• Automatisiertes Deployment auf Integrations- und Referenzumgebung, Analyse von Login- und OIDC-Problemen im Zusammenspiel mit IronGate.

Status: laufend – Stand 08/2026 in Sprint 17, rund 940 geleistete Personenstunden; alle zwei Wochen testbare Auslieferung auf die Integrationsumgebung.

• Leitete die ganzheitliche Umsetzung von ML-/KI-Anwendungen für die QuantistryLab-Simulationsplattform – von der Anforderungsdefinition und Lösungsplanung über Entwicklung, Tests und Bereitstellung bis zur Unterstützung im Produktivbetrieb. Dabei koordinierte ich die Zusammenarbeit der Back-End-, DevOps- und ML-Teams.
• Entwarf und implementierte ein System zur Suche nach Verbindungen mit einem LLM mit offenen Gewichten, dem Agenten-Framework Pydantic AI und dem Model Context Protocol (MCP) und stellte es über FastAPI-Endpunkte bereit.
• Stellte den LLM-Service auf Basis von vLLM auf Kubernetes bereit und konfigurierte ihn.
• Entwickelte CI/CD-Pipelines und Helm-Charts, um Bereitstellungen in Staging- und Produktionsumgebungen zu automatisieren.
• Ergänzte das Suchsystem um OpenTelemetry-Spans und -Traces und integrierte es in die Observability-Plattform Honeycomb, um die Latenz einzelner Komponenten und Funktionsfehler zu überwachen.
• Entwickelte einen benutzerdefinierten Evaluierungsdatensatz und setzte Auswertungen für die Relevanz der Suchergebnisse, die Richtigkeit der Antworten, die Genauigkeit von Tool-Aufrufen und den Erfolg der Aufgaben von Anfang bis Ende um.
• Verkürzte die Vorhersagezeit für Infrarotspektren um 83 % (von 60 auf 10 Minuten), indem ich ein quantenmechanisches Modell durch ein vortrainiertes graph-neuronales Netzwerk ersetzte. Ich trainierte das Modell mit PyTorch weiter, entwickelte und containerisierte die Inferenzpipeline mit Docker und integrierte sie in die Plattform.
• Implementierte eine MLflow-Modellregistrierung mit MinIO-gestützter Artefaktspeicherung.
• Beriet Vertriebs- und Wissenschaftsteams zu ML-/KI-Anwendungen für potenzielle Kundenprojekte und brachte technisches Fachwissen in die Entwicklung vorgeschlagener Lösungen und Prototypen ein.

Technologien: AWS, Hetzner, Kubernetes, Helm, Docker, vLLM, Pydantic AI, MCP, Qwen, Llama 3, MLflow, MinIO, GitHub Actions, Python, FastAPI, OpenTelemetry, Honeycomb, PyTorch, Polars, pytest

• Migration zu GCP mit Terraform, GKE und GitOps geleitet und damit die Konsistenz und Skalierbarkeit von Deployments verbessert
• Datadog-Observability-Stack über Terraform und datadog-operator implementiert
• Automatisierte End-to-End-Tests und On-Call-Prozesse eingeführt und dadurch die Reaktion auf Incidents sowie die Service-Zuverlässigkeit verbessert
• Migration vom NGINX Ingress Controller zur Kubernetes Gateway API (NGINX Gateway Fabric)
• Stateful Services (PostgreSQL und Redis) nach GCP migriert und dadurch Skalierbarkeit und operative Zuverlässigkeit verbessert

Backend für KI-Plattform – Senior Developer

Beauftragt, das Backend einer KI-Plattform von Grund auf zu konzipieren und aufzubauen – einschließlich Multi-Provider-LLM-Orchestrierung und Echtzeitinfrastruktur für KI-Influencer-Personas im großen Maßstab.

Aufgaben und Verantwortlichkeiten

• Architektur und Implementierung einer Multi-LLM-Orchestrierungsschicht mit Semantic Kernel zur Integration von GPT-4 und weiteren Anbietern für die zentrale Plattformlogik und KI-Influencer-Personas. Reduzierung des Aufwands beim Modellwechsel durch Abstraktion der Anbieter-APIs hinter einer einheitlichen Schnittstelle.
• Entwurf und Entwicklung eines Backends von Grund auf mit C# / .NET 10, einschließlich Domain-Modellierung mit DDD, versionierter RESTful-API-Schicht und Aufbau der Cloud-Infrastruktur auf Azure.
• Aufbau einer Echtzeit-Chat-Infrastruktur mit Server-Sent Events (SSE), Nachrichtenspeicherung und Zustellgarantien für den Live-Betrieb von KI-Influencer-Personas im großen Maßstab.
• Entwicklung eines Medienverwaltungsdienstes mit Anbindung an Cloud-Objektspeicher für den Upload und Abruf von durch Influencer generierten Inhalten.
• Erstellung einer Integrations- und Unit-Test-Suite mit Daten-Seeding für zuverlässige Regressionstests aller zentralen Plattformabläufe, wodurch die Produktionsfehlerrate deutlich sank.

Werkzeuge und Technologien: C#, .NET, ASP.NET Core, Python, TypeScript, MySQL, Semantic Kernel, EF Core, Minimal APIs, LLM Orchestration, Prompt Engineering, Agentic AI, Generative AI, AI-Assisted Engineering, Claude Code, GitHub Copilot, Google Gemini, OpenAI API, Ollama, Redis, Azure, Azure Container Apps, Azure Database for MySQL, Docker, GitHub Actions, Clean Architecture, Vertical Slice Architecture, CQRS, Domain-Driven Design, REST API, xUnit, Integration Testing, Unit Testing, Jira, Confluence, Scrum

Übertragungsnetzbetreiber – Plattform zur Netzwerkbereitstellung (Teamleitung)

• Entwarf den Saga-Orchestrator in Python, der Netzwerkstrukturen mit Rollback bereitstellt.
• Gliederte IP, Identität und Ressourcenverteilung in Bounded Contexts mit eigenen Datenbanken und typisierten Clients auf.
• Implementierte den Datenzugriff mit DDD-Repositories und Units of Work, ohne SQL im Domänencode.
• Führte Integrationstests mit echten PostgreSQL- und RabbitMQ-Containern sowie API-Fuzzing für jeden Service ein.
• Führte einen Agenten-Workflow ein, bei dem jede Änderung mit einer Spezifikation beginnt und ein Mensch jeden Merge freigibt.
• Rollte die automatische OpenTelemetry-Instrumentierung per GitOps über achtzehn Kubernetes-Cluster aus.
• Leitete die Reaktion auf Vorfälle bei festgefahrener Bereitstellung und hielt jeden Ausfall in einem Post-Mortem fest.

Verwendete Sprachen und Software: Python, FastAPI, Pydantic v2, SQLAlchemy async, PostgreSQL, RabbitMQ, Celery, pytest, testcontainers, schemathesis, Helm, Flux CD, GitLab CI, OpenTelemetry, pi coding agent.

Softwareproduktunternehmen – SaaS für Rechenzentrumssimulation (Backend-Entwicklung)

• Entwickelte als zweitgrößter von mehr als zwanzig Mitwirkenden die asynchrone Simulationspipeline.
• Kennzeichnete jedes Image in den GitHub-Actions-Deploy-Workflows mit Commit-SHA und SemVer.
• Diagnostizierte den RabbitMQ-Speicheralarm, der alle Simulationen zum Stillstand brachte, und korrigierte die Limits im Helm-Chart.
• Stellte die Testsuite auf pytest im Function-Style um und ließ die Testabdeckung in jeder Pipeline ausweisen.

Verwendete Sprachen und Software: Python, FastAPI, SQLAlchemy, Alembic, Celery, RabbitMQ, Redis, PostgreSQL, S3, EKS, Helm, Keycloak, GitHub Actions, pytest, mypy, ruff, SonarQube.

Interne KI-Plattform – Modellbereitstellung und Telemetrie

• Entwickelte den FastAPI-Service, der Open-Weight-Modelle auf GPU-Tiers als OpenAI-kompatible Endpunkte bereitstellt.
• Aktualisierte das EKS-Produktionssystem um zwei Kubernetes-Minor-Versionen und behob zonengebundene Speicherfehler.
• Erfasste jeden Modellaufruf mit Tokenanzahl, Kosten und Latenz über den OpenTelemetry-Operator.

Verwendete Sprachen und Software: Python, FastAPI, vLLM, LangGraph, pydantic-ai, OpenAI- und Anthropic-APIs, EKS, Helm, Flux CD, Terraform, GitLab CI, OpenTelemetry, Grafana.

• Entwicklung und Einführung von Betriebsprozessen
• Erarbeitung vollständiger Dokumentationspakete (inkl. Notfallmanagement und Betriebsführung) zur Einhaltung von Compliance-Vorgaben
• Einführung von Workshops zum Thema IaC (Infrastructure as Code)
• Fachliche Beratung für das Sicherheitskonzept des Projekts (ISMS)
• Installation und Betrieb von Kubernetes-Clustern auf AWS, On-Prem und Azure
• Design einer hybriden Cloud-Architektur (On-Prem, Hetzner, AWS)
• Problemanalyse und -behebung bei Incidents und Systemausfällen
• Netzwerkanpassungen an Firewall-Regeln, Gateways, OpenVPN-Einstellungen und IPsec-Tunneln (pfSense)
• Fachliche Beratung zum Thema BitBucket, Jenkins und GitLab CI/CD Pipelines
• Beratung zum Thema Ansible-Deployments und Infrastrukturautomatisierung
• Beratung beim Aufbau eines skalierbaren Systems in der Cloud (AWS / Azure)
• Technologien / Tools: Ansible, Terraform, AWS, Azure, VPN, pfSense, Jenkins, Bitbucket, Kubernetes, GitLab Runner, ISMS, Golang, Prometheus, Grafana, S3, Lambda, RDS, ECS, Cognito, OIDC, Harbor, MinIO, Postgres, Redis, Keycloak, Ceph, Proxmox, CloudFormation, PostgreSQL, Flux CD, Hetzner, IONOS, Sonatype Nexus Repository, Entra ID, Dex IdP, Pulumi

Unabhängige Engineering-Praxis mit Schwerpunkt auf kundenspezifischen KI-Systemen, produktiver Umsetzung und anteiliger technischer Leitung.

Ausgewähltes Kundenprojekt: Scalutions

• Rolle: Tätigkeit als anteiliger CTO und technischer Leiter mit direkter Entwicklungsverantwortung; verantwortlich für die Architektur und die agentische Infrastruktur hinter dem betreuten B2B-Outbound-Betrieb.

• Produkt: OutboundLoop entworfen und entwickelt, ein agentisches SDR-Betriebssystem für Recherche, Qualifizierung, personalisierte Ansprache, Kampagnenmanagement, menschliche Freigaben, Messung und kontinuierliche Verbesserung.

• Umfang: Verantwortung für den gesamten Systemlebenszyklus – von Geschäftsprozessen und Agentenverhalten über Kontextdesign, Modell-Routing, Integrationen, Evaluierung, Telemetrie, Zuverlässigkeit und Kostenkontrolle bis hin zum Produktivbetrieb.

• MVP-fokussierte Full-Stack-Architektur für einen Kunden im Gesundheitswesen bereitgestellt: Vite/React-Frontend, Backend-Services auf Google Cloud Run und Supabase für Datenbank sowie IAM/Authentifizierung.
• Produktanforderungsanalyse unterstützt und eine kostenoptimierte Workload-Platzierung priorisiert, indem Browser-/Edge-Berechnungen umgesetzt wurden, wo möglich, bevor Logik in die Backend-Services verschoben wurde.

• Tätigkeit als technischer Berater zur Optimierung mehrschichtiger Ensemble-Modelle, die ResNet, CNN-BiGRU-Attention und XGBoost kombinieren.
• Begleitung der Implementierung eines Logistic-Regression-Meta-Learners zur Lösung von Problemen mit unausgeglichenen Klassen; dabei wurden 92.86% Genauigkeit und 0.9644 AUC bei den Datensätzen PTB-XL und Chapman-Shaoxing erreicht.

Aufbau und Betrieb der gesamten Infrastruktur- und Observability-Plattform für eine Plattform zur Bewertung von KI-Agenten auf AWS/Kubernetes. Leitung der Weiterentwicklung einer Cloud-nativen Plattform mit KI-Fokus durch den Aufbau einer durchgängigen Observability, die Automatisierung von Infrastruktur und CI/CD, die Verbesserung von Zuverlässigkeit und Skalierbarkeit, die Optimierung der Leistung durch datengestützte Entwicklung sowie die Arbeit in einem KI-nativen Entwicklungsprozess mit Fokus auf schnelle Iteration, Code-Reviews und Automatisierung. Der Technologie-Stack umfasste Terraform, AWS, Kubernetes, Grafana, Github Actions, Python und Cursor.

• Verwaltung mehrerer Kubernetes-Cluster in der Produktion mit Ceph als Speicherschicht.
• Implementierung von CI/CD-Pipelines zur Automatisierung von Deployments mit Gitlab CI
• Terraform für die Bereitstellung von Infrastruktur.
• Claude Code
• Helm-Charts für Deployments über ArgoCD
• Implementierung automatisierter Pipelines für die Benachrichtigung bei Vorfällen in Kubernetes, um die verpflichtenden 24-Stunden-Frühwarn- und Offenlegungsregeln von NIS2 einzuhalten
• Konfiguration von Azure Policy und Logging-Leitplanken gemäß BSI IT-Grundschutz (SYS.1.3 / OPS.1.1), um die kontinuierliche Einhaltung der Basisanforderungen für mehr als 50 Cloud-Workloads sicherzustellen

Umgebung: Gitlab CI, IONOS Cloud, Ceph, ArgoCD, terraform, Elastic cluster, Grafana, Alert Manager & Prometheus