Platform Engineers in Germany

• Browserbasierte Plattform für die codefreie Bereitstellung und Verwaltung von Kubernetes-Clustern entwickelt
• CLI in Typescript entwickelt, um Ressourcen im Cluster bereitzustellen, ohne die Browser-Oberfläche zu verlassen.
• DevSecOps-Pipelines implementiert: Image-Scanning, SBOM, Richtliniendurchsetzung und Supply-Chain-Sicherheit sowie Kyverno eingesetzt. IAM-Integration für das Befehlszeilen-Tool implementiert.
• Rollen- und Berechtigungsmodelle für Keycloak, oAuth/OIDC und Social-Login-Abläufe entworfen.
• LLM verwendet, um Benutzerabsichten in Diagramme umzuwandeln.
• An der Integration mehrerer Sovereign-Clouds wie stackIt, Hetzner, CIVO und UpCloud sowie öffentlicher Clouds wie AWS, GCP und Azure gearbeitet
• Der Technologie-Stack umfasst Java, SpringBoot, Kubernetes, OpenAI, Kubernetes-Multi-Tenancy mit vCluster, Karpenter, RBAC für CLI, Helm und React

Konzeption, Entwicklung und Markteinführung digitaler Produkte und Plattformen – von der strategischen Ausrichtung über agile Umsetzung bis zum Go-to-Market bzw. Go-Live, Integration von KI in Prozesse und Produkte

Reifung ihrer API-Praktiken sowohl auf Business- als auch auf Technologieebene. Meine Rolle umfasst Strategie, Architektur, Developer Advocacy sowie hands-on Software Engineering und ermöglicht es sowohl technischen Teams als auch dem Business-Management, API-zentrierte Prinzipien effektiv zu übernehmen und anzuwenden. Gleichzeitig etablieren wir mit diesem Projekt auch GitOps, DX und Platform Best Practices.

Highlights:

• Abstimmung mit Executives auf die Initiative durch Klarstellung der Strategie, Ersetzen von Missverständnissen und Mythen durch Fakten, Verdeutlichen des Werts bestehender Assets und Ermöglichen fundierter Entscheidungen
• Entwicklung eines Vorgehens für das API Lifecycle Management bei OTTO
• Vorantreiben des Plattformfortschritts und Förderung des Entwicklerengagements durch hands-on Engineering-Arbeit in Richtung strategischer Ziele

API Lifecycle Management, Team Topologies, Organizational Evolution, Regulatory, Platform Advocate, Developer Platform, Communities of Practice, Terraform, Kotlin, Kafka, Kong, WSO2, Apigee, Gravitee, Backstage, AsyncAPI, OpenAPI, API Design, AWS, React, Node.js, TypeScript, Redocly, Reactive Programming, CDC, Golang, Gin-Gonic, GitOps, DX (Developer Experience), Stakeholder Management, Roadmaps, Workshops, Discovery.

• Verantwortung für Backlog und Roadmap einer produktiven SaaS-Compliance-Plattform zur EU-Entwaldungsverordnung (EUDR) mit rund 30 Kunden auf AWS und Docker.
• Koordination von Feature-Entwicklung und API-Integrationen über 2 externe und die internen Entwicklungsteams.
• API-Integrationen mit der EU-EUDR-API und SAP.
• 70 % weniger von Kunden gemeldete Fehler, Unterstützung der ISO-27001-Zertifizierung.

• Vollständig On-Premises betriebene LLM-Plattform zur Dokumentenprüfung für einen Compliance-kritischen Bankbereich: agentenbasierte LangGraph-Pipeline mit deterministischer Verifizierung, jedes KI-Urteil strukturiert und an die Quelle gebunden; ~960 automatisierte Tests, kein Datenabfluss
• GPU-Durchsatzoptimierung (quantized serving, speculative decoding, prefix caching): 9.5-fache Beschleunigung der Extraktion, 500+ Fallakten mit mehreren Dokumenten pro Tag auf einer einzelnen A100
• KI-native EDI/EDIFACT-Integrationsplattform (~116k LOC Java 25 / Spring Boot 4, 1,900+ Tests): Von LLM erstellte Partnermappings werden vor dem Go-live maschinell verifiziert (DFDL-Konformität, Feldabdeckungsprüfungen, Testläufe), ~99.5% Byte-Übereinstimmung bei echten Kundendateien – ersetzt wochenlange manuelle Zuordnung pro Partner

Multi-Agenten-Plattform zur Dokumentenerstellung

Problem:

Aus einem einzelnen Prompt ein gut recherchiertes, strukturiertes und mit Quellen belegtes Dokument erstellen und dabei die Kontrolle beim Nutzer belassen: Jeder Schritt kann geprüft, korrigiert oder erneut aufgerufen werden, bevor das System fortfährt.

Architektur:

Ein Multi-Agenten-System, das von einer zentralen Steuerung koordiniert wird. Mehr als 20 spezialisierte pydantic-ai-Subagenten (Verstehen, Strukturieren, Planen, Recherchieren, Schreiben, Zusammenstellen, Querverweise prüfen, Glossar, Zitate, Referenztabelle und mehr) geben Ergebnisse anhand eines gemeinsamen, in Postgres gespeicherten Plans (asyncpg) weiter. Eine Runner-Schicht weist jede Aufgabe anhand ihres Namens einem Agenten zu. Mechanische Schritte wie Formatierung, Inhaltsverzeichnis und Abbildungsverzeichnis werden durch deterministischen Code statt durch LLM-Aufrufe erledigt. Der Anbieter (Anthropic oder OpenAI) wird über eine Konfiguration festgelegt, und Antworten werden über Server-Sent Events gestreamt.

Hosting & Infrastruktur:

Ein zustandsloser Container läuft als Scaleway Serverless Container in einem privaten Netzwerk mit verwaltetem PostgreSQL, Objektspeicher für fertige Dokumente und Assets sowie zentraler Protokollübertragung (Loki / Scaleway Cockpit). Bereitstellung mit OpenTofu-Modulen und Deployment über GitLab CI; die Nutzung wird pro API-Schlüssel abgerechnet.

Mein Beitrag und wichtige Entscheidungen:

• Zentrale Entscheidungssteuerung: Ein Zufriedenheitsklassifikator wandelt die Freitext-Rückmeldung des Nutzers in eine Entscheidung um (weiterarbeiten, fortfahren, abbrechen oder eine frühere Aufgabe überarbeiten). Eine Middleware wendet sie auf den Plan an. Der Plan kann zu früheren Aufgaben zurückspringen und die darauffolgenden Schritte erneut ausführen.
• Parallele Recherche und Texterstellung: Die Planung erstellt einen Plan, aus dem ein Recherche-Design-Agent einzelne Rechercheaufgaben und ein Schreib-Design-Agent einzelne Schreibaufgaben erstellt, die jeweils mit der benötigten Recherche verknüpft sind. Jede Aufgabe wird in einem eigenen Agenten mit eigenem Gesprächsverlauf ausgeführt.
• Selbstprüfung und Einbindung des Menschen: Nach jedem Schritt prüft ein Agent für kritisches Denken das Ergebnis. Bevor der Plan fortgesetzt wird, kann der Nutzer eine Kritik annehmen, überarbeiten oder Fragen dazu stellen.
• MCP-Integrationen: Zwei entfernte MCP-Server für die Websuche und die interne Dokumentensuche sind über pydantic-ai angebunden, mit Wiederholungsversuchen und Timeouts für lang laufende Tool-Aufrufe. Klassifikator-Agenten entscheiden für jede Aufgabe, ob eine Websuche nötig ist. Ein kleines Modell fasst rohe Suchergebnisse zu strukturierten Erkenntnissen zusammen, bevor sie die Schreibagenten erreichen.

Nutzungsabrechnung:

Kunden authentifizieren sich mit einem API-Schlüssel, der über einen Schlüsselverwaltungsdienst geprüft wird. Der Verbrauch wird in Credits abgerechnet, berechnet anhand der Token-Nutzung pro Modell zuzüglich eines Aufschlags. Bei ausgeschöpftem Kontingent wird HTTP 429 zurückgegeben.

• Aufbau und Weiterentwicklung einer AWS Landing Zone auf Basis von Terraform / OpenTofu (Multi-Account-Struktur, IAM-Baselines, Netzwerk- und Security-Standards)
• Design und Betrieb plattformorientierter AWS-Architekturen zur Standardisierung von Infrastruktur- und Betriebsprozessen
• Aufbau und Betrieb Kubernetes-basierter Plattformen (EKS) als gemeinsame Ausführungsumgebung für Applikationsteams
• Etablierung von GitOps-basierten Deployments mit Argo CD und FluxCD
• Entwicklung und Betrieb zentraler CI/CD-Plattformen (GitLab CI, GitHub Actions, Jenkins)
• Enablement von Entwickler- und Projektteams durch wiederverwendbare Plattform-Bausteine
• Einführung und Umsetzung von FinOps-Strukturen (AWS Cost Explorer, CUR + Athena, Infracost, Grafana-Dashboards)
• Aufbau und Betrieb zentraler Observability-Plattformen (Prometheus, Grafana, Loki, Alertmanager, CloudWatch)

• Fehleranalyse und -bereinigung inkl. Performance-Optimierung der eigenentwickelten Plattform API
• Change- und Incidentmanagement im Tagesbetrieb
• Verantwortlich für Einhaltung Security- und Compliancevorgaben
• Dienstleistersteuerung für Software-Entwicklung und -Wartung
• Planung und Durchführung Migration Legacy Services auf Cloud Native Plattform

Rolle im Projekt: Projektmitarbeiter Umsetzungsteam

Eingesetzte Skills: Anforderungsanalyse, IT-Service- und Anwendungsmanagement, IT-Betrieb, Fehleranalyse und Performance-Optimierung, Software-Wartung und Lifecyclemanagement

Projektumgebung: Cloud Native Platform (Kubernetes, Crossplane, AWS, ArgoCD, Grafana)

Konzeption und Entwicklung einer Azure-basierten KI- und Datenplattform, die verteilte Projektdokumente in durchsuchbares, strukturiertes Wissen für einen Enterprise-KI-Assistenten überführt. Kombination aus inkrementeller Dokumentverarbeitung, hybrider Keyword-/Vektorsuche, Wissensgraph-Extraktion und konversationeller KI für Microsoft Teams und Microsoft 365 Copilot. Implementierung von Python-Pipelines zur Verarbeitung von PDF-, Word-, Outlook- und Textdateien; Lifecycle-Management für Azure Cosmos DB; Azure AI Search; Azure AI Foundry und Azure OpenAI; identitätsbewusste Suche mit Microsoft Entra ID; Projektberechtigungen; eines TypeScript-Agenten mit Microsoft Agents SDK; Pulumi-Infrastruktur; robustem Scheduling sowie Werkzeugen für Wiederholungen und Diagnosen. Technologie-Stack: Python, TypeScript, FastAPI, Pydantic, Azure AI Foundry, Azure OpenAI, Azure AI Search, Azure Cosmos DB, Blob/Table Storage, Container Apps/Jobs, Service Bus, Key Vault, Entra ID, Docker, Pulumi, pytest, Microsoft Teams und Microsoft 365 Copilot.

• Entwurf verwalteter Kubernetes-Plattformen für mehr als 150 Unternehmenskunden aus den Bereichen Energie, Logistik, Automobil und öffentlicher Sektor.
• OCaaS entworfen: Kubernetes-native, mandantenfähige SaaS für KI-Assistenten mit Isolierung pro Mandant und Namespace, zweistufiger LLM-Inferenz und automatisierter Verwaltung des Mandantenlebenszyklus.
• Chronos entworfen, Kafka as a Service auf Strimzi mit hybrider Mandantenstruktur (gemeinsam genutzte und dedizierte Stufen); den Plattform-RFC verfasst.
• Multi-Cluster-GitOps aufgebaut (Flux CD, Helm, Kustomize); Änderungen werden auf kurzlebigen k3d-Clustern mit Renovate + GitLab CI und automatischem Merge validiert.
• Argus konzipiert: korrelierte OTeI-Traces, Logs und Metriken (LGTM-Stack).
• Geheimnisse von HashiCorp Vault zu OpenBao migriert; Kyverno-Policy-Framework für RBAC-Automatisierung und die Synchronisierung von Geheimnissen über Namespaces hinweg.
• Salar aufgebaut: Node-Patching und Cluster-Upgrades mit Uyuni + SaltStack.
• Plattform-Storage mit Ceph und SeaweedFS; Objektspeicher von MinIO migriert.
• Kundenprojekte: OTeI-Observability und Datadog SAML für ein globales Kulturinstitut; Reaktion auf Galera/PXC-Vorfälle bei einem SaaS-Anbieter.

Aufbau und Betrieb der gesamten Infrastruktur- und Observability-Plattform für eine Plattform zur Bewertung von KI-Agenten auf AWS/Kubernetes. Leitung der Weiterentwicklung einer Cloud-nativen Plattform mit KI-Fokus durch den Aufbau einer durchgängigen Observability, die Automatisierung von Infrastruktur und CI/CD, die Verbesserung von Zuverlässigkeit und Skalierbarkeit, die Optimierung der Leistung durch datengestützte Entwicklung sowie die Arbeit in einem KI-nativen Entwicklungsprozess mit Fokus auf schnelle Iteration, Code-Reviews und Automatisierung. Der Technologie-Stack umfasste Terraform, AWS, Kubernetes, Grafana, Github Actions, Python und Cursor.

Projekt: Digitalisierung von Lagerprozessen | Aufbau einer Data-Analytics-Plattform.

• Entwickelte ein webbasiertes System zur Einsatzplanung, das die tägliche Schichtplanung digitalisierte, indem es Mitarbeitenden-Know-how passenden Lagerbereichen zuordnete. Dadurch wurde die manuelle Abstimmung durch einen strukturierten Workflow ersetzt, der im ganzen Standort genutzt wurde und den Führungskräften Zeit bei der täglichen Planung sparte.
• Entwickelte ein Dashboard für die operative Echtzeitübersicht, das Führungskräften den aktuellen Durchsatz der Aufgaben und die offene Arbeitslast in den Lagerbereichen über den Tag hinweg live anzeigte und so half, Überstunden und Leerlaufkosten zu senken.
• Entwickelte eine Optimierungslösung für das Slotting, um die Effizienz beim Kommissionieren zu verbessern und die Kommissionierzeit pro Bestellung zu senken, in enger Zusammenarbeit mit den Operations-Teams vom Konzept bis zum produktiven Einsatz.

Verwendete Technologien: Python, Django, PostgreSQL, Pandas, NumPy, HTML, Java, JavaScript, Docker, Kubernetes, AWS, Power BI, GitHub Actions CI/CD, GitOps, Claude, OpenAI

Manufacturing-Intelligence-Plattform mit Enterprise-Workflows, RAG, Echtzeit-Funktionen für AI-Assistenten und Backend-Architektur über mehrere Repositories.

• Entwickelte und erweiterte produktive AI-/Backend-Services mit Django, DRF, FastAPI, GraphQL, Celery, PostgreSQL, MySQL, Redis und WebSockets über eine modulare Plattform mit mehreren Repositories.
• Mitgewirkt an ARIS V2, einem Echtzeit-AI-Assistenten für die Fertigung mit LangChain, LangGraph, MCP-Tool-Orchestrierung, Planungs-/Ausführungs-Workflows, OpenAI, AWS Bedrock, Qdrant sowie Retrieval auf Basis von Elasticsearch/OpenSearch.
• Unterstützte die Rollout-Erweiterung von ARIS V1 in 4 von 17 Kunden-Produktionswerken auf ARIS V2, das aktuell in 13 von 17 Werken aktiv ist, und steigerte so die reale Abdeckung auf mehr als 50 % der Kundenumgebung.
• Arbeitete an dokumentengestützter RAG-Funktionalität inklusive Ingestion, OCR, Chunking, Embeddings, Indexing, Retrieval, Reranking und geerdeter Antwortgenerierung für industrielle Workflows.

Stack: Python, Django, DRF, FastAPI, LangChain, LangGraph, GraphQL, Celery, WebSockets, OpenAI, AWS Bedrock, Qdrant, Elasticsearch/OpenSearch, PostgreSQL, MySQL, Redis, Docker.

• Mentor eines Teams aus 6 ML-Platform-Engineers durch wöchentliche 1:1s, technische Design-Reviews und Best Practices; Verbesserung der Team-Produktivität um 35% durch strukturierte Sprint-Planung und Programme zur Skill-Entwicklung
• Definition der ML-Plattform-Roadmap 2025–2026 in Zusammenarbeit mit Data Science, Cloud Engineering und Product Teams; Priorisierung von automatisierter Model Governance, Cost-Attribution-Systemen und Multi-Environment-Deployment-Strategien
• Zusammenarbeit mit Stakeholdern aus Data Science, SRE und Product, um die Fähigkeiten der ML-Plattform mit den Geschäftszielen abzustimmen; Reduktion der Deployment-Hürden für Data Scientists um 60% durch Self-Service-Plattformen
• Architektur und Lieferung einer produktionsreifen MLOps-Plattform für 50+ Modelle in Produktion mit automatisierten Promotion-Pipelines, Versionierung und Rollback-Funktionen; Erreichung eines SLA von 99,5% Plattform-Uptime
• Design einer verteilten ML-Pipeline-Architektur mit Metaflow und Argo Workflows (Vertex Pipelines-kompatibel); Verkürzung der Modell-Trainingszeit um 30% und der Deployment-Zyklen von 2 Wochen auf 3 Tage durch vollständige CI/CD-Automatisierung
• Aufbau containerisierter ML-Services auf Kubernetes mit Auto-Scaling-Policies, Resource Quotas und Multi-Tenancy-Isolation; Optimierung der Infrastrukturkosten um 180K $ pro Jahr (25% Reduktion)
• Implementierung von Monitoring, Alerting und Performance-Tracking mit Prometheus, Grafana und Custom Instrumentation; Reduktion der Debugging-Zeit für Modelle um 50% und Einführung von SLOs für die Modell-Performance
• Leitung der Entwicklung einer RAG-basierten Document-Intelligence-Plattform mit LangChain, LangGraph und Vektor-Datenbanken; Implementierung von Agentic-AI-Workflows für die automatisierte Verarbeitung von Finanzdokumenten
• Implementierung von Infrastructure-as-Code mit Terraform für reproduzierbare Umgebungseinrichtung und GitOps-Workflows; Reduktion von Infrastruktur-Drift-Vorfällen um 80%
• Design von rollenbasiertem Zugriff für die ML-Plattform, Implementierung von Model-Lineage-Tracking und Aufbau von Audit Trails für regulatorische Compliance nach Enterprise-IAM-Best Practices