Stream Processing Experten in Deutschland

• Aufbau, Implementierung und Vertrieb von automatisierten Data-Science-Lösungen wie Scorecard Factory und Prognose Factory
• Implementierung automatisierter End-to-End-Cloud-Prozesse
• Entwicklung von LLM- und NLP-Modellen
• Erstellung interaktiver Reports
• Betreuung nationaler und internationaler Großkonzerne sowie mittelständischer Firmen bei der Implementierung von ML-Projekten

In meiner Rolle als Senior Cloud DevOps Architect bei BP, einem Öl- und Gasunternehmen, hatte ich die Aufgabe, die Plattform für das Laden von Elektrofahrzeugen der EV Division von On-Premises und Azure in die AWS-Cloud zu migrieren, was zu einer hybriden Multi-Cloud-, Multi-Tenant-SaaS-Lösung führte.

Der Einsatz von Kubernetes für die Anwendungsebene bedeutete die Bereitstellung von Kubernetes-Clusters, die von EKS und AKS verwaltet wurden, mit Fokus auf die Integration in eine Multi-Tenant-Umgebung. Diese Integration wurde durch den Einsatz von Kubernetes-Namespace und Zugriffskontrollen erreicht, um Datenisolation und Datenschutz sicherzustellen.

Auf der Datenbankebene entschieden wir uns für eine RDS-Instanz mit PostgreSQL zur Unterstützung der Backend-Infrastruktur unserer Anwendungen. Die Mandanten teilten sich dieselbe RDS-Instanz, hatten aber jeweils ein eigenes Schema.

Um nahezu in Echtzeit Daten von physischen Ladestationen (CPOs) als IoT-Geräte über das OCPI-Protokoll aufzunehmen, stießen wir bei der Batch-Verarbeitung auf erhebliche Verzögerungen. Daher entwickelten wir eine Streaming-Datenpipeline in Echtzeit mit Apache Kafka und setzten dabei auf eine eventgetriebene Architektur.

Ich leitete die Zusammenarbeit über mehrere interne Teams, externe Anbieter, Cloud-Provider und Partner vor Ort hinweg, um über fünf Systeme in eine einheitliche Lösung zu integrieren.

Erfolge:

• Erfolgreich hybride Multi-Cloud-Lösungen entworfen und umgesetzt, die mehrere Cloud-Plattformen (AWS, Azure) mit On-Premises-Infrastruktur unter Einsatz von Site-to-Site-VPNs, Firewalls und Load Balancing integrierten.
• Die Migration der On-Premises-Infrastruktur zu einer Multi-Cloud-, Multi-Tenant-Infrastruktur geleitet, was zu 30 % schnelleren Verarbeitungszeiten führte.
• Workloads aus VMware- und Hyper-V-Umgebungen auf cloudbasierte VMs migriert und dabei Cloud-native Services genutzt, um Leistung, Kosteneffizienz und Skalierbarkeit zu optimieren.
• Eine Multi-Tenant-Kubernetes-Plattform entworfen, die das Kubernetes-Ökosystem nutzt, mit Karpenter für die dynamische Bereitstellung von EC2-Nodes, KEDA für eventgesteuertes Pod-Autoscaling (z. B. Kafka-Message-Lag) und Rancher für das zentrale Monitoring mehrerer Cluster (EKS, AKS oder On-Prem K8s), als Ersatz für den Microsoft-zentrierten Azure-Arc-Management-Service.
• Python-basierte FastAPI-Microservices als Teil des EV-Core-Backends auf der AWS-EKS-Anwendungsebene entworfen und umgesetzt, die Datenaufnahme- und Kundenanalyse-Pipelines antreiben.
• Asynchrone, eventgetriebene APIs (Python-FastAPI) für die Echtzeit-Integration mit CPOs entwickelt, mit Unterstützung für OCPI 2.3 und OICP-Protokolle.
• Eine sichere, produktionsreife Azure-Databricks-Plattform mit Terraform entworfen und umgesetzt und dabei Skalierbarkeit und Kosteneffizienz sichergestellt.
• On-Premises-ERP auf eine hybride Dynamics-365-Architektur migriert, mit ERP lokal gehostet und CRM in Azure betrieben, integriert über Azure Arc.
• CI/CD-Pipelines für Databricks-Notebooks und Jobs mit GitHub Actions und Databricks CLI automatisiert, wodurch die Bereitstellungszeit reduziert wurde. Die Bereitstellungszeit für Infrastruktur durch Automatisierung der Cloud-Ressourcenbereitstellung mit GitOps um 70 % reduziert.
• Die Einhaltung interner Audit- und Data-Governance-Standards (GDPR) durch OAuth2/OIDC-basierte Authentifizierung und fein abgestufte rollenbasierte Zugriffskontrollen sichergestellt.
• Ein Zero-Trust-Sicherheitsmodell entwickelt, das Least-Privilege-Zugriffe und Mikrosegmentierung durchsetzt und die Sicherheitslage sowie die Compliance mit GDPR und NIST verbessert.
• Interaktive Analytics-Dashboards in Amazon QuickSight erstellt, die Daten aus S3 und Redshift integrieren, um Echtzeit-Business-Insights und Visualisierungen mit eingebettetem Zugriff für Multi-Tenant-Nutzer bereitzustellen.
• Cloud-Sicherheitsbewertungen und eine Sicherheitsintegration über den gesamten Lebenszyklus während M&A geleitet, einschließlich AWS, Azure, IAM (Entra ID) und Datenschutz, und dabei die Sicherheitslage mit NIST, ISO 27001 und GDPR über hybride und cloud-native Umgebungen hinweg ausgerichtet.
• Die Cloud-Kosten für eine Dev-Umgebung eines Kunden um 64 % gesenkt, indem automatisierte Start-/Stopp-Zeitpläne für EC2- und RDS-Instanzen über AWS CDK mit EventBridge Scheduler oder AWS Systems Manager implementiert wurden.

Tech-Stack:

• Infrastructure as Code: Terraform, AWS CDK, Ansible.
• Container: Kubernetes auf EKS, AKS, Docker.
• Streaming-Datenverarbeitung: Kafka zu Confluent Cloud, nach AWS MSK.
• Frontend: TypeScript, React, NextJS, Hooks, Styled Components.
• Backend: Python mit FastAPI, außerdem Node.js mit NestJS.
• Datenbank: Aurora auf PostgreSQL mit TypeORM, RDS auf SQL Server, vollständiges Setup und Administration von Azure Databricks, ETL-Pipelines.
• CI/CD und GitOps: GitHub Actions, Azure DevOps, ArgoCD.
• Monitoring und Observability: Prometheus und Grafana.
• Virtualisierung: Hyper-V, VMware Cloud on AWS, Azure Migrate.
• ERP-Systeme: Odoo, Microsoft Dynamics 365 Business Central auf Azure, integriert mit Azure Arc.
• Netzwerke: Site-to-Site-VPNs, AWS Direct Connect, Azure ExpressRoute, Firewalls (AWS Network Firewall, Azure Firewall).
• Sicherheit: IAM, NIST Framework, Zero-Trust-Sicherheit, AWS WAF, AWS Shield, GuardDuty.

• End-to-end-Datenpipelines (Batch & Streaming) mit Python, SQL und Apache Spark sowie Databricks auf AWS entworfen und umgesetzt und dabei die ETL-Latenz um 40 % reduziert.
• Serverless, ereignisgesteuerte Ingestion-Pipelines mit AWS Lambda und SQS entwickelt und so die Echtzeitverfügbarkeit der Daten für nachgelagerte Analysen sichergestellt.
• Google Cloud Platform (GCP)-Services wie BigQuery und Dataflow genutzt, um Cloud-übergreifende Data-Warehousing- und Analytics-Integrationen zu steuern.
• Erfahrung mit DMS (CDC, Full Load) und Airflow für skalierbare Automatisierung und Orchestrierung von Datenpipelines.
• Datenpipelines mit Databricks und Airflow verwaltet und angepasst. Automatisierung mit Docker, Kubernetes und Terraform.
• Datenqualitätsprüfungen mit dbt automatisiert, um Transformationen zu modularisieren und eine produktionsreife Data Lineage sicherzustellen, wodurch die Zuverlässigkeit um 30 % verbessert wurde.
• Mit Compliance-Teams zusammengearbeitet, um die Einhaltung von GDPR und SOC2 sicherzustellen. Junior Engineers betreut und bei der Refaktorierung der Architektur für mehr Skalierbarkeit mitgewirkt.
• Dashboards in Power BI erstellt und gepflegt, um umsetzbare Einblicke zu liefern.

• Leitung der Engineering-Umsetzung: Roadmap-Planung, Kapazitätsabstimmung, Risikomanagement, Abhängigkeiten und Lieferverfolgung.
• Konsolidierung mehrerer Gehaltsabrechnungs-Produktlinien zu einer einheitlichen SaaS-Plattform auf Dynamics 365 Business Central, was skalierbare Post-Merger-Operationen ermöglichte und die betriebliche Komplexität im Portfolio verringerte.
• Umstrukturierung der Engineering- und Produktteams in einer Remote-First-Umgebung in Deutschland, Österreich und Polen, bestehend aus fünf funktionsübergreifenden Einheiten: Compliance/Enabling, Plattform, DevOps und zwei Stream-Aligned-Teams mit wechselnder Gesamt-FTE je nach Phase der Reorganisation.
• Wiederaufbau der mittleren Führungsebene und Mentoring von Engineering-Führenden, Aufbau einer Führungspipeline und Stärkung der architekturellen Entscheidungsfindung in den Teams für skalierbares Wachstum, Lieferverantwortung und Planbarkeit.
• Gestaltung der Plattformgrundlagen und Systemgrenzen mithilfe von Team-Topologies-gerechten Strukturen, wodurch skalierbare Verantwortungsbereiche, klare Schnittstellen und parallele Entwicklung in verteilten Teams ermöglicht wurden.
• Vorangetrieben der KI-Transformation durch Implementierung KI-unterstützter SDLC-Praktiken mit SpecKit und GitHub Actions für automatisierte, ausführbare Spezifikationen und Bereitstellung agentischer Produktfunktionen durch sichere Offenlegung von Plattformdaten und -diensten an KI-Agenten und Copilots über RAG-basierte Retrieval-Pipelines und MCP-ähnliche Erweiterungen.
• Förderung der Modularisierung stark gekoppelter Legacy-Logik in unabhängig bereitstellbare Services, Verbesserung der Wartbarkeit, Testbarkeit und architektonischen Klarheit bei gleichzeitiger Erhaltung der Kontinuität durch gezielte, risikoarme Extraktion anstelle kompletter Neuentwicklungen.
• Etablierung von Observability, CI/CD und DevOps-Governance als Plattformfunktionen, Erhöhung automatisierter Compliance-Gates von 25 % auf 75 % und Verbesserung der Deployment-Cadence um 40 % über mehr als 15 Produktversionen.
• Verbesserung der operativen Resilienz durch DORA-konforme Praktiken (Lead Time ↓50 %, SaaS MTTR ↓85 %), Stärkung der Zuverlässigkeit und Reduzierung des Support-Aufwands.
• Koordination der technischen Wiederherstellung der deutschen Gehaltsabrechnungsplattform während eines unternehmensweiten P0-Ransomware-Vorfalls; Wiederherstellung der Plattform-Kontinuität innerhalb von 72 Stunden, Validierung der Datenintegrität und Einführung gehärteter Runbooks und automatisierter Recovery-Playbooks.
• Verantwortlich für Budgeteinhaltung und Kostenkontrolle im Engineering, mit begrenzter P&L-Verantwortung und Beteiligung am jährlichen COGS/OPEX/CAPEX-Planungszyklus.

• Lead Developer / Tech Lead in einem großen Bankenverbund zur kompletten Neuentwicklung der Zahlungsverkehrssysteme
• Umbau des Zahlungsverkehrs im Streamprocessing
• Entwicklung und Konzeption des Streamprocessings des Auslandszahlungsverkehrs auf Basis von Kafka und Kafka Streams
• Entwicklung unterschiedlicher Inputformate für den Fachbereich mittels Drools-Regeln zur dynamischen Anpassung von Validierungsregeln
• Bewertung und Vergleich verschiedener Public-Cloud-Anbieter hinsichtlich der angebotenen Datenbanken
• Technologien & Tools: Java 21, Kotlin, Spring Boot, Kafka, Kubernetes, Azure, TDD, JEE, REST, Angular, Spark, Google Cloud, SCDF, PostgreSQL, Drools, Git, S3, MongoDB

• Test-Management/Koordination und Defect Management zum Prozess des dezentralen Einspeiseprozess (Meter2Cash-Prozesses)
• Testkonzeption und Erstellung von Testfällen, Test Execution und Testplänen
• Defect-Voranalyse und Dispachen