Load Balancing Experten in München

In meiner Rolle als Senior Cloud DevOps Architect bei BP, einem Öl- und Gasunternehmen, hatte ich die Aufgabe, die Plattform für das Laden von Elektrofahrzeugen der EV Division von On-Premises und Azure in die AWS-Cloud zu migrieren, was zu einer hybriden Multi-Cloud-, Multi-Tenant-SaaS-Lösung führte.

Der Einsatz von Kubernetes für die Anwendungsebene bedeutete die Bereitstellung von Kubernetes-Clusters, die von EKS und AKS verwaltet wurden, mit Fokus auf die Integration in eine Multi-Tenant-Umgebung. Diese Integration wurde durch den Einsatz von Kubernetes-Namespace und Zugriffskontrollen erreicht, um Datenisolation und Datenschutz sicherzustellen.

Auf der Datenbankebene entschieden wir uns für eine RDS-Instanz mit PostgreSQL zur Unterstützung der Backend-Infrastruktur unserer Anwendungen. Die Mandanten teilten sich dieselbe RDS-Instanz, hatten aber jeweils ein eigenes Schema.

Um nahezu in Echtzeit Daten von physischen Ladestationen (CPOs) als IoT-Geräte über das OCPI-Protokoll aufzunehmen, stießen wir bei der Batch-Verarbeitung auf erhebliche Verzögerungen. Daher entwickelten wir eine Streaming-Datenpipeline in Echtzeit mit Apache Kafka und setzten dabei auf eine eventgetriebene Architektur.

Ich leitete die Zusammenarbeit über mehrere interne Teams, externe Anbieter, Cloud-Provider und Partner vor Ort hinweg, um über fünf Systeme in eine einheitliche Lösung zu integrieren.

Erfolge:

• Erfolgreich hybride Multi-Cloud-Lösungen entworfen und umgesetzt, die mehrere Cloud-Plattformen (AWS, Azure) mit On-Premises-Infrastruktur unter Einsatz von Site-to-Site-VPNs, Firewalls und Load Balancing integrierten.
• Die Migration der On-Premises-Infrastruktur zu einer Multi-Cloud-, Multi-Tenant-Infrastruktur geleitet, was zu 30 % schnelleren Verarbeitungszeiten führte.
• Workloads aus VMware- und Hyper-V-Umgebungen auf cloudbasierte VMs migriert und dabei Cloud-native Services genutzt, um Leistung, Kosteneffizienz und Skalierbarkeit zu optimieren.
• Eine Multi-Tenant-Kubernetes-Plattform entworfen, die das Kubernetes-Ökosystem nutzt, mit Karpenter für die dynamische Bereitstellung von EC2-Nodes, KEDA für eventgesteuertes Pod-Autoscaling (z. B. Kafka-Message-Lag) und Rancher für das zentrale Monitoring mehrerer Cluster (EKS, AKS oder On-Prem K8s), als Ersatz für den Microsoft-zentrierten Azure-Arc-Management-Service.
• Python-basierte FastAPI-Microservices als Teil des EV-Core-Backends auf der AWS-EKS-Anwendungsebene entworfen und umgesetzt, die Datenaufnahme- und Kundenanalyse-Pipelines antreiben.
• Asynchrone, eventgetriebene APIs (Python-FastAPI) für die Echtzeit-Integration mit CPOs entwickelt, mit Unterstützung für OCPI 2.3 und OICP-Protokolle.
• Eine sichere, produktionsreife Azure-Databricks-Plattform mit Terraform entworfen und umgesetzt und dabei Skalierbarkeit und Kosteneffizienz sichergestellt.
• On-Premises-ERP auf eine hybride Dynamics-365-Architektur migriert, mit ERP lokal gehostet und CRM in Azure betrieben, integriert über Azure Arc.
• CI/CD-Pipelines für Databricks-Notebooks und Jobs mit GitHub Actions und Databricks CLI automatisiert, wodurch die Bereitstellungszeit reduziert wurde. Die Bereitstellungszeit für Infrastruktur durch Automatisierung der Cloud-Ressourcenbereitstellung mit GitOps um 70 % reduziert.
• Die Einhaltung interner Audit- und Data-Governance-Standards (GDPR) durch OAuth2/OIDC-basierte Authentifizierung und fein abgestufte rollenbasierte Zugriffskontrollen sichergestellt.
• Ein Zero-Trust-Sicherheitsmodell entwickelt, das Least-Privilege-Zugriffe und Mikrosegmentierung durchsetzt und die Sicherheitslage sowie die Compliance mit GDPR und NIST verbessert.
• Interaktive Analytics-Dashboards in Amazon QuickSight erstellt, die Daten aus S3 und Redshift integrieren, um Echtzeit-Business-Insights und Visualisierungen mit eingebettetem Zugriff für Multi-Tenant-Nutzer bereitzustellen.
• Cloud-Sicherheitsbewertungen und eine Sicherheitsintegration über den gesamten Lebenszyklus während M&A geleitet, einschließlich AWS, Azure, IAM (Entra ID) und Datenschutz, und dabei die Sicherheitslage mit NIST, ISO 27001 und GDPR über hybride und cloud-native Umgebungen hinweg ausgerichtet.
• Die Cloud-Kosten für eine Dev-Umgebung eines Kunden um 64 % gesenkt, indem automatisierte Start-/Stopp-Zeitpläne für EC2- und RDS-Instanzen über AWS CDK mit EventBridge Scheduler oder AWS Systems Manager implementiert wurden.

Tech-Stack:

• Infrastructure as Code: Terraform, AWS CDK, Ansible.
• Container: Kubernetes auf EKS, AKS, Docker.
• Streaming-Datenverarbeitung: Kafka zu Confluent Cloud, nach AWS MSK.
• Frontend: TypeScript, React, NextJS, Hooks, Styled Components.
• Backend: Python mit FastAPI, außerdem Node.js mit NestJS.
• Datenbank: Aurora auf PostgreSQL mit TypeORM, RDS auf SQL Server, vollständiges Setup und Administration von Azure Databricks, ETL-Pipelines.
• CI/CD und GitOps: GitHub Actions, Azure DevOps, ArgoCD.
• Monitoring und Observability: Prometheus und Grafana.
• Virtualisierung: Hyper-V, VMware Cloud on AWS, Azure Migrate.
• ERP-Systeme: Odoo, Microsoft Dynamics 365 Business Central auf Azure, integriert mit Azure Arc.
• Netzwerke: Site-to-Site-VPNs, AWS Direct Connect, Azure ExpressRoute, Firewalls (AWS Network Firewall, Azure Firewall).
• Sicherheit: IAM, NIST Framework, Zero-Trust-Sicherheit, AWS WAF, AWS Shield, GuardDuty.

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

• Es handelt sich um ein Startup innerhalb von REWE, in dem wir ein neues Prognosesystem auf der Google Cloud Platform von Grund auf aufbauen müssen. Obwohl meine offizielle Rolle MLOps heißt, umfassen meine tatsächlichen Aufgaben auch die Entwicklung von Datenverarbeitungspipelines (Data Engineering) und Aufgaben eines Data Scientists wie Feature Engineering und Modelltraining.
• GCP: Terraform (tofu), Vertex AI (Kubeflow), Cloud Run, IAM, Google Cloud Storage, BigQuery, Artifact Registry
• Data Engineering: Snowflake als zentrales Data Warehouse, Terraform, DBT zur Implementierung von Datenmodellen
• CI/CD: GitLab. Wir haben eine CI/CD-Pipeline entwickelt, die die Bereitstellung neuer Releases bis in die Produktionsumgebung automatisiert.
• Entwicklung eines Feature Stores und Datensynchronisierung zwischen Umgebungen
• Data Science: Bewertung verschiedener Prognosemodelle, darunter CatBoost, Contextual Gamma und Random Forest; Implementierung von Trainingspipelines mit Kubeflow auf Vertex AI; Skalierung und Entwicklung einer ereignisgesteuerten Schnittstelle mit Kafka als Prognoseservice; Bewertung von MLFlow für Modellverfolgung und Modellregister
• Implementierung einer REST-API mit KeyCloak OAuth2 und OpenID (JWT)
• Monitoring: Implementierung von Dashboards mit Grafana, Prometheus, Mimir, Streamlit und Loki zur Überwachung von Prognosemetriken, GCP- und Snowflake-Kosten für Pipelines sowie Systemmetriken
• Entwicklung von Copilot Agent Skills

• Gesamtverantwortung für den Projektlebenszyklus von der Umfangsdefinition bis zum Abschluss
• Enge Zusammenarbeit mit Plattform-Teams, IT-Führungskräften und externen Dienstleistern
• Anwendung von SAFe-Prinzipien und strukturierte Sprint-Arbeit
• Erstellung eines Migrationsfahrplans mit klaren Meilensteinen
• Überwachung des Lifecycles: Onboarding, Repository-Migration, Replikation von Berechtigungen und Systemtests
• Visualisierung der Architektur mit PlantUML und Gliffy sowie Dokumentation in Confluence
• Regelmäßige Statusberichte und Durchführung von Wissenstransfer-Sessions

• Bedarfserfassung
• Budgetplanung und dessen Überwachung
• Terminplanung und Tracking der Einhaltung
• Berechtigungskonzept überarbeiten
• Steuerung der externen Dienstleister
• Qualitätssicherung
• Übergabe an den Betrieb

• Pentest von Mobile Anwendungen
• Code Review
• Gematik Audit
• Entwicklung von Secure Software Development Methoden
• Erstellung von Sicherheits- und Testkonzept
• Penetration Testing von Software und Architektur
• Analyse der Schwachstellen
• Automatisierung und Informationssicherheit
• Einsatz von Confluence und Jira
• Arbeit mit Datenbanken, J2EE, JavaServer Faces, Liquibase, Apache, Maven, Mercurial, Oracle Financials
• Dokumentation und Erstellung von Sicherheitsrichtlinien
• Verwaltung von Software Systemen, SharePoint, PrimeFaces, Git
• Einhaltung von Sicherheitsbestimmungen und .NET, AWS, API
• Tools: MobSF, Frida, Android Studio, Drozer, Objection, Azure

• Implementierung von CyberArk OnPremise
• BSI-Grundschutz (hoher Schutzbedarf)
• Breaking-Class-Strategie
• IdP / Identity-Strategie / PIM
• Technologien: PAM, CyberArk OnPremise, KeyCloak

• Applikationssupport für den E-Commerce-Auftritt der Netto Online Supermärkte [link]
• Webshop läuft mit PIM, ERP und Diva-Software – Microsoft Dynamics Business Central
• ITIL Incident-, Change- und Problemmanagement
• Diva-Komponenten sind ERP, CRM, OMS, LVS und POS
• Entgegennahme, Bearbeitung und ggf. Weiterleitung von Hilfeanfragen der User
• Fehleranalyse und Support mit Lösungskompetenz und Lösungsfindung
• Monitoring/Orchestrierung der einzelnen Systeme
• Zusammenarbeit im Tagesbetrieb mit externen Dienstleistern und der Entwicklung
• User Management und Second-Level-Support-Aktivitäten
• Logging der Systeme/Wartung der externen Schnittstellen
• Administration der Applikation mit Jira und Confluence in QS und Produktionsumgebung
• Technik: Windows Server 2008, Linux-Server, MS SQL Server

• Plattform: Python-Ökosystem, RHEL 8, K10, AWS IoT Core, AWS Lambda, MLOps
• Software: Java JEE/Cloud, IntelliJ IDEA, AWS IoT Core, AWS Edge und Lambda, AWS SageMaker SDK, Docker Compose, Kubernetes, Openshift 4, Tekton, Flux, Helm Charts, JSON/XML-Technologien, Nginx, Apache Spark, OpenAI (GPT Plus, DALL-E 3, Whisper), GAN, GitHub Copilot, KI, Machine Learning, Deep Learning, Jupyter Notebooks, TensorFlow 2, Colab, Keras API, Prometheus, Grafana, Conda, Python 3.9, SciPy-Stack (NumPy, pandas, scikit-learn, matplotlib)
• Zuständig für Webinar:
• IoT Edge Computing, Architektur, Komponenten, Ressourcen, Management
• IoT Edge Computing mit MicroK8s, Design und Erstellung von Flows/Diagrammen für AWS, Three-Step-Modell für IoT-Ökosystem
• IoT-Prozesse, Konnektivität, Datentransfer und Deployment, Sicherheit
• Optimierung des Edge Computing für Netzwerke, Services im IoT (AWS SQS Queue, SNS-Benachrichtigungen, Events, Analytics, Button, Device Management/Defender, Things Graph)
• Machine-/Deep-Learning-Frameworks (Modelle, Training, Optimierung der Pipelines, Deployment in der Cloud/am Edge, Monitoring der Workloads mit Prometheus und Grafana)
• Performance-Optimierung für niedrige Latenz/Resilienz mittels adaptiver ML/DL/RL-Modelle für Kundendaten aus dem IoT
• Analyse großer Sensordatenmengen mit Apache Spark, Kafka-Clustern
• Kasten K10 Data Management Platform auf Kubernetes-Multi-Cluster mit Helm Chart: Deployment, Backup/Disaster Recovery (RTO/RPO), Data Lifecycle und Security Management
• Implementierung eines mehrschichtigen neuronalen Netzes (ANN) mit TensorFlow 2 und Colab für Regression und Klassifikation; Datenanalyse und Aufbereitung für Applikationen; Entwicklung von Test- und Trainingsmodellen; Deployment der Modelle
• Automatisierung von Business-Streamline-Prozessen mit KI (Azure OpenAI, Discord-Bots/Zapier, AI-Assistenten-Apps IntelliJ, GitHub Copilot)