AWS Lambda Experten in München

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

In meiner Rolle als Senior Cloud DevOps Architect bei BP, einem Öl- und Gasunternehmen, hatte ich die Aufgabe, die Plattform für das Laden von Elektrofahrzeugen der EV Division von On-Premises und Azure in die AWS-Cloud zu migrieren, was zu einer hybriden Multi-Cloud-, Multi-Tenant-SaaS-Lösung führte.

Der Einsatz von Kubernetes für die Anwendungsebene bedeutete die Bereitstellung von Kubernetes-Clusters, die von EKS und AKS verwaltet wurden, mit Fokus auf die Integration in eine Multi-Tenant-Umgebung. Diese Integration wurde durch den Einsatz von Kubernetes-Namespace und Zugriffskontrollen erreicht, um Datenisolation und Datenschutz sicherzustellen.

Auf der Datenbankebene entschieden wir uns für eine RDS-Instanz mit PostgreSQL zur Unterstützung der Backend-Infrastruktur unserer Anwendungen. Die Mandanten teilten sich dieselbe RDS-Instanz, hatten aber jeweils ein eigenes Schema.

Um nahezu in Echtzeit Daten von physischen Ladestationen (CPOs) als IoT-Geräte über das OCPI-Protokoll aufzunehmen, stießen wir bei der Batch-Verarbeitung auf erhebliche Verzögerungen. Daher entwickelten wir eine Streaming-Datenpipeline in Echtzeit mit Apache Kafka und setzten dabei auf eine eventgetriebene Architektur.

Ich leitete die Zusammenarbeit über mehrere interne Teams, externe Anbieter, Cloud-Provider und Partner vor Ort hinweg, um über fünf Systeme in eine einheitliche Lösung zu integrieren.

Erfolge:

• Erfolgreich hybride Multi-Cloud-Lösungen entworfen und umgesetzt, die mehrere Cloud-Plattformen (AWS, Azure) mit On-Premises-Infrastruktur unter Einsatz von Site-to-Site-VPNs, Firewalls und Load Balancing integrierten.
• Die Migration der On-Premises-Infrastruktur zu einer Multi-Cloud-, Multi-Tenant-Infrastruktur geleitet, was zu 30 % schnelleren Verarbeitungszeiten führte.
• Workloads aus VMware- und Hyper-V-Umgebungen auf cloudbasierte VMs migriert und dabei Cloud-native Services genutzt, um Leistung, Kosteneffizienz und Skalierbarkeit zu optimieren.
• Eine Multi-Tenant-Kubernetes-Plattform entworfen, die das Kubernetes-Ökosystem nutzt, mit Karpenter für die dynamische Bereitstellung von EC2-Nodes, KEDA für eventgesteuertes Pod-Autoscaling (z. B. Kafka-Message-Lag) und Rancher für das zentrale Monitoring mehrerer Cluster (EKS, AKS oder On-Prem K8s), als Ersatz für den Microsoft-zentrierten Azure-Arc-Management-Service.
• Python-basierte FastAPI-Microservices als Teil des EV-Core-Backends auf der AWS-EKS-Anwendungsebene entworfen und umgesetzt, die Datenaufnahme- und Kundenanalyse-Pipelines antreiben.
• Asynchrone, eventgetriebene APIs (Python-FastAPI) für die Echtzeit-Integration mit CPOs entwickelt, mit Unterstützung für OCPI 2.3 und OICP-Protokolle.
• Eine sichere, produktionsreife Azure-Databricks-Plattform mit Terraform entworfen und umgesetzt und dabei Skalierbarkeit und Kosteneffizienz sichergestellt.
• On-Premises-ERP auf eine hybride Dynamics-365-Architektur migriert, mit ERP lokal gehostet und CRM in Azure betrieben, integriert über Azure Arc.
• CI/CD-Pipelines für Databricks-Notebooks und Jobs mit GitHub Actions und Databricks CLI automatisiert, wodurch die Bereitstellungszeit reduziert wurde. Die Bereitstellungszeit für Infrastruktur durch Automatisierung der Cloud-Ressourcenbereitstellung mit GitOps um 70 % reduziert.
• Die Einhaltung interner Audit- und Data-Governance-Standards (GDPR) durch OAuth2/OIDC-basierte Authentifizierung und fein abgestufte rollenbasierte Zugriffskontrollen sichergestellt.
• Ein Zero-Trust-Sicherheitsmodell entwickelt, das Least-Privilege-Zugriffe und Mikrosegmentierung durchsetzt und die Sicherheitslage sowie die Compliance mit GDPR und NIST verbessert.
• Interaktive Analytics-Dashboards in Amazon QuickSight erstellt, die Daten aus S3 und Redshift integrieren, um Echtzeit-Business-Insights und Visualisierungen mit eingebettetem Zugriff für Multi-Tenant-Nutzer bereitzustellen.
• Cloud-Sicherheitsbewertungen und eine Sicherheitsintegration über den gesamten Lebenszyklus während M&A geleitet, einschließlich AWS, Azure, IAM (Entra ID) und Datenschutz, und dabei die Sicherheitslage mit NIST, ISO 27001 und GDPR über hybride und cloud-native Umgebungen hinweg ausgerichtet.
• Die Cloud-Kosten für eine Dev-Umgebung eines Kunden um 64 % gesenkt, indem automatisierte Start-/Stopp-Zeitpläne für EC2- und RDS-Instanzen über AWS CDK mit EventBridge Scheduler oder AWS Systems Manager implementiert wurden.

Tech-Stack:

• Infrastructure as Code: Terraform, AWS CDK, Ansible.
• Container: Kubernetes auf EKS, AKS, Docker.
• Streaming-Datenverarbeitung: Kafka zu Confluent Cloud, nach AWS MSK.
• Frontend: TypeScript, React, NextJS, Hooks, Styled Components.
• Backend: Python mit FastAPI, außerdem Node.js mit NestJS.
• Datenbank: Aurora auf PostgreSQL mit TypeORM, RDS auf SQL Server, vollständiges Setup und Administration von Azure Databricks, ETL-Pipelines.
• CI/CD und GitOps: GitHub Actions, Azure DevOps, ArgoCD.
• Monitoring und Observability: Prometheus und Grafana.
• Virtualisierung: Hyper-V, VMware Cloud on AWS, Azure Migrate.
• ERP-Systeme: Odoo, Microsoft Dynamics 365 Business Central auf Azure, integriert mit Azure Arc.
• Netzwerke: Site-to-Site-VPNs, AWS Direct Connect, Azure ExpressRoute, Firewalls (AWS Network Firewall, Azure Firewall).
• Sicherheit: IAM, NIST Framework, Zero-Trust-Sicherheit, AWS WAF, AWS Shield, GuardDuty.

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

• Einsatz moderner JavaScript-Funktionen einschließlich ES6+-Syntax, Destructuring, Modulen, Array-Methoden und asynchroner Programmierung zur Entwicklung effizienter und gut lesbarer Frontend-Software.
• Umsetzung von Frontend-Integrationsmustern für PHP- und Laravel-Backend-Services, Anbindung von React-Oberflächen an REST-APIs und Verarbeitung strukturierter JSON-Daten.
• Entwicklung interaktiver, funktionaler und komponentenbasierter Frontend-Anwendungen mit React Hooks, JavaScript und TypeScript sowie Backend-Anwendungen und RESTful APIs mit Python, Django, Flask und FastAPI, mit Fokus auf wiederverwendbare Komponenten, modulare Architektur, Wartbarkeit und effiziente Datenverarbeitung.
• Pflege einer dynamischen Portfolio-Plattform mit PHP, Laravel, Livewire und MySQL sowie Umsetzung der vollständigen Funktionalität über Frontend-Oberflächen, Backend-Services und Datenbankoperationen hinweg.
• Überprüfung der serverseitigen Anfrageverarbeitung, des Routings, der Middleware und der Formularvalidierung mithilfe von Laravel-Funktionen zur Unterstützung zuverlässiger Anwendungsabläufe und einer konsistenten Datenverarbeitung.
• Entwurf und Verwaltung relationaler Datenbankstrukturen mit MySQL und Laravel Eloquent ORM sowie Implementierung von Datenmodellen, Beziehungen, Datenbankmigrationen und effizienten Abfragen für das Content-Management.
• Entwicklung KI-gestützter Anwendungen mit Large Language Models (LLMs) über externe APIs und lokal gehostete Modelle sowie Untersuchung praktischer Anwendungsfälle für dialogorientierte KI, intelligente Automatisierung und KI-gestützte Workflows.
• Entwicklung lokaler KI-Anwendungen und Entwicklertools zum Ausführen, Konfigurieren und Interagieren mit lokal gehosteten Sprachmodellen sowie praktische Erfahrung mit lokaler Inferenz, Modellintegration und datenschutzbewussten KI-Workflows.
• Untersuchung von Retrieval-Augmented-Generation-(RAG)-Ansätzen zur Kombination von Sprachmodellen mit externen Wissensquellen und zur Ermöglichung kontextbezogener Antworten auf Grundlage relevanter Anwendungsdaten und abgerufener Informationen.
• Integration von KI-Services in Backend-APIs und Anwendungskomponenten sowie Entwicklung wiederverwendbarer Module für Modellkommunikation, Antwortverarbeitung, Fehlerbehandlung und Datenaustausch.

• Es handelt sich um ein Startup innerhalb von REWE, in dem wir ein neues Prognosesystem auf der Google Cloud Platform von Grund auf aufbauen müssen. Obwohl meine offizielle Rolle MLOps heißt, umfassen meine tatsächlichen Aufgaben auch die Entwicklung von Datenverarbeitungspipelines (Data Engineering) und Aufgaben eines Data Scientists wie Feature Engineering und Modelltraining.
• GCP: Terraform (tofu), Vertex AI (Kubeflow), Cloud Run, IAM, Google Cloud Storage, BigQuery, Artifact Registry
• Data Engineering: Snowflake als zentrales Data Warehouse, Terraform, DBT zur Implementierung von Datenmodellen
• CI/CD: GitLab. Wir haben eine CI/CD-Pipeline entwickelt, die die Bereitstellung neuer Releases bis in die Produktionsumgebung automatisiert.
• Entwicklung eines Feature Stores und Datensynchronisierung zwischen Umgebungen
• Data Science: Bewertung verschiedener Prognosemodelle, darunter CatBoost, Contextual Gamma und Random Forest; Implementierung von Trainingspipelines mit Kubeflow auf Vertex AI; Skalierung und Entwicklung einer ereignisgesteuerten Schnittstelle mit Kafka als Prognoseservice; Bewertung von MLFlow für Modellverfolgung und Modellregister
• Implementierung einer REST-API mit KeyCloak OAuth2 und OpenID (JWT)
• Monitoring: Implementierung von Dashboards mit Grafana, Prometheus, Mimir, Streamlit und Loki zur Überwachung von Prognosemetriken, GCP- und Snowflake-Kosten für Pipelines sowie Systemmetriken
• Entwicklung von Copilot Agent Skills

• Verantwortlich für die Administration von OpenShift/Kubernetes On-Prem und den Entwickler-Support.
• Automatisierte die URP-Infrastruktur mit Python, Ansible, Kustomize sowie dem ArgoCD- und Argo Workflow/Events-Stack.
• Schrieb Smoke- und Lasttests für die URP-Infrastruktur mit Python, Kustomize und ApplicationSets.
• Unterstützte beim Aufbau und der Bereitstellung der URP-Infrastruktur in Google Cloud (GKE).
• Implementierte Monitoring für die URP- und ArgoCD-Umgebung mit Splunk Cloud.
• Führte Systemadministrationsaufgaben auf RedHat Linux, Kubernetes/OpenShift, ArgoCD, GitLab, Bitbucket Enterprise, Kafka und MongoDB durch.

• End-to-end-Datenpipelines (Batch & Streaming) mit Python, SQL und Apache Spark sowie Databricks auf AWS entworfen und umgesetzt und dabei die ETL-Latenz um 40 % reduziert.
• Serverless, ereignisgesteuerte Ingestion-Pipelines mit AWS Lambda und SQS entwickelt und so die Echtzeitverfügbarkeit der Daten für nachgelagerte Analysen sichergestellt.
• Google Cloud Platform (GCP)-Services wie BigQuery und Dataflow genutzt, um Cloud-übergreifende Data-Warehousing- und Analytics-Integrationen zu steuern.
• Erfahrung mit DMS (CDC, Full Load) und Airflow für skalierbare Automatisierung und Orchestrierung von Datenpipelines.
• Datenpipelines mit Databricks und Airflow verwaltet und angepasst. Automatisierung mit Docker, Kubernetes und Terraform.
• Datenqualitätsprüfungen mit dbt automatisiert, um Transformationen zu modularisieren und eine produktionsreife Data Lineage sicherzustellen, wodurch die Zuverlässigkeit um 30 % verbessert wurde.
• Mit Compliance-Teams zusammengearbeitet, um die Einhaltung von GDPR und SOC2 sicherzustellen. Junior Engineers betreut und bei der Refaktorierung der Architektur für mehr Skalierbarkeit mitgewirkt.
• Dashboards in Power BI erstellt und gepflegt, um umsetzbare Einblicke zu liefern.

Projekt: Steuern Freistellungsauftrag Anwendung

Der Kunde verfügt über eine bestehende Anwendung zur Erstellung und Pflege von Steuerbefreiungsaufträgen für Endkunden; Konzeption und Implementierung einer vergleichbaren Anwendung für interne Mitarbeiter.

• Entwurf und Implementierung von Microservices und der UI für den Fachbereich „Steuerbefreiungsaufträge“ unter Anwendung von Domain Driven Design sowie Spring Boot und Angular.
• Implementierung reaktiver, nicht-reaktiver und asynchroner APIs (Spring REST, WebFlux, GraphQL).
• Entwicklung der Angular-Anwendung, einschließlich State Management mittels Signals, RxJS Observables und Subscriptions.
• Absicherung der API und der Anwendung unter Verwendung von OAuth2, JWT und OpenID Connect.
• Konfiguration und Einrichtung von CI/CD-Pipelines mit Jenkins.
• Zusammenarbeit mit funktionsübergreifenden Teams sowie Durchführung von Code-Reviews.

Umfeld: Java, Spring Boot, Angular 18 & 19(standalone, signals), RxJs, Bootstrap CSS, Vitesting, OpenShift, Istio, microservices, Kafka, Dynatrace, Jenkins, GitLab, Graylog, Sonar, Oauth2, OracleDB

• Entwurf, Aufbau und Wartung skalierbarer ETL/ELT-Datenpipelines mit Python, SQL, REST APIs, AWS Lambda, S3, RDS PostgreSQL, EventBridge, CloudWatch, Docker, Apache Airflow und BigQuery – Integration von Daten aus GA4, Google Ads, Meta Ads, CMS, CRM, Newslettern, Events und B2C-Bestellsystemen in analyseoptimierte Datensätze.
• Aufbau einer markenübergreifenden Lakehouse-Architektur von AWS zu BigQuery – Umwandlung von Roh-JSON/CSV-Daten in strukturierte, partitionierte und wiederverwendbare Reporting-Schichten mit Staging-, Intermediate-, Canonical- und Mart-Modellen.
• Entwurf relationaler und dimensionaler Datenmodelle: 3NF-Staging-Modelle, Star-Schemas, Faktentabellen, Dimensionstabellen, tägliche KPI-Aggregate und Dashboard-optimierte Marts für Marketing-, Content-, Abonnement-, Event-, CRM- und Umsatzanalysen.
• Implementierung produktionstauglicher Datenqualitäts- und Pipeline-Zuverlässigkeitsfunktionen: inkrementelle Loads, idempotente Upserts, Deduplizierung, Schema-Validierung, Zeilenabgleich, Null-Checks, Anomalieerkennung, Frische-Monitoring, Logging, Wiederholungsversuche und Fehlerbenachrichtigungen.
• Automatisierung markenübergreifender Reporting-Prozesse und Datenprodukte – Pipelines für 73 Newsletter-Kampagnen, 31 Lead-Listen-Synchronisierungen, 52 Event-Partner-Berichte und eine 500K-Datensatz-Unternehmensabgleich-Pipeline; Reduzierung der manuellen Datenvorbereitung um ca. 70 % und Steigerung der Analyst-Produktivität um ca. 30 %.

• Konzeption und Implementierung von KI-Agenten in der AWS-Cloud
• Kontinuierliche Abstimmung mit Stakeholdern
• Zusammenarbeit mit DevOps
• Technologien: Git, CI/CD (GitHub Actions), Python/ML, Streamlit, Deno/TypeScript, AWS SAM, AWS Bedrock, AWS Lambda, AWS DynamoDB, AWS S3, AWS EventBridge usw.

• Beteiligte sich an der schrittweisen Modernisierung von Komponenten zu Cloud-nativen 12-Factor-Anwendungen.
• Arbeitete eng mit dem Business Operations Team zusammen, um manuelle Prozesse zu eliminieren und mehrere Performance-Engpässe zu beheben.
• Entwarf und implementierte eine CI/CD-Pipeline, um die Produktivität der Entwickler zu steigern, Qualitäts- und Sicherheitsprüfungen durchzusetzen und die Produktbereitstellung zu automatisieren.
• Migrierte mehrere Komponenten in den OpenShift-Kubernetes-Cluster.
• Baute einen Monitoring-Stack von Grund auf mit Prometheus und Grafana auf, um die in OpenShift laufenden Services zu überwachen.
• Entwickelte Dashboards sowohl in Grafana als auch in Splunk für die operative Transparenz.
• Implementierte eine OIDC/OAuth2-basierte Single-Sign-On (SSO)-Lösung mit Keycloak, um mehrere Anwendungen zu sichern.
• Technologien: Java, Spring, Quarkus, Kafka, MySQL, Cassandra, Redis, Spring Data, Hibernate, Docker, Kubernetes, OpenShift, Keycloak, OIDC, OAuth2, Helm, Prometheus, Grafana, Splunk, Spark.

• Testkonzepterstellung
• Erstellung von Testprozessen
• Koordination der TC-Entwicklung: Stresstests, Funktionstests, Leistungstests, Tests mit hoher Datenrate, Integrationstests usw.
• HW-Testing: FPGA, RF
• Testautomatisierung und Regressionstests
• Gewährleistung des 24/7-Betriebs des Testsystems
• Analyse & Berichterstattung
• Regelmäßige Koordination des Testteams, Meetings mit anderen Stakeholdern
• Kommunikation und Koordination mit Stakeholdern und Projektleiter

• Konzipierte und entwickelte eine leistungsstarke interne Plattform für Ressourcenmanagement mit React und TypeScript und optimierte dabei das dynamische Rendern von Daten und das State Management.
• Entwickelte eine React-Native-Anwendung für den mobilen Zugriff auf interne Tools und ermöglichte so Teams im Außendienst das Tracking von Projekten unterwegs.
• Entwickelte eigene 2D-Visualisierungen auf Canvas-Basis mit Pixi.js, um Materialflüsse und das Verhalten von feuerfesten Schichten zu simulieren.
• Integrierte Pixi.js mit React-Komponenten für interaktive Diagramme und UI-Aktualisierungen in Echtzeit.
• Entwickelte interaktive 3D-Visualisierungen mit React.js zur Darstellung von Produktlayouts und Simulationen für feuerfeste Produkte und unterstützte damit Engineering- und Vertriebsteams mit dynamischen Produktvorschauen.
• Integrierte Three.js in das React-Ökosystem, um die Bearbeitung von 3D-Modellen in Echtzeit direkt im Browser zu ermöglichen und so die Nutzerbindung und die Konfigurierbarkeit vor Ort zu verbessern.
• Integrierte ein Headless CMS, damit nicht-technische Nutzer Inhalte dynamisch aktualisieren können, wodurch sich die Zeit für Content-Deployments um 40 % verkürzte.
• Leitete AWS-CloudFront-Optimierungsinitiativen und verbesserte dadurch die Ladegeschwindigkeit des Portals weltweit um 30 %.
• Arbeitete aktiv mit funktionsübergreifenden agilen Teams und Product Ownern zusammen, um priorisierte Features mit kurzen Feedbackschleifen zu liefern.
• Wichtige Technologien: React.js, React Native, Three.js, TypeScript, Contentful CMS, AWS S3/Lambda/CloudFront, Cypress, Agile Scrum

• Agiler Aufbau einer multimodalen Analyseplattform für Trainingsmaterial (Video, Audio, Dokumente) nach Scrum
• Extraktion kontextrelevanter Inhalte basierend auf Nutzerprofilen & Kompetenzdimensionen
• Personalisierte Ausspielung von Lerninhalten zur Steigerung der Vertriebsperformance
• Enge Abstimmung mit Sales-Teams & Stakeholdern zur Validierung der Features
• Einsatz von Gemini, Whisper, Python & JavaScript, Deployment auf AWS, Perl für Skripte zum Datenimport
• Integration in bestehende Tools & CRM-Systeme zur reibungslosen Einführung
• Genutzte Technologien: Python, OpenAI, Datenbanktechnologien wie PostgreSQL, CI/CD für AirFlow-DAGs, FastAPI