Multi-Cloud Experten in Deutschland

Branche: Verlagswesen, Medien Projektsteuerung für Konzeption einer RAG-basierten Archiv-Erschließung: souveräne On-Prem- oder Hybrid-Compute-Architektur für LLM- und Embedding-Betrieb, Pipeline für Transkription und automatische Verschlagwortung, semantische Suche über Audio-/Video-Bestände. Use-Case-Bewertung und Make-or-Buy gemeinsam mit Redaktion, Archiv und Justiziariat unter Berücksichtigung von Urheberrecht, Rundfunkstaatsvertrag und KI-VO. Differentiator: praktische LLM-Infrastruktur-Erfahrung aus zwei eigenen produktiven Plattformen kombiniert mit C-Level- Programmsteuerung in regulierten Branchen.

• Reguliertes Konzernumfeld einer deutschen Bankengruppe (ca. 8.500 Mitarbeiter, Hybrid Cloud-Strategie).

• Verantwortlich für den Betrieb, die Bereitstellung und die kontinuierliche Absicherung geschäftskritischer Plattformen – darunter eine GenAI-Chat-Anwendung, eine Big-Data/AI-Plattform sowie Data-Science-Arbeitsplätze auf Basis von Azure Virtual Desktops und VMs. Ownership der AzureDevOps Projekte nach ShaiHulud und React2Shell sowie BSI-Warnungen – Security Operations Improvements im gesamten SDLC.

• Deployment-Verantwortung für GenAI-Chat-Anwendung, Big-Data/AI-Plattform (BDAI) sowie Data-Science-Arbeitsplätze (AVD/VM-basiert) in den jeweiligen LZs.

• Deployment & Release Management: End-to-End-Verantwortung für Deployments von Portal- und Service-Applikationen in mehreren Azure Landing Zones, inklusive technischer Freigaben, Approvals nach Deployment-Guidelines der Entwicklungsteams sowie Sicherstellung ITIL-basierter Change- und Release-Prozesse im laufenden Betrieb via ServiceNow.

• Azure Landing Zones & Netzwerkarchitektur: Aufbau, Provisionierung und Betrieb von Azure Landing Zones für 3-Tier-Web-Applikationen mit verbesserter Netzwerksegmentierung, VNet-Peering, Hub-Spoke-Architekturen, Private Endpoints und Firewall-Integration in separaten Subscriptions und Tenants.

• Azure DevOps Governance & Betrieb: Ownership der Azure-DevOps-Organisation inklusive Projekte, Repositories und CI/CD-Pipelines, Umsetzung von Governance-Vorgaben wie Branch-Policies, Approval-Gates, Berechtigungskonzepten und Audit-fähigen Betriebsstrukturen.

• Infrastructure as Code (Terraform): Design, Implementierung und Betrieb einer modularen Terraform-Architektur zur standardisierten Bereitstellung von Cloud-Infrastruktur, inklusive State-Management, Provider-Versionierung, Wiederverwendbarkeit und Policy-as-Code-Ansätzen.

• CI/CD Pipeline Engineering: Konzeption, Betrieb und Optimierung komplexer YAML-basierter CI/CD-Pipelines mit Multi-Stage-Deployments, Template-Standardisierung, Self-Hosted Agents, integriertem Secret-Management und automatisierten Qualitäts- und Sicherheitsprüfungen.

• Git-Migration & Plattformkonsolidierung: Planung und Umsetzung der Migration von Repositories und Pipelines von Azure DevOps zu GitLab CI/CD, inklusive automatisierter Skripte, Inklusive Git-History, Pipeline-Portierung und Konsolidierung der Entwicklungsplattformen.

• Container- & Plattformbetrieb (AKS): Betrieb und sicherheitstechnische Bewertung containerbasierter Workloads auf Azure Kubernetes Service, Zentralisierung der On-Premises Container Registry für ACR. OpenShift (OCP) Security Reviews: Sicherheitsbewertung von Codebaselines, Build-Pipelines und Deployment-Prozessen für On-Premises-OpenShift-Cluster mit kritischen Anwendungen sowie Ableitung konkreter Hardening-Empfehlungen.

• Shift-Left Security & DevSecOps Transformation: Einführung eines unternehmensweiten Shift-Left-Ansatzes zur frühzeitigen Integration von Sicherheit in Entwicklungs- und Deployment-Prozesse, Enablement der Entwickler zur eigenständigen Sicherheitsprüfung und nachhaltige Reduktion von Schwachstellen vor Produktivsetzung (IDE-Integrationen, Pre-Commit Hooks, lokale Scanner).

• Software Supply-Chain Security: Analyse und Mitigation von Supply-Chain-Risiken in NPM- und Yarn-basierten Anwendungen durch Dependency-Audits, Absicherung von CI/CD-Pipelines, Token-Rotation und Einschränkung riskanter Build- und Lifecycle-Mechanismen.

• Frontend- & Framework-Security (React / Next.js): Sicherheitsbewertung und Koordinierung der Behebung kritischer Schwachstellen in allen Plattform-Anwendungen und Web-Frameworks, inklusive Abstimmung und ergänzenden technischen Mitigationsmaßnahmen mit allen Teams nach BSI-Warnung.

• Software Composition Analysis (SCA): Einführung und Betrieb automatisierter Schwachstellen-Scans für Container-Images, Pipelines/Artefakte und Third-Party-Dependencies inklusive SBOM Exports innerhalb der CI/CD-Pipelines.

• SAST / DAST Integration: Konzeption und Pilotierung statischer und dynamischer Anwendungssicherheitstests in enger Zusammenarbeit mit Security-Architektur und Entwicklungsteams zur kontinuierlichen Verbesserung der Code- und Runtime-Security und Etablierung betrieblicher Abnahme-Tests (BATs).

• Artefakt- & Registry-Konsolidierung: Analyse und Konsolidierung aller Paket- und Container-Repositories für Service-Applikationen und AKS-Workloads mit dem Ziel einer zentralisierten, abgesicherten Registry-Strategie inklusive zentralisierter Vulnerability-Scanning und Governance.

• Dependency-Track & SBOM-Strategie: Beratung des Compliance-Boards zur Einführung einer zentralen SBOM- und Vulnerability-Management-Plattform zur konzernweiten Erhöhung der Transparenz über Abhängigkeiten und Beschleunigung der CVE-Reaktionsfähigkeit.

• CI/CD Pipeline Hardening: Sicherheitsanalyse und Bereinigung der bestehenden Pipeline-Landschaft durch Entfernung ungenutzter Pipelines, Verbesserung der Secrets-Hygiene, Umsetzung des Least-Privilege-Prinzips und Isolation von Build-Agent-Umgebungen.

• Azure Web Application Firewall (WAF) Optimierung: Analyse und Optimierung bestehender Azure-WAF-Regelwerke (OWASP Top 10 Core Rule Set, DSR/SDC, Custom Rules) zur Abwehr bekannter Schwachstellen und Exploit-Patterns, inkl. Reduktion von False Positives und Verbesserung der Angriffserkennung.

• Dokumentation & Stakeholder-Kommunikation: Erstellung und Pflege technischer Dokumentationen, Runbooks und Architekturübersichten in Jira und Confluence sowie aktiver Wissenstransfer zwischen Operations, Development, Security und Compliance-Stakeholdern.

• Private Cloud-Datenplattform auf VMware vSphere entworfen und implementiert, Greenplum MPP, Apache Kafka, Kubernetes und Apache Solr integriert und Echtzeit-Ingestion-Pipelines mit Kafka Connect und Schema Registry entwickelt.
• Migration von Oracle Exadata zu Greenplum geleitet, Datenmodelle neu architektonisch aufgebaut, Speicher optimiert, RabbitMQ mit Debezium für CDC implementiert und VectorDB für Generative AI eingeführt.
• PoC für Multi-Cloud-Migration über AWS, Azure und GCP entworfen und umgesetzt, KPIs für Durchsatz, Latenz und Kosteneffizienz definiert, Bulk-Datentransfers durchgeführt, Analytics- und Streaming-Workloads validiert und Architektur-Empfehlungen im großen Maßstab geliefert.
• Legacy-On-Premises-Infrastruktur bewertet und moderne cloud-native Datenplattformen mit Greenplum und containerisierten Microservices entworfen, mit Beratung zu Skalierbarkeit, Disaster Recovery und High Availability.

Konversationeller KI-Assistent für Fragen zu Cloud-Infrastruktur und Sicherheit

• FastAPI-Backend mit Multi-Turn-Conversation-Handler, Token-Budgeting und Kontextfenster-Management entworfen.
• Amazon Bedrock (Claude 3 Sonnet/Haiku) integriert; RAG-Pipeline mit MongoDB-Chatverlauf und semantischer Suche aufgebaut.
• Factory Pattern für modulares Wechseln zwischen LLM-Anbietern implementiert; der Aufwand für das Onboarding neuer Modelle um 60% reduziert.
• Die LLM-Inferenzkosten um 35% gesenkt durch Modell-Tiering (Haiku vs. Sonnet) und Konsolidierung von Prompts/Entitäten.

Tech: Python, FastAPI, Amazon Bedrock, MongoDB, Streamlit, Pydantic.

• Ganzheitliche Verantwortung für Modernisierung und Erweiterung der Bundesnetze sowie Ertüchtigung kritischer RZ- und TK-Infrastruktur im Hochsicherheitsbehördenumfeld der BDBOS
• Planung und Steuerung der Erweiterung nationaler BOS-Netzinfrastruktur im VS-NfD/KRITIS-Umfeld mit technischer Entscheidungsverantwortung auf Architektur- und Komponentenebene (Cisco, Layer 2/3, WAN-Redundanz)
• Planung, Ausschreibung (EVB-IT/UVgO) und Steuerung der Ertüchtigung sicherheitskritischer TK-Infrastruktur für Notrufabfrage 110/112 (ACD)
• Kapazitätsplanung, Rack-Integration, strukturierte Verkabelung, Energieversorgung, Kühlkonzept (CRAC/Reihen-Kühlung) und DCIM-Monitoring für RZ-Erweiterung
• Aufbau der IT-Abteilung von Grund auf: Strukturen, Governance, Prozesse, Team-Rekrutierung, Lieferantenauswahl und langfristige IT-Strategie
• Planung und Steuerung von Infrastruktur- und Applikationsmigrationen: Migrationsstrategien, Chargenplanung, Hypercare-Stabilisierung und Rollback-Konzepte
• Erstellung anbieterneutraler Leistungsverzeichnisse (TK-Systeme, Signaturlösungen) nach EVB-IT und UVgO; Vergabe und Lieferantensteuerung
• Aufbau sicherer IT-Umgebung nach BSI-Grundschutz, ISO 27001 und VS-NfD; Erstellung von IT-Sicherheitskonzepten und CMDB-Analysen
• Praxisorientierte Programmleitung: Entscheidungsvorlagen für Geschäftsführung und Lenkungsgremien, Risikomanagement, Reporting und Steuerung von Änderungsanforderungen

• Gesamtverantwortung für den Projektlebenszyklus von der Umfangsdefinition bis zum Abschluss
• Enge Zusammenarbeit mit Plattform-Teams, IT-Führungskräften und externen Dienstleistern
• Anwendung von SAFe-Prinzipien und strukturierte Sprint-Arbeit
• Erstellung eines Migrationsfahrplans mit klaren Meilensteinen
• Überwachung des Lifecycles: Onboarding, Repository-Migration, Replikation von Berechtigungen und Systemtests
• Visualisierung der Architektur mit PlantUML und Gliffy sowie Dokumentation in Confluence
• Regelmäßige Statusberichte und Durchführung von Wissenstransfer-Sessions

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

• Hatte direkte Linienverantwortung für ein Team von 4 Platform Engineers — inklusive Hiring, Performance Reviews und Karriereentwicklung — und habe dabei einen gemeinsamen Rahmen für Engineering-Standards sowie eine Coaching-Kultur aufgebaut, die die Delivery über Kundenprojekte hinweg beschleunigt hat.
• Habe ein Team von Engineers geführt, um ein cloud-natives Voice-AI-System für einen großen Inspektionskunden zu entwerfen. Damit konnten 2.500 Außendienst-Inspektoren ihre Arbeit komplett freihändig per Echtzeit-Transkription und AI Agents dokumentieren — manuelle Dateneingabe über 440.000 Inspektionen pro Monat wurde eliminiert und die Kosten pro Nutzer von 9 $ auf 1 $ gesenkt. Stack: AWS (DynamoDB, S3, Transcribe, CloudFront, API Gateway, Bedrock), ElevenLabs, Claude.
• Habe ein Team von Engineers geführt, um das Management von Kubernetes-Clustern über mehrere Regionen für einen globalen SaaS-Marktführer zu automatisieren. Dadurch sank die Bereitstellungszeit von 3 Wochen auf unter einen Tag und 90 % der Konfigurationsfehler wurden eliminiert. Stack: EKS, Terragrunt, Python, Bash, ArgoCD.
• Accelerator - Cloud-agnostische KI-Plattform: Ich habe eine cloud-agnostische, Kubernetes-native Plattform als Accelerator entworfen und ausgeliefert. Damit wurde das Multi-Tenant-Management von selbst gehosteten LLMs im Enterprise-Maßstab ermöglicht, inklusive gleichzeitiger Bereitstellung mehrerer Basismodelle und dynamischem Serving von LoRA-Adaptoren. Ich habe die Produktionsinfrastruktur mit Open-Source-Tools (ArgoCD, Karpenter, vLLM, SGLang) entworfen, inklusive automatisiertem Modell-Lifecycle-Management, API-Security (Keycloak + LiteLLM) und kostenoptimierter GPU-Bereitstellung.

• Disziplinarische und fachliche Leitung des IT- und Serviceteams
• Definition und Dokumentation des Current Mode of Operation (CMO) in Confluence: Applikationslandschaft, Infrastruktur, Netzwerke, Backup & Storage
• Entwicklung des Future Mode of Operation (FMO) inkl. Prozessanalyse & Stakeholder-Interviews mit allen Fachbereichen mit Hilfe von BPMN und Flussdiagrammen
• Optimierung des Lizenzmanagements: Reduktion der laufenden Softwarekosten um ca. 17% p.a.
• Einführung und Etablierung von Jira als zentrales Tool für Projekt- und Servicemanagement
• Einführung und Ausbau der HR-Software MindKey zur Digitalisierung von Personalprozessen
• Einführung einer VoIP-Lösung mit Microsoft Teams inkl. PSTN-Anbindung zur Ablösung klassischer Telefonie
• Einführung der Produktions- und Planungssoftware OptiControl zur Digitalisierung operativer Abläufe
• Rollout von Intune als Mobile Device Management-Lösung für Windows, iOS und Android
• Aufbau von Power BI-Dashboards zur Maschinenpark-Überwachung und Finanzreporting
• Planung und Durchführung der IT-Konsolidierung von zwei Standorten für 170 User
• Einführung eines automatisierten Penetration Testings mit Pentera
• Coaching und Mentoring des Teams in agilen Methoden & Projektmanagement
• Operative Unterstützung im Tagesgeschäft: Administration, Incident & Change Management
• Steuerung externer Dienstleister und Sicherstellung der Qualität ausgelagerter IT-Leistungen
• Verantwortung für das IT-Budget inkl. Planung und Controlling
• Direkte Berichtslinie an die Geschäftsführung mit regelmäßigen Management-Reports zu IT-KPIs, Budget und Projektstatus

• IaC & Automatisierung: Konzeption und automatisierte Bereitstellung von ca. 40 Linux-Servern und Cloud-Ressourcen über Terraform und Ansible (Reduzierung des manuellen Aufwands um über 80 %).
• Container-Orchestrierung: Aufbau und Betrieb von 2 produktiven Kubernetes-Clustern mit 70+ Docker-Containern zur Gewährleistung von Hochverfügbarkeit, Skalierbarkeit und Selbstheilung.
• CI/CD-Optimierung: Entwicklung und Wartung von 15+ CI/CD-Pipelines mit Jenkins und GitHub Actions (Verkürzung der Deployment-Zeiten von mehreren Stunden auf unter 15 Minuten).
• OS-Hardening & Betrieb: Automatisiertes Patch-Management, OS-Konfiguration und Sicherheits-Härtung für 40+ Linux-Server mittels Ansible zur Steigerung der Compliance.
• Monitoring & Alerting: Implementierung zentraler Überwachungs- und Alarmierungslösungen zur proaktiven Fehlererkennung und Minimierung von Systemausfallzeiten.
• Cross-Functional Collaboration: Teamübergreifende Zusammenarbeit (Dev, Ops, Security) zur Etablierung von DevOps-Best-Practices und Infrastructure-as-Code-Standards.

• End-to-end-Datenpipelines (Batch & Streaming) mit Python, SQL und Apache Spark sowie Databricks auf AWS entworfen und umgesetzt und dabei die ETL-Latenz um 40 % reduziert.
• Serverless, ereignisgesteuerte Ingestion-Pipelines mit AWS Lambda und SQS entwickelt und so die Echtzeitverfügbarkeit der Daten für nachgelagerte Analysen sichergestellt.
• Google Cloud Platform (GCP)-Services wie BigQuery und Dataflow genutzt, um Cloud-übergreifende Data-Warehousing- und Analytics-Integrationen zu steuern.
• Erfahrung mit DMS (CDC, Full Load) und Airflow für skalierbare Automatisierung und Orchestrierung von Datenpipelines.
• Datenpipelines mit Databricks und Airflow verwaltet und angepasst. Automatisierung mit Docker, Kubernetes und Terraform.
• Datenqualitätsprüfungen mit dbt automatisiert, um Transformationen zu modularisieren und eine produktionsreife Data Lineage sicherzustellen, wodurch die Zuverlässigkeit um 30 % verbessert wurde.
• Mit Compliance-Teams zusammengearbeitet, um die Einhaltung von GDPR und SOC2 sicherzustellen. Junior Engineers betreut und bei der Refaktorierung der Architektur für mehr Skalierbarkeit mitgewirkt.
• Dashboards in Power BI erstellt und gepflegt, um umsetzbare Einblicke zu liefern.

• Aufbau einer eigenständigen Unternehmens-IT — Cloud-Strategie, Netzwerk, AWS Landing Zone, Sicherheitsanforderungen, Vertragsverhandlungen.
• Migration aller Anwendungen; Vermeidung hoher Vertragsstrafen für den Kunden.
• Onboarding und Steuerung inte...

• Begleitete eine groß angelegte agile Transformation und verbesserte die Agilität der Teams, die DevOps-Einführung und die Cloud-Bereitschaft.
• Unterstützte DevOps- & CI/CD-Praktiken, um Cloud-Deployment-Strategien zu optimieren und die Time-to-Market zu verkürzen.
• Leitete agile Coaching-Initiativen, um die funktionsübergreifende Zusammenarbeit zwischen IT- und Business-Teams zu stärken.
• Entwickelte agile Governance-Strukturen, um die Führungsebene mit den Zielen der Cloud- und digitalen Transformation abzustimmen.
• Technologien & Frameworks: Agile (Scrum, SAFe), DevOps, Cloud-Adoption, IT-Governance, CI/CD, Change Management

• Unterstützung beim Entwurf der AWS-Infrastruktur, integrierter Dienste und der Backend-Architektur für Use Cases einer On-Premise-Lösung und teilweiser Migrationen zu AWS mit schnellen Reaktionszeiten
• Implementierung automatisierter AWS-Integrationstest-Suiten
• Umsetzung von geschäftskritischen Komponenten und Lieferung vor Fristtermin in produktionsreifer Form mit Betriebs- und Überwachungskonzepten
• Dieses zweimonatige Teilprojekt drehte sich um den Aufbau einer datenintensiven Pipeline (5 TB), die kontinuierlich mit Daten angereichert wird
• Entwurf und Implementierung wiederverwendbarer AWS-CDK-Komponenten für Teams im Unternehmen, um ein schnelleres Onboarding in AWS zu ermöglichen
• Coaching zu AWS-Themen, verteilten Softwaremustern, Sicherheit, Domain-Driven Design, agiler Zusammenarbeit und Dokumentation zur Verbesserung von Performance und Zusammenarbeit
• Technologien: AWS, GitHub Actions, ETL, Monitoring, Betrieb, TypeScript, Python, AWS CDK, CloudFormation, Java, Docker, AWS ECS, AWS Lambda, Serverless, Jenkins, DevOps-Prinzipien