Cloud Engineers in Germany

• Vollständig On-Premises betriebene LLM-Plattform zur Dokumentenprüfung für einen Compliance-kritischen Bankbereich: agentenbasierte LangGraph-Pipeline mit deterministischer Verifizierung, jedes KI-Urteil strukturiert und an die Quelle gebunden; ~960 automatisierte Tests, kein Datenabfluss
• GPU-Durchsatzoptimierung (quantized serving, speculative decoding, prefix caching): 9.5-fache Beschleunigung der Extraktion, 500+ Fallakten mit mehreren Dokumenten pro Tag auf einer einzelnen A100
• KI-native EDI/EDIFACT-Integrationsplattform (~116k LOC Java 25 / Spring Boot 4, 1,900+ Tests): Von LLM erstellte Partnermappings werden vor dem Go-live maschinell verifiziert (DFDL-Konformität, Feldabdeckungsprüfungen, Testläufe), ~99.5% Byte-Übereinstimmung bei echten Kundendateien – ersetzt wochenlange manuelle Zuordnung pro Partner

Zur Erzielung von Einsparungen und Optimierung der Compliance wurden Apps in Abgleich mit den Zuordnungen des Identity Managements neu strukturiert, Einschränkungen definiert und vor allem Kosten aus einer Übernutzung reduziert. Die Kommunikation mit den Stakeholdern, Validierung der Berechtigungen mit Anwendern und technische Umsetzung in den Modulen SAP FI/CO und Sourcing & Procurement ergab umfangreichen Mehrwert für die Gruppe. Hinzu kommt entsprechende Dokumentation für die Wirtschaftsprüfung.

• Modernisierung einer groß angelegten Java-Unternehmensanwendung*

Das Projekt modernisiert eine komplexe Unternehmensanwendung, die über viele Jahre gewachsen ist. Das bestehende Spring-basierte Legacy-System läuft auf Java 8, OSGi und Eclipse RCP und wird schrittweise auf eine moderne, wartbare Architektur mit Java 25 und Quarkus migriert.

Marcus arbeitet in Analyse, Architektur, Refactoring und Implementierung. Ein Schwerpunkt liegt auf der Entflechtung historisch gewachsener Strukturen und Abhängigkeiten sowie dem Aufbau eines sauberen, nachhaltigen Java- und Quarkus-Technologiestacks.

Tools & Technologien: Java 8, Java 25, Quarkus, Hibernate ORM mit Panache, EclipseLink, OSGi, Eclipse RCP, Maven, JUnit, Mockito, REST, JSON, Git, Eclipse IDE, IntelliJ IDEA Ultimate, Jira, Confluence

• Optimierung und Beschleunigung unserer GitLab-CI-Pipeline

• Konzeptarbeit für den PoC des Zero-Trust-Systems

• Erweiterung des Policy-Engine-Backends in Go

• Erweiterung des Policy-Testing-Mechanismus in Python

• Architekturelle Gestaltung der PEP-Komponente von Zero Trust

• Dokumentation des Produkts

• Technologien: Zero Trust, Go, Python, GitLab CI, Docker, JWT, Domain-Driven Design

Projekt: Konzeption und Umsetzung eines AI-Produkts für vier fachliche Anwendungsfälle

Projektleitung eines AI-Projekts bei einem führenden Anbieter für Großverpflegung und Catering, in dem gemeinsam mit einem externen Entwicklungspartner ein produktionsreifes AI-Produkt für vier Anwendungsfälle umgesetzt wurde: automatisierte Briefings aus CRM- und Dokumentendaten, sprachbasierte Erfassung und Strukturierung von Berichten, Erkennung und Zusammenführung von Dubletten in Stammdaten sowie datenbasierte Marktanalysen. Zentraler Schwerpunkt war eine datenschutzkonforme Architektur, die die interne IT-Security-Prüfung besteht und eine produktive Nutzung ermöglicht.

• Übersetzung fachlicher Anforderungen in abgrenzbare AI-Anwendungsfälle mit klar abgegrenztem Produktscope und klarem Nutzenversprechen
• Auswahl und Bewertung von Modellen und Architekturvarianten für Textextraktion, Sprache-zu-Text und Kontextanreicherung aus Fachsystemen, inklusive LLM-Anbindung, Function Calling und Retrieval
• Erarbeitung und Durchsetzung einer Architektur mit europäischem Hosting, Datenminimierung und Maskierung personenbezogener Daten als Voraussetzung für die Freigabe
• Steuerung der Schnittstellen zwischen Fachbereich, IT, IT-Security und externem Entwicklungspartner unter restriktiven Datenzugriffsbedingungen
• Abstimmung mit der CIO- und Geschäftsführungsebene zu Datenzugriff, Risikobewertung und Freigabeentscheidungen
• Vorbereitung der Überführung in den produktiven Einsatz

Konversationeller KI-Assistent für Fragen zu Cloud-Infrastruktur und Sicherheit

• FastAPI-Backend mit Multi-Turn-Conversation-Handler, Token-Budgeting und Kontextfenster-Management entworfen.
• Amazon Bedrock (Claude 3 Sonnet/Haiku) integriert; RAG-Pipeline mit MongoDB-Chatverlauf und semantischer Suche aufgebaut.
• Factory Pattern für modulares Wechseln zwischen LLM-Anbietern implementiert; der Aufwand für das Onboarding neuer Modelle um 60% reduziert.
• Die LLM-Inferenzkosten um 35% gesenkt durch Modell-Tiering (Haiku vs. Sonnet) und Konsolidierung von Prompts/Entitäten.

Tech: Python, FastAPI, Amazon Bedrock, MongoDB, Streamlit, Pydantic.

• Einarbeitung sowie umfassende Dokumentation und Systemanalyse durchgeführt, um die bestehende Dateninfrastruktur zu bewerten und eine schnelle Integration sowie Zusammenarbeit zwischen den fachlichen Datenteams (Modellierung, Verarbeitung, Reporting) zu ermöglichen.
• Gemeinsam die Architektur und die Projektstruktur für ein zentrales Data-Pipeline-Repository definiert, inklusive hierarchischer Standards, Wissensmanagement-Strategien und rollenbezogener Verantwortlichkeiten, um die Wartbarkeit und die Einarbeitung zu verbessern.
• Open-Source-Tools für Data Routing (Airbyte, Apache NiFi, Dragster) für Ingest- und Sync-Anforderungen in der Retail-Analyse bewertet und validiert, inklusive lokalem Benchmarking und Tests von Fehlersituationen.
• Die Konzeption und Bereitstellung von Airbyte in Kubernetes geleitet, eigene Helm-Charts erstellt, den Umgang mit Secrets abgesichert und Ingress mit TLS sowie internem DNS-Routing konfiguriert, sodass API und UI vollständig erreichbar waren.
• Probleme mit dem Ingress-Controller analysiert und behoben, dabei mehrere Debugging- und Testphasen durchlaufen und die Setup- sowie Replikationsschritte für eine skalierbare Wiederverwendung dokumentiert.
• Datenmodelle an den ARTS-Standard angepasst, die Schema-Ausrichtung für ERP- und Reporting-Use-Cases unterstützt und Review-Schleifen koordiniert, um die zukünftige Datenverarbeitungslogik abzustimmen.
• Strategische One-Pager zu MinIO, Pub/Sub und Routing-Architekturen erstellt und technische Orientierung für Architekturentscheidungen sowie Investitionsplanung gegeben.
• Sicheren Zugriff und Authentifizierungsmechanismen ermöglicht, darunter die erste Bewertung einer SAML-Integration, Reviews der Cluster-Konfiguration und Verbesserungen bei Service-Annotations.

• Aufbau, Wartung und Härtung von Kubernetes-Clustern mit Ansible und ArgoCD
• Schlagwörter: Ansible, AWX, Kubernetes, NetApp, Prometheus, CI/CD ArgoCD, SSO, Fluent-bit, HAProxy, Calico, Keycloak, oauth2-proxy, SealedSecrets, kubeseal, Aqua kube-bench, CIS-Benchmarks, Aqua Trivy operator

Entwurf und Entwicklung einer KI-gestützten Automatisierungsplattform mit n8n, um Social-Media-Nischen zu analysieren, Zielgruppen zu erkennen und die Generierung von Marketingstrategien zu automatisieren. Die Lösung kombinierte KI-Agenten, Workflow-Orchestrierung und Datenanalyse, um Rechercheprozesse zu automatisieren und datenbasierte Erkenntnisse zu erzeugen.

• Komplexe Automatisierungs-Workflows mit n8n entworfen und umgesetzt
• KI-gestützte Analyse-Agenten für Markt- und Zielgruppenrecherche entwickelt
• Mehrere APIs und KI-Services in automatisierte Workflows integriert
• Automatisierte Analyse-Pipelines für Markt, Wettbewerber und Zielgruppen aufgebaut
• Large Language Models (LLMs) für Zusammenfassung, Klassifizierung und Priorisierung von Informationen genutzt
• Plattform mit Docker containerisiert und bereitgestellt

Technologien: n8n, AI Agents, OpenAI APIs, Prompt Engineering, LLMs, Docker, Linux, REST APIs, Webhooks

• Konzeption und Aufbau einer vollständig abgeschotteten AWS-Offline-Umgebung ohne ausgehenden Internetpfad für den Betrieb einer browserbasierten Fachanwendung
• Entwurf und Implementierung eines Proxy- und Antwortdienstes, der sämtliche externen Aufrufe der Anwendung innerhalb der VPC terminiert und aus lokal vorgehaltenen Inhalten bedient; Ermittlung des tatsächlichen Kommunikationsbedarfs messbasiert über DNS-Query-Logging
• Erstellung von Architekturdesigns und Entscheidungsvorlagen inklusive Variantenvergleich (Application Load Balancer mit Lambda und S3, Reverse Proxy auf EC2, privates API Gateway) mit Bewertung nach Betriebsaufwand, Kosten und Verfügbarkeit
• Übertragung der bislang ausschließlich für Azure vorliegenden Lösungs- und Betriebsdokumentation auf eine AWS-Zielarchitektur inklusive Neuzuordnung sämtlicher Dienste und Betriebsabläufe
• Automatisierter Rollout als Infrastructure as Code (Terraform, CloudFormation) mit CI-Deployment über GitHub Actions sowie Aufbau privater DNS-Zonen und einer eigenen Zertifikatskette für den Betrieb ohne Internetanbindung
• Erstellung der Architektur-, Deployment- und Betriebsdokumentation und Übergabe an den Kunden
• Aufbau einer privaten Cloud-Plattform auf OpenStack beim Provider TelemaxX mit Terraform, inklusive FortiGate-HA-Clustern, FortiManager und Kubernetes
• Einführung von Policy as Code (Open Policy Agent, Conftest) sowie Entwicklung von MCP-Servern (Model Context Protocol) zur Anbindung von KI-Assistenten an Betriebs- und Projektwerkzeuge

Erfolge:

• Fachanwendung erstmals vollständig ohne Internetanbindung betriebsfähig gemacht; die Ursache des Ladefehlers wurde durch systematische Eingrenzung auf fehlende CORS-Header zurückgeführt, nachdem die naheliegende Zertifikatsspur widerlegt war
• Bestehendes Azure-Konzept vollständig auf AWS übertragen und die zuvor manuell erstellte Umgebung durch einen reproduzierbaren, CI-gestützten Rollout abgelöst

Technologie Stack: AWS (VPC, Application Load Balancer, Lambda, S3, Route 53 Private Hosted Zones und Resolver Query Logging, IAM, CloudWatch, EC2, CloudFormation), Infrastructure as Code (Terraform, CloudFormation, Remote State), CI/CD (GitHub Actions mit OIDC, Azure DevOps Pipelines), OpenStack, FortiGate, FortiManager, Kubernetes, Policy as Code (Open Policy Agent, Conftest), Offline- und Air-Gap-Architekturen, PKI & Zertifikate (interne CA, TLS, CRL/OCSP), DNS, Netzwerksegmentierung, Linux, Windows Server, Python, Bash, PowerShell, YAML, JSON, Architekturdesign & Entscheidungsvorlagen, Dokumentation (Confluence, Markdown), Generative & Agentic AI (Model Context Protocol, Agentic AI Coding Tools)

KI-Plattform Backend – Senior Developer

Engagiert, um ein Backend für eine KI-Plattform von Grund auf zu konzipieren und aufzubauen, inklusive Multi-Provider-LLM-Orchestrierung und Echtzeitinfrastruktur für KI-Influencer-Personas im großen Maßstab.

Aufgaben und Verantwortlichkeiten

• Architektur und Implementierung einer Multi-LLM-Orchestrierungsschicht mit Semantic Kernel zur Integration von GPT-4 und weiteren Anbietern für die Kernplattformlogik und KI-Influencer-Personas, Reduzierung des Modellwechsel-Overheads durch Abstraktion der Anbieter-APIs hinter einer einheitlichen Schnittstelle.
• Entwurf und Entwicklung eines Backends von Grund auf in C# / .NET 10, einschließlich Domain-Modellierung mit DDD, versionierter RESTful-API-Schicht und Cloud-Infrastrukturaufbau auf Azure.
• Aufbau einer Echtzeit-Chat-Infrastruktur mit Server-Sent Events (SSE), Nachrichtenpersistenz und Zustellungsgarantien für den Live-Betrieb von KI-Influencer-Personas im großen Maßstab.
• Entwicklung eines Medienverwaltungsdienstes mit Integration von Cloud-Objektspeicher für Upload und Abruf influencer-generierter Inhalte.
• Erstellung einer Integrations- und Unit-Test-Suite mit Daten-Seeding für zuverlässige Regressionstests über alle Kernplattform-Flows, deutliche Reduzierung der Produktionsfehlerrate.

Werkzeuge und Technologien: C#, .NET, ASP.NET Core, Python, TypeScript, MySQL, Semantic Kernel, EF Core, Minimal APIs, LLM Orchestration, Prompt Engineering, Agentic AI, Generative AI, AI-Assisted Engineering, Claude Code, GitHub Copilot, Google Gemini, OpenAI API, Ollama, Redis, Azure, Azure Container Apps, Azure Database for MySQL, Docker, GitHub Actions, Clean Architecture, Vertical Slice Architecture, CQRS, Domain-Driven Design, REST API, xUnit, Integration Testing, Unit Testing, Jira, Confluence, Scrum

• Kundenprojekte end-to-end geleitet — von der Grobplanung und Cloud-Strategie bis hin zu Sprint-Planung und Abstimmung mit Stakeholdern
• Sichere Azure Landing Zones mit Infrastructure as Code geplant und umgesetzt
• Governance-Frameworks und Cloud-Sicherheitskontrollen entwickelt, zugeschnitten auf Enterprise-Umgebungen
• Cloud-Readiness-Assessments durchgeführt und Cloud-Migrationsinitiativen von der Bewertung bis zur Übergabe begleitet
• Kundenworkshops und agile Zeremonien moderiert (Sprint Planning, Backlog Refinement, Standups)
• Interne Cloud Competence Centers aufgebaut, um Wissensaustausch und Best Practices über Teams hinweg zu fördern
• Entwicklung eines allgemeinen Cloud Service Portals

• Hatte direkte Linienverantwortung für ein Team von 4 Platform Engineers — inklusive Hiring, Performance Reviews und Karriereentwicklung — und habe dabei einen gemeinsamen Rahmen für Engineering-Standards sowie eine Coaching-Kultur aufgebaut, die die Delivery über Kundenprojekte hinweg beschleunigt hat.
• Habe ein Team von Engineers geführt, um ein cloud-natives Voice-AI-System für einen großen Inspektionskunden zu entwerfen. Damit konnten 2.500 Außendienst-Inspektoren ihre Arbeit komplett freihändig per Echtzeit-Transkription und AI Agents dokumentieren — manuelle Dateneingabe über 440.000 Inspektionen pro Monat wurde eliminiert und die Kosten pro Nutzer von 9 $ auf 1 $ gesenkt. Stack: AWS (DynamoDB, S3, Transcribe, CloudFront, API Gateway, Bedrock), ElevenLabs, Claude.
• Habe ein Team von Engineers geführt, um das Management von Kubernetes-Clustern über mehrere Regionen für einen globalen SaaS-Marktführer zu automatisieren. Dadurch sank die Bereitstellungszeit von 3 Wochen auf unter einen Tag und 90 % der Konfigurationsfehler wurden eliminiert. Stack: EKS, Terragrunt, Python, Bash, ArgoCD.
• Accelerator - Cloud-agnostische KI-Plattform: Ich habe eine cloud-agnostische, Kubernetes-native Plattform als Accelerator entworfen und ausgeliefert. Damit wurde das Multi-Tenant-Management von selbst gehosteten LLMs im Enterprise-Maßstab ermöglicht, inklusive gleichzeitiger Bereitstellung mehrerer Basismodelle und dynamischem Serving von LoRA-Adaptoren. Ich habe die Produktionsinfrastruktur mit Open-Source-Tools (ArgoCD, Karpenter, vLLM, SGLang) entworfen, inklusive automatisiertem Modell-Lifecycle-Management, API-Security (Keycloak + LiteLLM) und kostenoptimierter GPU-Bereitstellung.

• Mobile Spiele für iOS und Android eigenständig entworfen, entwickelt, veröffentlicht und gewartet.
• Anwendungsarchitektur, Gameplay-Systeme, UI, Monetarisierung, Analytics und Plattform-Integrationen umgesetzt.
• Den kompletten Release-Lifecycle betreut, einschließlich Tests, Store-Veröffentlichung, Produktions-Monitoring und iterativer Verbesserungen auf Basis von Analytics.