MLOps Experten in München

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

• Gesamtverantwortung für den Projektlebenszyklus von der Umfangsdefinition bis zum Abschluss
• Enge Zusammenarbeit mit Plattform-Teams, IT-Führungskräften und externen Dienstleistern
• Anwendung von SAFe-Prinzipien und strukturierte Sprint-Arbeit
• Erstellung eines Migrationsfahrplans mit klaren Meilensteinen
• Überwachung des Lifecycles: Onboarding, Repository-Migration, Replikation von Berechtigungen und Systemtests
• Visualisierung der Architektur mit PlantUML und Gliffy sowie Dokumentation in Confluence
• Regelmäßige Statusberichte und Durchführung von Wissenstransfer-Sessions

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

• Idee, Design und erste Implementierung eines Dienstes, der öffentlich verfügbare Daten aggregiert, um Preise für bestimmte Objektarten zu schätzen
• Sammlung von Daten aus verschiedenen Quellen und deren Normalisierung. Einbettung der Daten mit SentenceTransformer und Training von Gradient-Boosting-Modellen
• Implementierung eines Webdienstes, der
• beliebigen Text von Benutzern einliest
• ihn ergänzt, wenn Teile der Daten fehlen
• ein lokales LLM-Modell verwendet, um die Daten für die Vorhersage aufzubereiten
• die Daten einbettet und eine Vorhersage vom Gradient-Boosting-Modell abruft
• ein LLM-Modell verwendet, um einen Bericht zur Benutzeranfrage einschließlich Erklärungen zu erstellen
• Stack: BigQuery, Vertex AI, Cloud Run (GCP), Python, Terraform, DBT, SentenceTransformer, Qwen
• Kleinere SEO-Optimierungen
• Weitere Entwicklungen folgen...

• Verantwortlich für die Administration von OpenShift/Kubernetes On-Prem und den Entwickler-Support.
• Automatisierte die URP-Infrastruktur mit Python, Ansible, Kustomize sowie dem ArgoCD- und Argo Workflow/Events-Stack.
• Schrieb Smoke- und Lasttests für die URP-Infrastruktur mit Python, Kustomize und ApplicationSets.
• Unterstützte beim Aufbau und der Bereitstellung der URP-Infrastruktur in Google Cloud (GKE).
• Implementierte Monitoring für die URP- und ArgoCD-Umgebung mit Splunk Cloud.
• Führte Systemadministrationsaufgaben auf RedHat Linux, Kubernetes/OpenShift, ArgoCD, GitLab, Bitbucket Enterprise, Kafka und MongoDB durch.

• Aufbau eines skalierbaren Multi-Region-Backend-Services in AWS, um Remote-Desktop-VMs für wissenschaftliche Analysen bereitzustellen
• Technologie-Stack: AWS, GitHub, Terraform, Python, Rust
• Aufbau und Definition der Kerninfrastruktur des Backend-Systems
• Definition und Implementierung der VM-Provisionierung für Ubuntu- und Rocky-Linux-Desktop-Umgebungen
• Programmierung des API-Services in ECS zur Verwaltung von virtuellen Maschinen und zum Erstellen maßgeschneiderter Docker-Images für Benutzer

• Architektur und Aufbau eines GenAI-basierten Tools zur automatisierten Asset-Erstellung für Social-Media-Kampagnen mit Nano Banana und Python. Es verarbeitet Kampagnenbriefing, Zielgruppe und zwei Produkte als Eingabe, generiert optimierte Prompts für Bild- und Textproduktion und nutzt Funktionen für Textpositionierung, ansprechende Overlays, Größenanpassung und strukturiertes Hochladen in AWS S3.
• Entwicklung und Aufbau einer Multi-Agenten-News-Intelligence-Plattform mit spezialisierten Rollen, darunter Retriever-Agenten (Tavily-Web-Scraping), Synthese-Agenten und Claude als Kurator/Orchestrator, und Entwurf autonomer Agentenzusammenarbeitsmuster mithilfe von LangChain und RAG.
• Aufbau eines autonomen Kundendienst-Agenten mit n8n und LLMs, der End-to-End-Support-Automatisierung mit nachvollziehbarer Argumentation, Governance-Kontrollen und skalierbarer Workflow-Orchestrierung mittels Python und Vektordatenbanken bietet.
• Entwicklung einer Finanzvalidierungs-Engine mit ML-gestützter Anomalieerkennung zur Plausibilitätsprüfung von Rechnungen, Compliance-Automatisierung und Risikominderung unter Verwendung von TensorFlow und SQL.
• Erstellung einer Kosteneinsparungsanwendung mittels OCR, KI, Pandas und NumPy für Datenanalyse, um Optimierungspotenziale zu identifizieren.

• Mitgegründet ein KI-Startup mit Fokus auf die Entwicklung produktionsreifer LLM-Anwendungen und Agentensysteme
• Entworfen und implementiert Multi-Agent-KI-Workflows für Finanz- und Handelsanwendungen
• Entwickelt LLM-basierte Copilot-Architekturen für Portfolioanalyse, Handelsverwaltung und personalisiertes Nutzercoaching
• Entwickelt On-Device- und Edge-Inferenzanwendungen, optimierte Modelle für geringe Latenz, Datenschutz und ressourcenbeschränkte Umgebungen
• Geleitet Architekturentscheidungen zur Modellauswahl, Orchestrierung, Zustandsverwaltung und Bereitstellung

• Entwickelte und implementierte ein robustes, in Python basiertes Datenverarbeitungs-Framework, das den Wechsel von R zu Python ermöglichte und die Produktivität im Data Science deutlich steigerte, indem es wartbare, standardisierte Module für häufig genutzte Workflows bereitstellte und Coding-Best-Practices sowie DevOps-Prinzipien anwandte
• Bewertete, trainierte und implementierte Machine-Learning-Modelle auf Cloud-Plattformen und Edge-Geräten, wodurch vollständig automatisierte Midinfrared-(MIR)-Datenbewertungspipelines entstanden, die manuelle Analyseschritte überflüssig machten und die Zeit von der Messung bis zur Vorhersage für Kunden und interne Stakeholder deutlich verkürzten
• Analysierte und interpretierte multivariate MIR-Spektraldaten des firmeneigenen Analysators mit R und Python und unterstützte so die zuverlässige Identifizierung und Quantifizierung von chemischen Verbindungen in Lösungen

• Entwicklung von Software-Tools im EICACS-Programm (LDACS-Projekt) zur Unterstützung sicherer Avionikkommunikation.
• Aufbau von Python-basierten Automatisierungs- und Überwachungsdiensten zur Validierung von KI-Komponenten gemäß Trustable-AI-Richtlinien.
• Konzeption von CI/CD- und Test-Pipelines, die die Reproduzierbarkeit und Zuverlässigkeit in allen Teams verbessern.

• Leiter der technischen Gesamtintegration NSC (National Secure Cloud, Projekt mit ca. 60 Mitarbeiter).

• Technische Integration von allen Subprojekten in ein Produkt, Definition von Schnittstellen, Basiskomponenten einer Cloud inklusive Hardware, technische Architektur der Basis IABG.

• Entwicklung eines Cloud Management Platforms (CMP), die in der Lage ist, Private/Mixed Cloud von beliebiger Komplexität anhand einer textuellen Beschreibung mit einem Click oder interaktiv zu erstellen.

• CMP beinhaltet auch den kompletten Zyklus Hardware Management.

• Als Basis wird Kubernetes, Openstack und Hadoop benutzt.

• Die Managementschicht beinhaltet Harbor, Gitea, Longhorn, Keycloak, Rancher und Jenkins, die automatisch konfiguriert sind.

• Privat Cloud kann beliebige Workloads von Kunden ausführen, darunter volle Hadoop Schicht mit HDFS, Spark, MapRed, Mezos, HBase und ca. 20 weiteren ML/DL Technologien.

• Hadoop Worker Cluster kann auch ohne Kubernetes on Bare Metal oder Commodity Hardware automatisch installiert werden.

• Openstack mit Nova, Neutron, Ironic, Swift, Cinder, Ceph.

• Entwicklung einer Java Anwendung Rudi: Soap, Rest, Containers, DB.

• Technologien: Kubernetes (K3s, Rke2, Minikube, Harbor, Gitea, Jenkins, Longhorn, Keycloak, Rancher), Openstack (Nova, Neutron, Keystone, Swift, Ceph, Cinder, Sahara, Magnum, Kayobe, Kolla, Bigrost, Ironic), Hadoop (HDFS, Ambari, Solr, Livy, Ranger, YARN, Tez, HBase, Kafka, Hive, Zookeeper, MapReduce, Spark, Oozie, Flink), Virtualizierung (Kubernetes (K3S), VMware, Oracle), Skripting (Ansible, Puppet, Juju, Shell, Groovy, Gradle, Maven).

• Lead-Architekt für die Gestaltung und Umsetzung des Data Lake und der ETL-Pipeline mit dem AWS-Stack
• Leistungsoptimierung der Datenaufnahme der ETL-Pipeline
• Entwicklung der Datenvalidierung mit Great Expectations
• Leitung der Datenmigration für zwei Quellsysteme
• Datenmodellierung in AWS Redshift

MLOps

• Implementierung der Modell-Inferenz mit mlflow und AWS SageMaker
• Feature Engineering für die laufenden ML-Modelle (Recommender Engineer, Clustering)
• Implementierung von Model Registry und Artifactory mit mlflow
• Historisierung und Profiling der Eingabedaten mit AWS Glue Crawler und AWS Data Catalog
• Feature Importance mit mlflow

Tech. Stack: Python 3, AWS Glue, AWS Step Function, AWS Lambda, AWS EventBridge, AWS IAM Role, AWS SageMaker, AWS EC2, AWS Glue Crawler, AWS CloudWatch, MLFlow, ETL, Data Lake, GitHub Action, Terraform, Jenkins, Ansible Playbooks (Infrastructure as Code), CI/CD, GitLab, SQL, PySpark, Scrum, Agile, Jira, Big Data, VSCode, DBeaver, MSSQL, MySQL, Grafana, Docker, Linux, Bash, MapReduce, Datenmodellierung (ORM), Pandas, YAML, SQL-Alchemy

• Erstellte und verfeinerte technische und compliance-orientierte Datensätze für KI und stellte eine hochwertige, strukturierte Dokumentation sicher.
• Führte Supervised Fine-Tuning (SFT) und RLHF-Aufgaben durch und hielt strikte Vorgaben aus Industrie- und Sicherheitsrichtlinien ein.
• Erstellte detaillierte technische Berichte und Feedback für Audit- und QA-Teams.
• Arbeitete mit funktionsübergreifenden Teams an Dokumentationsstrategien für großangelegte KI-Bereitstellungen zusammen.