CUDA-Experten in München

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

KI-gestützte Automatisierung der Einkäufe auf einer Druckerei-Website mit Auswahl von Lieferzeiten, Bestelloptionen, Bestellung, Bezahlung und Hochladen der Druckdaten aus der Lumiz-Cloud.

• Erforschung, Entwicklung und Umsetzung einer umfassenden Digitalstrategie zur Modernisierung und Beschleunigung der Abläufe eines Sportvereins mit rund 1300 Mitgliedern.

• Systemarchitektur & Implementierung: Konzeption und Aufbau einer zentralen, kostengünstigen und energieeffizienten ARM-basierten Serverinfrastruktur.

• Auswahl, Installation und Konfiguration von Open-Source-Lösungen für Wissensmanagement, Ticketbuchung und Mitgliederverwaltung.

• Entwarf und implementierte multimodale Unterhaltungstoolchains, die Passagierinput, Fahrzeugkontext, Large-Language-Modelle (Text-zu-Text und Sprache-zu-Sprache) sowie Bildgenerierungsmodelle kombinieren, um interaktivere und immersivere In-Car-Erlebnisse zu bieten.
• Entwickelte und orchestrierte Tools für LLM-basierte Agenten, inklusive Sitzungsverwaltung, Hintergrundaufgaben, dynamischer Nutzerinteraktionen und persistentem Anwendungszustand.
• Untersuchte Multi-Agenten-Orchestrierungsframeworks für In-Car-Umgebungen, bewertete Kommunikationsprotokolle und Architekturstrategien für koordinierte und zuverlässige Agentenverhalten.

• Aufbau des Unternehmens mit Fokus auf Connectivity für IIoT und Industrie 4.0, iRPA/Prozessautomatisierung, Advanced Robotics und Smart Systems, Sensors and Services
• Projektleitung und Software-Architektur für IoT-Gateway-Entwicklung (seit 2020) mit Protokollübersetzung, IT/OT-Konvergenz und GRC
• Entwicklung von RPA-Bots zur Automatisierung und Überwachung industrieller Prozesse mit agentischem AI-Ansatz (seit 2020)
• Implementierung von Unsupervised Clustering und Anomalieanalyse für Zeitreihendaten in BigData-Streaming-Pipelines (seit 2021)
• Einführung eines Docker-basierten Release-Trains für OTA-Updates mit DevSecOps und CI/CD (seit 2018)

• Vision-Language-Action-(VLA)- und Diffusion-Policy-Modelle auf NVIDIA Jetson Orin und Jetson Thor bereitgestellt und optimiert, um Echtzeit-Inferenz-Latenz-Ziele für humanoide Roboter-Steuerungsschleifen zu erreichen.
• TensorRT-Engine-Pipelines (PyTorch → ONNX → TensorRT) mit INT8/FP8 Post-Training-Quantisierung, Design von Kalibrierungsdatensätzen und quantisierungsbewusster Validierung aufgebaut, wodurch der Inferenz-Speicherbedarf auf Jetson um mehr als das 3-Fache reduziert wurde, ohne Genauigkeitsverlust.
• Eigene CUDA-C++-Plugins und CUDA Graphs für latenzdeterministische, echtzeitfähige Policy-Ausführung entwickelt – und damit harte Laufzeit- und Speichergrenzen auf eingebetteten GPU-Zielsystemen eingehalten.
• Eine Inferenz-Engine für VLA-Modelle auf Basis von llama.cpp entwickelt, die verschiedene VLA-Policies unter einer einzigen Runtime zusammenführt und jede als eine einzelne, selbst enthaltene GGUF verpackt, die kein Python oder PyTorch benötigt.
• GPU-Ausführung mit NVIDIA Nsight Systems und Nsight Compute profiliert und optimiert, CUDA-Kernel-Engpässe, Sättigung der Speicherbandbreite und SM-Auslastungsprobleme über Jetson-Orin- und Thor-Compute-Profile hinweg identifiziert und damit eine Performance-Optimierung über mehrere Schichten umgesetzt.