Azure Machine Learning Experten in Deutschland

• Konzeption und Entwicklung einer Multi-Tenant-SaaS-Plattform, mit der Unternehmen ihre eigenen Wissensdatenbanken aufbauen und mit individuell gebrandeten KI-Assistenten chatten können (White-Label-Ansatz mit dynamischem Branding pro Organisation).
• Implementierung einer skalierbaren RAG-Architektur mit einer GPT-4o-Tool-Use-Loop, hybrider semantischer Suche und strikter Mandantentrennung auf Datenbank- und Suchindex-Ebene.
• Aufbau persistenter, projektähnlicher Chat-Sessions inklusive Streaming-API (SSE), mehrsprachiger Unterstützung sowie Sprach-Ein- und Ausgabe (STT/TTS).
• Bereitstellung der Cloud-Infrastruktur als Infrastructure-as-Code, vollständig automatisierte CI/CD-Pipelines pro Kunde und ein Onboarding-Prozess für neue Mandanten.

Verwendete Technologien: Python, FastAPI, Pydantic (v2 noted), Next.js, React, TypeScript, Tailwind CSS, OpenAI / LLMs (GPT-4o), Azure AI Search, Cosmos DB, Azure Blob Storage, Azure Cognitive Services Speech, Azure App Service, Azure Container Registry, Retrieval-Augmented Generation (RAG), Server-Sent Events (SSE), Docker, Terraform, GitHub Actions, REST, OpenID Connect (OIDC), Multi-Tenancy

• Architektur der Azure Landing Zone: Entwurf und Implementierung einer Azure Landing Zone mit Hub-and-Spoke-Architektur und Unterstützung mehrerer Regionen. Sie bildet die sichere, skalierbare und hochverfügbare Grundlage für Daten- und ML-Plattformen für autonomes Fahren und Parken.
• Compliance mit Azure Policy: Durchsetzung von Sicherheits- und Compliance-Standards über Azure-Abonnements hinweg mit Azure Policy (Guardrails, deny/audit/deploy-if-not-exists), wobei konstant sehr hohe Sicherheitsbewertungen der Infrastruktur erreicht wurden.
• Infrastructure-as-Code: Automatisierung der Bereitstellung und Konfiguration von Azure-Ressourcen mit Terraform und Bicep; Änderungen werden über geprüfte CI/CD-Pipelines ausgerollt.
• Azure Databricks und Unity Catalog: Umfassende Erfahrung im Betrieb von Azure Databricks mit Unity Catalog für zentrale Data Governance, Zugriffskontrolle, Datenherkunft und Auditing über mehrere Workspaces hinweg.
• Monitoring und Observability: Aufbau und Betrieb von Infrastruktur-Monitoring und Logging mit Azure Monitor, Prometheus, Grafana und Loki, einschließlich Plattformzustand, Alarmierung, Fehleranalyse und Kapazitätsentwicklung.
• Plattform im großen Maßstab: Architektur und Betrieb von Cloud-Daten- und ML-Plattformen zur Verarbeitung und Simulation von Fahrzeugdaten im PB-Bereich; Orchestrierung von auf Argo Workflows basierenden Recompute- und Autolabeling-Services mit einer Skalierung auf mehr als 100k+ gleichzeitig laufende Pods auf AKS.
• Reproduzierbares ML: Aufbau reproduzierbarer Trainingsumgebungen mit Versionierung von Datensätzen und Nachverfolgung der Datenherkunft, wodurch Audits und zuverlässige Experimente ermöglicht werden.
• Operative Exzellenz: Automatisierung der Verwaltung von GitHub-Organisationen und CI/CD-Pipelines zur Verbesserung der Entwicklerproduktivität und Zuverlässigkeit von Deployments; Automatisierung wiederkehrender Betriebsprozesse.
• FinOps: Entwicklung einer transparenten Ressourcen- und Kostenverfolgung für Azure-Umgebungen mit mehreren Projekten.
• Führung: Technische Leitung für Infrastrukturthemen in Zusammenarbeit mit Entwicklungs-, DevOps- und Sicherheitsteams; technischer Interviewer und Mitglied des Recruiting-Gremiums zum Ausbau des Engineering-Teams.

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

Entwicklung eines Routenplaners zur Störungskommunikation.

• Entwicklung der REST-API
• Aufbau eines Patch-Systems zur Pflege des Routing-Graphen
• Erweiterung der Testinfrastruktur
• Performance- und Speicheroptimierung (JMeter, JFR)

Technologien: Java 21, Spring Boot, JGraphT, Flyway, MapStruct, Caffeine, ShedLock, JMeter, Kubernetes, JFR

Kunden: CARIAD, AUDI AG

• Entwicklung und Bereitstellung von Enterprise-MLOps-Pipelines mit Azure Machine Learning und Databricks. Verkürzung der Modell-Release-Zyklen um 95 Prozent, von vier Wochen auf zwei Tage, durch automatisierte CI-CD-Workflows.
• Bereitstellung cloudnativer DevOps-Plattformen für ADAS-Programme mit Azure-Datendiensten, Kubernetes und Terraform-basierter Infrastrukturprovisionierung.
• Entwicklung von Hochverfügbarkeitsarchitekturen mit automatischem Failover. Reduzierung der Systemausfallzeit um 85 Prozent für geschäftskritische Energiehandelsplattformen.
• Entwicklung und Integration von KI-Agenten und Enterprise-Chatbots mit LangChain, AutoGPT und GPT-Modellen. Ermöglichung autonomer Workflows und entscheidungsbasierter Automatisierung.
• Reduzierung der Cloud-Infrastrukturausgaben um 40 Prozent durch Autoscaling-Strategien, Nutzung von Spot-Instanzen und richtlinienbasierter Ressourcenverwaltung in Azure und AWS.
• Zusammenarbeit mit Data Scientists, ML Engineers, Product Managern und Führungskräften bei der Bereitstellung groß angelegter Lösungen für die Automobil- und Energiebranche.
• Implementierung von GitOps-basierten CI-CD-Pipelines zur Unterstützung der Auslieferung von Automobilsoftware für über 500 Ingenieure in verteilten Produktteams.
• Entwicklung und Betrieb von Kubernetes-Plattformen auf Azure AKS. Verbesserung der Deployment-Stabilität und Reduzierung von Rollback-Ereignissen um 70 Prozent.
• Implementierung von Observability- und Monitoring-Stacks mit Prometheus, Grafana und Azure Monitor. Erreichung von Serviceverfügbarkeitszielen von 99.9 Prozent.

• Verantwortlich für die Full-Stack-Entwicklung einer AI-native Unternehmensplattform auf Basis von TypeScript, React, Vite, tRPC, Hono und PostgreSQL, die KI-gestützte Beratungs-Workflows für B2B-Kunden liefert.
• Entwarf und lieferte ein Multi-Agenten-KI-System mit dem ReAct-Framework und Claude-Skills-Workflow-Mustern, inklusive eines intelligenten PM-Assistenten mit umfangreichen System-Prompts, Slash-Befehlen, Tool-Integrationen und Streaming-Chat-Oberfläche.
• Entwickelte ein LLM-Bewertungs-Framework: rubrikbasierte LLM-als-Richter, Golden Datasets, Regressionstests und automatisierte Qualitätssicherung — für konsistente KI-Ausgabequalität in großem Maßstab.
• Integrierte LangFuse für durchgehendes LLM-Tracking, Konversations-Wiedergaben und Bewertungs-Pipelines, was datengetriebene Prompt-Optimierung ermöglichte und Token-Kosten sowie Antwort-Varianz reduzierte.
• Implementierte Drizzle ORM, pgvector und Knowledge Graphs für strukturierten Datenzugriff, semantische Suche und beziehungsorientiertes KI-Schlussfolgern über die gesamte Plattform.
• Führte die TanStack React Query-Migration in der gesamten Anwendung durch — ersetzte manuelles State-Management durch zentrales Caching und automatisches Refetching, was den Boilerplate-Aufwand für Datenabrufe deutlich reduzierte.
• Setzte AI-native Entwicklung durchgehend ein: Claude Code, Codex, Perplexity SDK und LLM-unterstütztes Testing im gesamten Entwicklungszyklus. Deployment auf Vercel + Azure ACA mit Biome für Linting/Formatting.

• Entwickelte ein Bewertungsframework für KI-generierte Multiview-Fahrvideos, das für Wahrnehmungs- und Embodied-AI/VLA-bezogene Trainingsworkflows gedacht ist.
• Entwarf automatisierte Prüfungen für zeitliche Kohärenz, Kamerakonsistenz, semantische Korrektheit und geometrische Multiview-Qualität und deckte dabei Ausfallmodi auf, die für autonome Systeme relevant sind.
• Kombinierte klassische Computer Vision, gelernte visuelle Repräsentationen und Vision-Language-Modelle, um komplexe Videoartefakte in messbare technische Signale zu überführen.
• Aufbau wiederholbarer Benchmarking- und Fehleranalyse-Workflows zur Unterstützung von Modellvergleichen, Datenqualitätsentscheidungen und Systemverbesserungs-Diskussionen.

• Führung der Cloud- und Data-Engineering-Organisation und Festlegung der Architekturstrategie für Next-Generation-Datenplattformen
• Entwurf und Bereitstellung eines Datenmanagementsystems für Fahrzeugflotten mit skalierbaren Ingestion-Pipelines, Signal-Katalogverwaltung und Kampagnen-Workflows
• Aufbau cloud-nativer Microservices und Streaming-Architekturen zur Verarbeitung von Echtzeit-Fahrzeugdaten und KI-gestützter Bedrohungserkennung
• Etablierung von Engineering-Standards für Datenqualität, Sicherheit, Data Lineage und Governance in Übereinstimmung mit ISO/SAE 21434 und DSGVO
• Leitung von Engineering-Teams in den Bereichen Daten, Backend, Cloud und KI zur Sicherstellung einer gleichbleibenden Bereitstellung hochwertiger, produktionsreifer Lösungen

• Analyse großer Kraftwerksdaten zur Entwicklung und Optimierung von wichtigen Leistungskennzahlen (KPIs) zur Überwachung der Flottenleistung.
• Entwurf und Entwicklung interaktiver Power BI-Dashboards zur Echtzeiteinsicht in zentrale Geschäftskennzahlen, was die Entscheidungsprozesse in den Abteilungen verbessert.
• Zusammenarbeit mit Vor-Ort-Ingenieuren und dem Asset Management, um Leistungskennzahlen über mehrere Länder hinweg zu harmonisieren.
• Unterstützung von Digitalisierungsinitiativen durch Umsetzung datenbasierter Anwendungsfälle mit agilen Projektmanagementmethoden.
• Nutzung von OSIsoft PI-Systemen für Zeitreihenanalyse und Visualisierung zur Verbesserung der betrieblichen Einblicke.

• Entwurf und Umsetzung der agentischen KI-Architektur für eine unternehmensweite Plattform zur sicheren Bereitstellung von LLM-basierten Agenten
• Design und Implementierung von End-to-End RAG-Pipelines aus multiplen Quellen: Dokumentenaufbereitung, Chunking-Strategien für heterogene Dokumenttypen, Embedding, Retrieval mit Re-Ranking und robuste Prompt-Orchestrierung
• Modulares Context-Engineering-Framework mit Skill-Architektur, Kontext-Isolation und dynamischer Ressourcenverwaltung; Human-in-the-Loop-Kontrolle für Enterprise-Tool-Integrationen
• Aufbau der CI/CD-Pipeline, Test-Strategie, Tracing sowohl auf Software-Seite als auch automatisierte LLM- und Agenten-Evaluierungen, Red Team Testing und Tracing sowie Übergabe in reproduzierbaren Betrieb (ISO27001 und SOC2 konform)

• Entwickelte 12+ Seq2Seq-Modelle (LSTMs/GRUs), um ein KI-Modell zu trainieren, und unterstützte damit den KI-Agenten-Evaluationsanalysten sowie Online-Projekte in komplexen Systemen.
• Führte 15+ Experimente durch, um die Prognosegenauigkeit um 28% zu steigern, wandte analytisches Denken an und testete Modelle für QA und die Abdeckung von Randfällen.
• Untersuchte als Berater über 20 Fachartikel, um das Design großer Sprachmodelle zu steuern und logische Implikationen sowie die Übereinstimmung mit dem Fachgebiet sicherzustellen.
• Sparte 40% Rechenzeit durch Modellkompression mit einem wiederverwendbaren PyTorch-Framework ein und unterstützte Entwickler und Autoren dabei, Verbesserungen vorzuschlagen und Richtlinien zu optimieren.

• Entwicklung, Betrieb und Support von BI-Plattformen und Microservice-Architekturen
• Entwicklung eines Open-Source-BI-Planungstools

• Komplexe, KI-basierte Energiesystemmodelle in das Frontend-Framework integriert, was die Visualisierung von Erkenntnissen für mehr als 6 Schlüsselkunden ermöglichte und die Energienutzung maximierte.
• Energieeffizienz und Auslastung maximiert, indem der nahtlose Datenfluss zwischen KI-Modellen und der Benutzeroberfläche für schnelle, umsetzbare Berichte konzipiert wurde.