MLflow Experten in Deutschland

Projekt: Defekterzeugung auf Prüfstandsbildern von Metalloberflächen Umfeld: Automatisierte Sichtprüfung (AVI), Metallurgie & Fertigung

• Ziel & Umsetzung: Konzeption, Architektur und Training Generativer Adversarial Networks (Pix2PixHD / SPADE) zur Bild-zu-Bild-Transformation. Gezielte Generierung synthetischer Materialfehler (z. B. Risse, Einschlüsse, Zunder) auf rauen Metalloberflächen unter realen Prüfstands-Lichtverhältnissen zur datenschutzkonformen und effizienten Datensatz-Erweiterung (Data Augmentation).
• Technisches Design: Implementierung robuster Generative-AI- und Computer-Vision-Pipelines in Python und PyTorch. Nutzung von Semantic-Segmentation-Ansätzen zur maskengesteuerten Defektsynthese und nachgelagerter Evaluierung mittels EfficientDet-Objekterkennungs-Modellen.
• Business Impact: Massives Dataset-Upscaling (Faktor 10x) ohne zeit- und kostenintensive physische Prüfstandsläufe bei gleichzeitig drastisch gesteigerter Erkennungsleistung automatisierter Inspektionssysteme.

Eingesetzte Technologien & Skills: Python | PyTorch | SPADE | Pix2PixHD | EfficientDet | Machine Learning | Semantic Segmentation | Computer Vision

Auf Evidenz basierende Health-Intelligence-Plattform, die veröffentlichte Forschung in persönliche Gesundheitsprotokolle übersetzt. Sie bewertet 430 Gewohnheiten, Lebensmittel und Supplements anhand der Studien dahinter und passt den Score an, wenn sich die Evidenz ändert. Allein aufgebaut.

• Die tägliche Ingest-Pipeline über PubMed, bioRxiv und medRxiv aufgebaut: 43.000+ Papers aus 3.400+ Journals verarbeitet zu 230.000+ typisierten Evidenz-Claims, jeder einzelne zurückverfolgbar bis zur Studie, aus der er stammt.
• Das sechs Faktoren umfassende Evidenz-Scoring-Modell und das öffentliche Changelog dahinter entworfen, damit keine Empfehlung ohne die zugrunde liegenden Papers erscheint. Bis heute 23.000+ Score-Änderungen erfasst und erklärt.
• Das Entity-Informationsmodell aufgebaut, das jede Intervention mit ihren Mechanismen, Biomarkern und Outcomes verbindet: 118 Biomarker mit regionsspezifischen Referenzbereichen, 77 Mechanismen, 32 bewertete Outcomes.
• Die Personalisierungsschicht gebaut: Ingestion von Blutwerten, die Labor-PDFs mit einem Vision-Modell ausliest und Ergebnisse anhand der Aufwachzeit des Nutzers korrigiert, plus Integration von Oura, WHOOP und Withings für den täglichen Readiness-Kontext.
• Elf spezialisierte Review-Agents über Korpus und Codebase betrieben, für Paper-Kuration, Retrieval-Qualität, Health-Claim-Compliance über EU- und US-Regime hinweg sowie Security.
• Den Evidence Assistant ausgeliefert, einen RAG-Assistenten, der aus der Claim-Datenbank antwortet und die zugrunde liegenden Papers zitiert, plus eine B2B-Practitioner-Stufe, eine Expo React Native App und Lokalisierung in 3 Sprachen und 7 Märkten.

Stack: Next.js 16, TypeScript, Supabase, pgvector, Anthropic Claude, Vercel, DeepInfra.

• Entwicklung eines KI-gestützten Projektorganisationstools für ein Tiefbauunternehmen, das Projekt-, Aufgaben-, Ausschreibungs-, Terminund Dokumentendaten intelligent über einen Knowledge-Graphenverknüpft.
• Implementation von KI-Funktionen zur Dokumentenanalyse, Informationsextraktion, kontextbezogenen Assistenz und sprachbasierten Datenerfassung auf Basis von Microsoft Azure AI, wodurch administrative Aufwände reduziert, Informationen schneller zugänglich gemacht und Projektteams bei Entscheidungen unterstützt werden.
• Technologie-Stack: Python, React, TypeScript, FastAPI, Claude Code, Codex, Graphify, PostgreSQL, Microsoft Azure AI Foundry, Azure OpenAI, Azure AI Speech, Azure AI Document Intelligence, Microsoft Graph, Microsoft Entra ID, Docker, Git, CI/CD.

Entwickelte Python-basierte KI-Microservices und Integrationen für eine AEC/VR-SaaS-App auf Unity-Basis, mit Fokus auf LLM-/VLM-Funktionen, retrieval-gestützte Systeme, RESTful APIs, containerisierte Bereitstellung und einen Automatisierungs-Microservice für die CAD-zu-Unity-Pipeline.

• Entwickelte einen eigenen Hybrid-A*-Algorithmus in C#, um Hospitalszenarien zu simulieren und frühe Designkonflikte anhand von Kollisions- und Raumdaten zu erkennen sowie strukturierte Berichte zu erzeugen.
• Löste und automatisierte das zeitaufwändige Problem, CAD-Dateien in nutzbare Unity-Umgebungen zu überführen, mit einer eigens entwickelten Echtzeit-Pipeline und einer ZeroMQ-basierten Kommunikationsebene, um Lasten auf mehrere Prozesse zu verteilen und Echtzeitfähigkeit zu erreichen.
• Entwickelte eine Docker-basierte FastAPI-Pipeline für die CAD-zu-Unity-Automatisierung, die bildbasierte Objekterkennung, Image Embeddings und vorab berechnete Metadaten kombiniert, um CAD-Objekte automatisch Unity-Verhaltensskripten zuzuordnen, Eigenschaften zu setzen und wiederholte KI-Inferenzaufrufe zu reduzieren.
• Erstellte Dokumentation und Beispiele, um technischen Nutzern zu helfen, die KI-Automatisierungspipeline zu verstehen, zu konfigurieren und zu erweitern.

• TrendReel, Produktions-LLM-Agenten- und RAG-System (Python, LangChain, OpenAI, Groq/Llama 3, Claude, FastAPI, Kubernetes, PostgreSQL).
• Entwarf und baute ein produktives mehrstufiges LLM-Agentensystem: einen Script-Generierungs-Agenten mit einer plattformbezogenen Psychologie-Datenbank, 7 viralen Narrativ-Frameworks und strukturierter Qualitätsbewertung, der in Echtzeit je nach Ausgabemetriken zwischen Claude- und Groq-Backends wechselte.
• Implementierte Multi-Provider-LLM-Routing (Claude primär, Groq/Llama 3 Fallback) mit Priority-Chain-Failover und qualitätsbasiertem Provider-Wechsel und erreichte dabei eine Senkung der Inferenzkosten um 95 %, während messbare Qualitätsgrenzen eingehalten wurden.
• Aufbau einer fortschrittlichen RAG-artigen Retrieval-Pipeline mit Wissensbasen pro Plattform, semantischem Content-Matching und strukturierter Ausgabeevaluation über 7 Entscheidungs-Frameworks, direkt vergleichbar mit kontextbasiertem Reasoning in Multi-Tenant-Enterprise-Dokumenten-Workflows.
• BrainyAI, adaptive KI-Lernplattform (Python, LangChain, Groq Llama 3.3-70B, OpenAI, Next.js, Supabase, Redis).
• Integrierte Groq Llama 3.3-70B mit einem auf Bildungsniveau abgestimmten Prompting, wobei Wortschatz-Tiefe, Zitierkomplexität und Denkstil dynamisch über vier Leistungsstufen von Lernenden angepasst wurden.
• Nexus Prime, Multi-Tenant-SaaS-Plattform für Marketing- und Wachstumsautomatisierung (25 Module, 99 Backend-Router, 153 Frontend-Dateien).
• Aufbau einer 25-Modul-, 99-Router-Multi-Tenant-SaaS-Plattform für Ad-Remix, Affiliates, WhatsApp-Inbox, E-Mail und Warenkorbwiederherstellung, die vier Abo-Stufen von $199 bis $1,999 pro Monat mit integrierter Stripe-, Paystack- und Flutterwave-Abrechnung bedient.
• KI-Videoüberwachungsplattform, Multi-Tenant-Edge- und Cloud-Computer-Vision-System derzeit aktiv im Kundengespräch.
• Entwarf eine Multi-Tenant-KI-Videoüberwachungsplattform, die Edge-YOLO26-Inferenz auf NVIDIA Jetson Orin NX Boxen mit einer zentralen GKE-Cloud-Schicht (Postgres, Pub/Sub, ClickHouse, R2, Keycloak) für Ereignisspeicherung, Dashboards, Alarme und Multi-Tenancy kombiniert.

• Verantwortlich für die Full-Stack-Entwicklung einer AI-native Unternehmensplattform auf Basis von TypeScript, React, Vite, tRPC, Hono und PostgreSQL, die KI-gestützte Beratungs-Workflows für B2B-Kunden liefert.
• Entwarf und lieferte ein Multi-Agenten-KI-System mit dem ReAct-Framework und Claude-Skills-Workflow-Mustern, inklusive eines intelligenten PM-Assistenten mit umfangreichen System-Prompts, Slash-Befehlen, Tool-Integrationen und Streaming-Chat-Oberfläche.
• Entwickelte ein LLM-Bewertungs-Framework: rubrikbasierte LLM-als-Richter, Golden Datasets, Regressionstests und automatisierte Qualitätssicherung — für konsistente KI-Ausgabequalität in großem Maßstab.
• Integrierte LangFuse für durchgehendes LLM-Tracking, Konversations-Wiedergaben und Bewertungs-Pipelines, was datengetriebene Prompt-Optimierung ermöglichte und Token-Kosten sowie Antwort-Varianz reduzierte.
• Implementierte Drizzle ORM, pgvector und Knowledge Graphs für strukturierten Datenzugriff, semantische Suche und beziehungsorientiertes KI-Schlussfolgern über die gesamte Plattform.
• Führte die TanStack React Query-Migration in der gesamten Anwendung durch — ersetzte manuelles State-Management durch zentrales Caching und automatisches Refetching, was den Boilerplate-Aufwand für Datenabrufe deutlich reduzierte.
• Setzte AI-native Entwicklung durchgehend ein: Claude Code, Codex, Perplexity SDK und LLM-unterstütztes Testing im gesamten Entwicklungszyklus. Deployment auf Vercel + Azure ACA mit Biome für Linting/Formatting.

Unabhängige Engineering-Praxis mit Schwerpunkt auf kundenspezifischen KI-Systemen, produktiver Umsetzung und anteiliger technischer Leitung.

Ausgewähltes Kundenprojekt: Scalutions

• Rolle: Tätigkeit als anteiliger CTO und technischer Leiter mit direkter Entwicklungsverantwortung; verantwortlich für die Architektur und die agentische Infrastruktur hinter dem betreuten B2B-Outbound-Betrieb.

• Produkt: OutboundLoop entworfen und entwickelt, ein agentisches SDR-Betriebssystem für Recherche, Qualifizierung, personalisierte Ansprache, Kampagnenmanagement, menschliche Freigaben, Messung und kontinuierliche Verbesserung.

• Umfang: Verantwortung für den gesamten Systemlebenszyklus – von Geschäftsprozessen und Agentenverhalten über Kontextdesign, Modell-Routing, Integrationen, Evaluierung, Telemetrie, Zuverlässigkeit und Kostenkontrolle bis hin zum Produktivbetrieb.

• Proof-of-Concept für Echtzeit-Videoanalyse zur Bereitstellung auf NVIDIA Jetson Edge-Geräten entwickelt.
• DeepStream-Pipelines implementiert mit Objekterkennung, Tracking, menschlicher Posenschätzung, Gesichts-Anonymisierung und Bereichseinbruchserkennung.
• Qt/Python-Demo-UI erstellt, die über REST-APIs mit der KI-Pipeline kommuniziert.

• Konzipierte und entwickelte End-to-End-Machine-Learning-Pipelines für Klassifikations- und Vorhersagedaten und implementierte sie unter Einsatz von MLOps-Best Practices, um Robustheit und Reproduzierbarkeit zu gewährleisten.
• Trug direkt zur Verbesserung der Ausgabegenauigkeit von LLM-Modellen bei, indem ich spezialisierte Prompts entwickelte, die auf der Logik von End-to-End-ML- und SciML-Pipelines basieren.
• Erstellte Trainingsdaten für Large Language Models, indem ich Programmieraufgaben formulierte, die die Modelle nicht lösen konnten, und anschließend die richtigen Lösungen dokumentierte.

• Enterprise-Retrieval-Augmented-Generation-(RAG)-Anwendungen mit LangChain, LangGraph, Vektordatenbanken, Embeddings und Open-Source-LLMs entworfen und bereitgestellt, die über vLLM auf GCP-GPU-Infrastruktur betrieben wurden.
• Agentic-AI-Workflows mit LangGraph entwickelt, inklusive Planung, Schlussfolgern, Tool-Ausführung, persistenter Speicherung, Sitzungsverwaltung und Human-in-the-Loop-Freigabemechanismen.
• LLM-gestützte Automatisierungssysteme entwickelt, die BigQuery, SQL-Pipelines und externe Werbe-APIs wie Meta, TikTok, Amazon, Snapchat, Google und Pinterest integrieren und manuelle operative Abläufe reduzieren.
• Multi-Agent-AI-Systeme für Enterprise-Analytics- und Entscheidungsunterstützungs-Workflows entworfen, die autonome Aufgabenausführung und intelligente Dateninteraktionen ermöglichen.
• Retrieval-Optimierungsstrategien umgesetzt, darunter Multi-Retriever-Architekturen, semantische Suche, Kontextoptimierung und Query-Verbesserungstechniken, wodurch die Relevanz der Antworten um etwa 40 % verbessert wurde.
• Strukturierte Prompting-Strategien, Function-Calling-Schemata und Validierungs-Workflows entwickelt, um die Zuverlässigkeit von mehrstufigen LLM-Anwendungen zu verbessern.
• Skalierbare AI-Services mit Python, FastAPI, Cloud Run, Pub/Sub, BigQuery, Docker und cloud-nativen Bereitstellungsarchitekturen entworfen.

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

• Aufbau einer AI & Data Consultancy Practice mit dem Ziel, europäische Unternehmen bei der Adoption von Artificial Intelligence und modernen Datenplattformen zu unterstützen
• End-2-End Weiterentwicklung eines Produktivsystems unter Einsatz von modifizierten Coding-Agenten (OpenCode). Techstack: Kubernetes, Argo, Keycloak, Typescript, Grafana, GitOps, DevOps, Playwright
• Internes Forschungsprojekt zum Einsatz Coding Agenten im Bereich mathematischer Logik für das Erstellen von formalen Modellen. Einsatz von Cursor IDE und Codex, Codex CLI. Architektur-Entwurf, Qualitätskontrolle und Refactoring, sowie das Schreiben von Code und Tests. Repository (open source) in Pre-launch verfügbar
• Forschung zur Rolle von mathematischer Logik als formale Sprache, die IT und KI mit Unternehmensprozessen verbindet.
• Projektleiter für das Erheben und Ausspielen von Abstellempfehlungen für Schienenfahrzeuge mit erheblichem Einsparpotential auf Basis von Echtzeitdaten in einem Mobilitäts- und Verkehrskonzern
• Projektleiter für das Erheben und Verteilen von Prozess-Meßpunkten in der Bereitstellung für Echtzeitsteuerung in einem Mobilitäts- und Verkehrskonzern
• Stellvertretender Anwendungsverantwortlicher für eine App zur Kommunikation in der Zuführung und Bereitstellung von Schienenfahrzeugen

• Fractional Leadership; Beratung von Startups und Scale-ups in der Wachstumsphase zu Datenstrategie, ML-Produkten und Plattform-Grundlagen
• Aufbau von Entscheidungssystemen für Growth, Personalisierung und Produktexperimente in E-Commerce, Digital Health, Energie und Logistik
• Erforschung von Agentic AI und LLM-basierten Tools für produktionsreife Muster

• Leitung der KI-Entwicklung bei einem Aquakultur-Startup, Optimierung visueller Bewertungen von Schalentieren mit Machine Learning und Computer Vision.
• Entwicklung und systematische Bewertung von ML/CV-Algorithmen für den Zustand und die Morphometrie von Schalentieren, mit Python, Pytorch und MLFlow.
• Analyse der Modellleistung, einschließlich Identifizierung von Fehlermodi und Randfällen in Produktionsumgebungen.
• Entwurf von Annotationstrategien und Verfeinerung beschrifteter Datensätze für Computer-Vision-Aufgaben.
• Detaillierte Analyse der Systemleistung und Kommunikation der Ergebnisse in hochwertiger technischer Berichterstattung an Investoren und Kollegen in der Forschung und Entwicklung.
• Verantwortung für die Einhaltung und Umsetzung des technischen Fahrplans.