Hugging Face Experten in München

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

• Governed Multi-Agent-Orchestrierung für regulierte, in der EU ansässige Unternehmen – selbst hostbar, EU-AI-Act- und DSGVO-konform („by design“), BYOM (eigene Modelle/GPU).
• Zwei-Gate-Governance: Agenten-Deliberation + verpflichtende menschliche Freigabe, vollständiger signierter Audit-Trail; Graduated-Autonomy-Modell („intern → autonom pro Skill“).
• Verifizierter Wissensgraph („Company Brain“) mit Quellenbeleg pro Antwort; eigenes Orchestrierungs-Framework (Virtual Team Framework).
• Branchenlösungen für Financial Services: Compliance-Monitoring, Rechnungs- und Vertragsprüfung; praktische Entwicklung mit LLMs (u.a. Anthropic/Claude), agentischen Workflows, RAG.
• Aufbau der governance-orientierten Multi-Agenten-Plattform TeamIntel (siehe KI-Referenzprojekte).

KI-gestützte Automatisierung der Einkäufe auf einer Druckerei-Website mit Auswahl von Lieferzeiten, Bestelloptionen, Bestellung, Bezahlung und Hochladen der Druckdaten aus der Lumiz-Cloud.

• Integration der LangChain-Middleware zwischen AEM und SAP-PIM-System
• Entwicklung einer FastAPI-Schnittstelle für die Systemkommunikation
• Implementierung von Vektor-Embeddings für die semantische Produktsuche
• Evaluation von LLM-Modellen (Vertex AI/Gemini, LM Studio, Hugging Face, OpenAI) für Produktanalysen
• Entwicklung einer AEM-Komponente zur Anzeige von Produktempfehlungen und Integration der Empfehlungs-API in den AEM-Authoring-Prozess
• Konzeption und Implementierung einer Pinecone-Vektordatenbank für Produkt-Embeddings
• Optimierung von Antwortzeiten und Caching-Strategien
• Evaluation von Vertex AI Studio für LLM-Tests und Prompt-Workflows
• Umsetzung sicherer API-Routing- und Zugriffskontrollen für KI-Komponenten per FastAPI und Gateway-Validierung

• Konzeption und Implementierung von KI-Agenten in der AWS-Cloud
• Kontinuierliche Abstimmung mit Stakeholdern
• Zusammenarbeit mit DevOps
• Technologien: Git, CI/CD (GitHub Actions), Python/ML, Streamlit, Deno/TypeScript, AWS SAM, AWS Bedrock, AWS Lambda, AWS DynamoDB, AWS S3, AWS EventBridge usw.

• Mitgegründet ein KI-Startup mit Fokus auf die Entwicklung produktionsreifer LLM-Anwendungen und Agentensysteme
• Entworfen und implementiert Multi-Agent-KI-Workflows für Finanz- und Handelsanwendungen
• Entwickelt LLM-basierte Copilot-Architekturen für Portfolioanalyse, Handelsverwaltung und personalisiertes Nutzercoaching
• Entwickelt On-Device- und Edge-Inferenzanwendungen, optimierte Modelle für geringe Latenz, Datenschutz und ressourcenbeschränkte Umgebungen
• Geleitet Architekturentscheidungen zur Modellauswahl, Orchestrierung, Zustandsverwaltung und Bereitstellung

• Entwicklung von Software-Tools im EICACS-Programm (LDACS-Projekt) zur Unterstützung sicherer Avionikkommunikation.
• Aufbau von Python-basierten Automatisierungs- und Überwachungsdiensten zur Validierung von KI-Komponenten gemäß Trustable-AI-Richtlinien.
• Konzeption von CI/CD- und Test-Pipelines, die die Reproduzierbarkeit und Zuverlässigkeit in allen Teams verbessern.

• Entwarf und implementierte multimodale Unterhaltungstoolchains, die Passagierinput, Fahrzeugkontext, Large-Language-Modelle (Text-zu-Text und Sprache-zu-Sprache) sowie Bildgenerierungsmodelle kombinieren, um interaktivere und immersivere In-Car-Erlebnisse zu bieten.
• Entwickelte und orchestrierte Tools für LLM-basierte Agenten, inklusive Sitzungsverwaltung, Hintergrundaufgaben, dynamischer Nutzerinteraktionen und persistentem Anwendungszustand.
• Untersuchte Multi-Agenten-Orchestrierungsframeworks für In-Car-Umgebungen, bewertete Kommunikationsprotokolle und Architekturstrategien für koordinierte und zuverlässige Agentenverhalten.

• Integrierten Ansatz zur Erkennung von Strukturschäden in Beton, Stahl und Glas eingeführt, basierend auf Technologien wie LiDAR und Wärmebildgebung. Wechselwirkungen zwischen Materialien hervorgehoben, um Diagnosen zu verbessern und Predictive Maintenance zu ermöglichen.

• NLP-basierten Medical Note Simplifier entwickelt, der komplexe klinische Anweisungen in einfaches, kindgerechtes Englisch umwandelt. Dabei Prompt Engineering mit Flan-T5-Transformermodellen angewendet, um patientenrelevante Maßnahmen zu extrahieren und als klare To-Do-Punkte umzuformulieren. Zwei Backends mit Flask und Tornado aufgebaut und eine druckbare Weboberfläche erstellt.

• Erforsche und entwickle Modelle für Chatbots, NLP und LLMs (z. B. Llama, Qwen, OpenAI)
• Verbessere Chatbots mit RAG und In-Context-Learning
• Überwachtes Fine-Tuning (PEFT, LoRA) mit Huggingface oder Unsloth
• Fortgeschrittene Trainingsmethoden: Test-Time-Training, (transduktives) aktives Lernen, verstärkendes Lernen
• High-Throughput-Serving mit vLLM
• Anwenden von Embedding-Modellen (z. B. SentenceTransformers), Ähnlichkeits-/Vektorsuche, Vektor-Datenbanken oder Ranking (z. B. LlamaIndex, Faiss, LangChain)
• Generieren und Filtern synthetischer Daten, Clustering
• Erkennen von Halluzinationen
• Evaluierung von Chatbot-Modellen (ROUGE, BLEU, F1-Score, Recall, Precision)
• Visualisierung von Experimenten (matplotlib)

• Leitung multidisziplinärer Engineering-Teams bei der Entwicklung von Medizinprodukten der nächsten Generation
• Steuerung von Forschungsinitiativen und Technologieroadmaps zur Bereitstellung innovativer medizinischer Lösungen
• Überwachung des F&E-Budgets und Management von Projektportfolios von der Konzepterstellung bis zur Markteinführung
• Aufbau strategischer Kooperationen mit klinischen Partnern zur Technologievalidierung

• Generierte synthetische Datensätze für CXR, Mammografie und die Erkennung distaler Radiusfrakturen mit GANs und Diffusion und erstellte >50k synthetische Bilder für Benchmarking.
• Sicherung DSGVO-konformer Workflows und Reproduzierbarkeit, sodass der Datensatz für interne Validierung und akademische Zusammenarbeit genutzt werden konnte.
• Projekt im internen F&E-Showcase von MedTank als Vorzeigeinitiative für synthetische Daten hervorgehoben.

• Agiler Aufbau einer multimodalen Analyseplattform für Trainingsmaterial (Video, Audio, Dokumente) nach Scrum
• Extraktion kontext-relevanter Inhalte basierend auf Nutzerprofilen & Kompetenzdimensionen
• Personalisierte Ausspielung von Lerninhalten zur Steigerung der Vertriebsperformance
• Enge Abstimmung mit Sales-Teams & Stakeholdern zur Validierung der Features
• Einsatz von Gemini, Whisper, Python & JavaScript, Deployment auf AWS, Perl für Skripte zur Datenübernahme
• Integration in bestehende Tools & CRM-Systeme zur reibungslosen Einführung
• Genutzte Technologien: Python, OpenAI, Datenbanktechnologien wie PostgreSQL, CI/CD für Airflow-DAGs, FastAPI

• Leiter der technischen Gesamtintegration NSC (National Secure Cloud, Projekt mit ca. 60 Mitarbeitern).

• Technische Integration aller Subprojekte in ein Produkt, Definition von Schnittstellen, Basiskomponenten einer Cloud inklusive Hardware, technische Architektur der Basis IABG.

• Entwicklung einer Cloud-Management-Plattform (CMP), die in der Lage ist, Private/Mixed-Cloud beliebiger Komplexität anhand einer textuellen Beschreibung per Klick oder interaktiv zu erstellen.

• CMP beinhaltet auch den kompletten Zyklus des Hardware-Managements.

• Als Basis werden Kubernetes, OpenStack und Hadoop eingesetzt.

• Die Managementschicht umfasst Harbor, Gitea, Longhorn, Keycloak, Rancher und Jenkins, die automatisch konfiguriert sind.

• Private Cloud kann beliebige Workloads von Kunden ausführen, darunter die komplette Hadoop-Schicht mit HDFS, Spark, MapReduce, Mesos, HBase und ca. 20 weiteren ML-/DL-Technologien.

• Hadoop-Worker-Cluster können auch ohne Kubernetes auf Bare Metal oder Standardhardware automatisch installiert werden.

• OpenStack mit Nova, Neutron, Ironic, Swift, Cinder und Ceph.

• Entwicklung einer Java-Anwendung Rudi: SOAP, REST, Container, DB.

• Technologien: Kubernetes (K3s, Rke2, Minikube, Harbor, Gitea, Jenkins, Longhorn, Keycloak, Rancher), OpenStack (Nova, Neutron, Keystone, Swift, Ceph, Cinder, Sahara, Magnum, Kayobe, Kolla, Bigrost, Ironic), Hadoop (HDFS, Ambari, Solr, Livy, Ranger, YARN, Tez, HBase, Kafka, Hive, Zookeeper, MapReduce, Spark, Oozie, Flink), Virtualisierung (Kubernetes (K3s), VMware, Oracle), Skripting (Ansible, Puppet, Juju, Shell, Groovy, Gradle, Maven).