TensorFlow-Experten in München

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

• Aufbau, Implementierung und Vertrieb von automatisierten Data-Science-Lösungen wie Scorecard Factory und Prognose Factory
• Implementierung automatisierter End-to-End-Cloud-Prozesse
• Entwicklung von LLM- und NLP-Modellen
• Erstellung interaktiver Reports
• Betreuung nationaler und internationaler Großkonzerne sowie mittelständischer Firmen bei der Implementierung von ML-Projekten

• Spezifikation von Business Intelligence und KPIs sowie Erstellung eines Playbooks für 35 europäische Unternehmen.

• Data Engineering: Konzeption und Implementierung skalierbarer Datenpipelines
• Legacy-Migrationen zu Microsoft Fabric (Lakehouse, Dataflows Gen2, Pipelines)
• BO-Universe-Migrationen zu MS Fabric / Semantic Models / Power BI
• Taskforce für datengetriebene Transformationsprojekte nach Azure Fabric / Oracle / MSSQL

• Entwicklung einer leistungsstarken Anzeigenbereitstellung über Auktionen
• Ganzheitliche Optimierung der Anzeigenplatzierung (Multi-Campaign & Multi-Channel)
• Algorithmische Optimierung für NP-Hard/NP-e
• Multiple Knapsack Problem mit Nebenbedingungen
• Online-Schätzung von Parametern in stochastischen Umgebungen

Tools: Python, R, Kotlin, MILP/SAT/CP Solvers, Pytorch, Pandas, Docker

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

• Entwurf durchgängiger KI/ML-Lösungen mit starkem Fokus auf fortschrittliche LLM-Anwendungen, autonome agentische KI-Workflows mit dem MCP-Toolset, Berechnungen von vLM-Embeddings und robuste agentische RAG-Pipelines, um für Kunden aus verschiedenen Branchen einen konkreten Geschäftsnutzen zu schaffen.
• Entwicklung intelligenter agentischer KI-Workflows zur Automatisierung des Abrufs von Wissen und der Schlussfolgerungen für B2B-Kunden, um schneller Geschäftsnutzen zu erzielen.

• Entwicklung und Pflege von IT-Architekturen mit Embedded-Linux-Systemen.
• Design, Implementierung und Optimierung von Backend-Applikationen und skriptbasierten Lösungen.
• Analyse und Behebung von Störungen inklusive Troubleshooting und Anwenderbetreuung.
• Entwicklung und Umsetzung von Sicherheitskonzepten für Cloud-Lösungen.
• Administration von Netzwerken (DHCP, DNS, NTP, VPN).
• Technologien: Linux, PowerShell, Bash, Python, Ansible, Kubernetes, Gitlab CI.
• Methoden: Kanban.

Interne Systeme mit regulatorischen und sicherheitsrelevanten Anforderungen konnten nicht direkt durch KI-Tools für Incident-Triage, Fehlersuche und Dokumentationssuche genutzt werden. Ziel war die sichere Integration dieser Systeme über MCP unter Beibe...

• Entwicklung und Bewertung hochwertiger Prompts und Vervollständigungen für Large Language Models (LLMs), mit Schwerpunkt auf der Verbesserung der Antwortgenauigkeit, der Befolgung von Anweisungen und der faktischen Konsistenz.
• Annotation und Bewertung von durch LLMs erzeugten Ausgaben hinsichtlich Grammatik, Kohärenz, Relevanz und Wahrheitsgehalt.
• Erstellung von Präferenzdaten im RLHF-Stil durch die Rangfolge von Modellvervollständigungen zur Unterstützung von Feinabstimmungszyklen des verstärkenden Lernens.
• Teilnahme an Experimenten zum Prompt Engineering, um den Einfluss von Anweisungsformat, Ausführlichkeit und Formulierung auf das Modellverhalten zu untersuchen.
• Durchführung von Fehleranalysen und Qualitätssicherung bei groß angelegten NLP-Datensätzen sowie Identifizierung von Sonderfällen und sprachlicher Mehrdeutigkeit, die die LLM-Leistung beeinflussen.

• Einführung eines integrierten Ansatzes zur Erkennung struktureller Schäden in Beton, Stahl und Glas mithilfe fortschrittlicher Technologien wie LiDAR und Wärmebildgebung. Berücksichtigung materialübergreifender Wechselwirkungen zur Verbesserung der Diagnostik und Ermöglichung einer vorausschauenden Wartung.

• Entwicklung eines NLP-basierten medizinischen Notizvereinfachers, der komplexe klinische Anweisungen in einfaches Englisch auf Kinderniveau umwandelt. Anwendung von Prompt Engineering mit Flan-T5-Transformermodellen, um für Patienten relevante Maßnahmen zu extrahieren und in klare To-do-Punkte umzuschreiben. Entwicklung von Flask- und Tornado-Backends sowie einer druckbaren Weboberfläche.

• Modelle für Chatbots, NLP und LLMs (z. B. Llama, Qwen, OpenAI) erforschen und entwickeln
• Chatbots mit RAG und In-Context Learning verbessern
• Supervised Fine-Tuning (PEFT, LoRA), Huggingface oder Unsloth
• Fortgeschrittene Trainingsmethoden: Test-Time Training, (transduktives) Active Learning, Reinforcement Learning
• Serving mit hohem Durchsatz mit vLLM
• Embedding-Modelle anwenden (z. B. SentenceTransformers), Similarity-/Vektorsuche oder Vektor-DB oder Ranking (z. B. LlamaIndex, Faiss, LangChain)
• Synthetische Daten erzeugen und filtern, Clustering
• Halluzinationen erkennen
• Chatbot-Modelle bewerten (Rouge, BLEU, F1-Score, Recall, Precision)
• Visualisierung von Experimenten (matplotlib)

• Synthetische Datensätze für die Erkennung von CXR, Mammografien und distalen Radiusfrakturen mithilfe von GANs und Diffusionsmodellen generiert und dabei >50k synthetische Bilder für Benchmarking erstellt.
• DSGVO-konforme Prozesse und Reproduzierbarkeit sichergestellt, wodurch die Nutzung des Datensatzes für interne Validierungen und akademische Zusammenarbeit ermöglicht wurde.
• Das Projekt wurde in der internen R&D-Präsentation von MedTank als wegweisende Initiative für synthetische Daten vorgestellt.