Fine-Tuning-Experten in München

Mitgründung eines KI-nativen Startups für Sprachenlernen sowie Definition der Produktvision, KI-Architektur und technischen Roadmap. Entwicklung und Aufbau des KI- und Backend-Stacks einschließlich Pipelines zur Feinabstimmung von LLMs, individueller agentischer Workflows und skalierbarer Inferenzinfrastruktur. Das erste Produkt befindet sich derzeit in einer privaten Betaphase.

• Modelle für Chatbots, NLP und LLMs (z. B. Llama, Qwen, OpenAI) erforschen und entwickeln
• Chatbots mit RAG und In-Context Learning verbessern
• Supervised Fine-Tuning (PEFT, LoRA), Huggingface oder Unsloth
• Fortgeschrittene Trainingsmethoden: Test-Time Training, (transduktives) Active Learning, Reinforcement Learning
• Serving mit hohem Durchsatz mit vLLM
• Embedding-Modelle anwenden (z. B. SentenceTransformers), Similarity-/Vektorsuche oder Vektor-DB oder Ranking (z. B. LlamaIndex, Faiss, LangChain)
• Synthetische Daten erzeugen und filtern, Clustering
• Halluzinationen erkennen
• Chatbot-Modelle bewerten (Rouge, BLEU, F1-Score, Recall, Precision)
• Visualisierung von Experimenten (matplotlib)

KI-gestützte Automatisierung der Einkäufe auf einer Druckerei-Website mit Auswahl von Lieferzeiten, Bestelloptionen, Bestellung, Bezahlung und Hochladen der Druckdaten aus der Lumiz-Cloud.

• Klärung von Projektzielen, Umfang und fachlichem Zielbild für den Aufbau der KI-basierten Wissensdatenbank.
• Ableitung der initialen Architektur- und Umsetzungsstrategie für den Zasterbot-Chatbot inklusive Abgrenzung von minimal funktionsfähigem Produkt (MVP) und Ausbaustufen.
• Erarbeitung eines fachlichen Zielbilds für den Aufbau einer strukturierten Wissensdatenbank und die Integration eines zukünftigen Chatbots.
• Ableitung und Priorisierung von Anwendungsfällen für die Informationsbeschaffung und -bereitstellung durch den Chatbot.
• Modellierung von Datenstrukturen und -flüssen zur effektiven Organisation der Wissensdatenbank auf der Base44-Plattform.
• Konzeption und Implementierung der Datenmodelle zur Speicherung und Verknüpfung relevanter Informationen.
• Entwicklung von Prozessen zur Extraktion, Analyse und Aufbereitung von Rohdaten für die Wissensdatenbank.
• Sicherstellung der Datenkonsistenz und -qualität als Grundlage für den zukünftigen Chatbot.
• Planung der Integration großer Sprachmodelle (LLMs) und Retrieval-Augmented Generation (RAG) für präzise und kontextbezogene Antworten.
• Implementierung von Funktionen zur Analyse und Darstellung von Daten aus der Wissensdatenbank.
• Nutzung der Base44-Plattform mit JSON-Schema-basierten Entitäten und flexiblem Berechtigungskonzept.
• Implementierung von Deno-Funktionen für Backend-Logik, Eventverarbeitung und Anbindung externer APIs.
• Integration von OpenAI-Services für die initiale Datenanalyse.

• Entwickelte und implementierte eine vollständige Machine-Learning-Pipeline zur Kundenabwanderungsprognose auf Basis des Telco-Datensatzes.
• Wandte Vorverarbeitungstechniken an, darunter Behandlung fehlender Werte, kategoriale Kodierung, Feature Scaling und PCA.
• Baute und verglich über 15 Modelle (Logistic Regression, Random Forest, XGBoost usw.) und bewertete sie anhand von Accuracy, Precision, Recall, F1-Score, ROC-AUC und PR-AUC.
• Stimmte Hyperparameter mit GridSearchCV ab und erreichte 80,6 % Accuracy mit Random Forest und XGBoost.
• Erstellte visuelle Berichte (Balkendiagramme, Heatmaps, Radardiagramme), um die Modellleistung und die Abwanderungstreiber zu interpretieren.
• Exportierte wiederverwendbare Pipelines und trainierte Modelle mit joblib für die Bereitstellung.

• Mitgegründet ein KI-Startup mit Fokus auf die Entwicklung produktionsreifer LLM-Anwendungen und Agentensysteme
• Entworfen und implementiert Multi-Agent-KI-Workflows für Finanz- und Handelsanwendungen
• Entwickelt LLM-basierte Copilot-Architekturen für Portfolioanalyse, Handelsverwaltung und personalisiertes Nutzercoaching
• Entwickelt On-Device- und Edge-Inferenzanwendungen, optimierte Modelle für geringe Latenz, Datenschutz und ressourcenbeschränkte Umgebungen
• Geleitet Architekturentscheidungen zur Modellauswahl, Orchestrierung, Zustandsverwaltung und Bereitstellung

• Entwarf und bewertete hochwertige Prompts und Ausgaben für Große Sprachmodelle (LLMs) mit Fokus auf höhere Antwortgenauigkeit, Befolgung von Anweisungen und sachliche Konsistenz.
• Annotierte und bewertete LLM-generierte Ausgaben hinsichtlich Grammatik, Kohärenz, Relevanz und Wahrheitsgehalt.
• Erstellte Präferenzdaten im RLHF-Stil, indem Modellantworten gerankt wurden, um Reinforcement-Learning-Feintuningzyklen zu unterstützen.
• Beteiligte mich an Prompt-Engineering-Experimenten, um die Auswirkungen von Anweisungsformat, Ausführlichkeit und Formulierung auf das Modellverhalten zu bewerten.
• Führte Fehleranalysen und Qualitätssicherung an groß angelegten NLP-Datensätzen durch und identifizierte Randfälle sowie sprachliche Mehrdeutigkeiten, die die Leistung von LLMs beeinflussen.

• Erstellte und verfeinerte technische und compliance-orientierte Datensätze für KI und stellte eine hochwertige, strukturierte Dokumentation sicher.
• Führte Supervised Fine-Tuning (SFT) und RLHF-Aufgaben durch und hielt strikte Vorgaben aus Industrie- und Sicherheitsrichtlinien ein.
• Erstellte detaillierte technische Berichte und Feedback für Audit- und QA-Teams.
• Arbeitete mit funktionsübergreifenden Teams an Dokumentationsstrategien für großangelegte KI-Bereitstellungen zusammen.

• Entwarf und implementierte multimodale Unterhaltungstoolchains, die Passagierinput, Fahrzeugkontext, Large-Language-Modelle (Text-zu-Text und Sprache-zu-Sprache) sowie Bildgenerierungsmodelle kombinieren, um interaktivere und immersivere In-Car-Erlebnisse zu bieten.
• Entwickelte und orchestrierte Tools für LLM-basierte Agenten, inklusive Sitzungsverwaltung, Hintergrundaufgaben, dynamischer Nutzerinteraktionen und persistentem Anwendungszustand.
• Untersuchte Multi-Agenten-Orchestrierungsframeworks für In-Car-Umgebungen, bewertete Kommunikationsprotokolle und Architekturstrategien für koordinierte und zuverlässige Agentenverhalten.

• Dozent für den Zertifizierungslehrgang KI Manager in Versicherungen

• Konzipierte und implementierte eine Enterprise-KI-Agentenplattform auf Basis einer Retrieval Augmented Generation (RAG)-Architektur, um Einblicke in klinische Daten zu verbessern.
• Errichtete robuste CI/CD-Pipelines für LLM-Anwendungen mit CDK und Jenkins und verkürzte dadurch die Bereitstellungszeiten deutlich.
• Führte umfassende Observability-Lösungen ein, die die Zuverlässigkeit der Agenten in pharmazeutischen Umgebungen steigerten.
• Entwickelte skalierbare KI-Workflows mit fortschrittlicher Orchestrierung, die das Kontextmanagement für Unternehmensdatenquellen optimierten.
• Technologien: KI-Agenten (LangChain, LangGraph, Bedrock, Smolagents, Streamlit); LLM-Betrieb (Tracing, Testing, Evaluation, LangSmith, LangFuse); Infrastructure-as-Code (AWS CDK, Terraform, Typescript, Jenkins); Vektoren, Einbettungen, RAG (OpenSearch, pgvector, PDF-Extraktion)

• Agiler Aufbau einer multimodalen Analyseplattform für Trainingsmaterial (Video, Audio, Dokumente) nach Scrum
• Extraktion kontext-relevanter Inhalte basierend auf Nutzerprofilen & Kompetenzdimensionen
• Personalisierte Ausspielung von Lerninhalten zur Steigerung der Vertriebsperformance
• Enge Abstimmung mit Sales-Teams & Stakeholdern zur Validierung der Features
• Einsatz von Gemini, Whisper, Python & JavaScript, Deployment auf AWS, Perl für Skripte zur Datenübernahme
• Integration in bestehende Tools & CRM-Systeme zur reibungslosen Einführung
• Genutzte Technologien: Python, OpenAI, Datenbanktechnologien wie PostgreSQL, CI/CD für Airflow-DAGs, FastAPI

• Softwareentwicklung eines B2B-SaaS zur KI-basierten Suche in internen Kandidatenpools von Personalberatungen
• Konzeption als mandantenfähige, hybride Architektur mit eigenen GPU-Servern und sicherer Cloud-Anbindung
• KI-Engineering
• LLMOps
• Python
• FastAPI