Llama-Experten in Deutschland

• Einführung von 5 verschiedene Prozess-Anwendungen für unterschiedliche Teams

• Planung von Release: Scope- und Zeit-Management

• Ressourcen-/Kapazitätsplanung

• Durchführung von Sprint-Planning / Retrospektiven

• Inkrement-Planung (mehrere Sprints)

• Vorbereitung Lenkungskreis-Meetings / Reporting an Vorstand

• Koordination / Abstimmung mit externen Lieferant / Lieferungen

• Ressourcenplanung Multi-Projekte

• Abstimmung mit Fachbereich und Entwicklungsteam

• Ermittlung der Best-Practice mit IBM BAW

• Kosten-Kontrolle und Planung des Projektteams und externer Dienstleister

• Erhebung KPIs mit Hilfe von LogScale

• Analyse von Anwendungsfehler mit LogScale / Queries

• User Story Definitionen / Abstimmung der Anforderung mit dem Fachbereich und Entwicklungsteam

• Tests und Fehler-Tracking

• UI/UX-Entwurf von Anwendung

• Vorbereitung und Moderation von Brown-Paper-Workshop

• Testkonzept, Testdaten, Testorganisation, Testdurchführung

• Erfassung von Team Velocity / Metriken

• Testdurchführung

• Skript für automatisiertes Testen

• Testorganisation mit Fachbereich und IT

• Erfassung und Priorisierung der Fehler

• Aufbau und Betrieb der Anwendung

• Aufbau von Monitoring der Anwendung mit LogScale Dashboards

• Überprüfung von Health-Endpoints mit PowerShell

• Post-Mortem-Analyse

• Aufbau Incident Management

• Aufbau Problem Management

• Analyse von Fehlern mit Hilfe von LogScale Queries und Dashboard

• Pre-Processing von Daten für die KI

• Durchführung der Evaluation mit KI-Sprachmodellen (Meta Llama 3.3 LLM und deepset Haystack) und RAG

• Installation Laufzeitumgebung für LLMs (Large Language Model)

• Evaluierung von verschiedenen LLMs

• Installation von RAG (Retrieval Augmented Generation) und Integration mit LLM

• Extraktion von unstrukturierten Daten mit LLM und RAG

• Projekt basiert auf IBM BAW (Business Automation Workflow), Websphere Liberty, Domea, d.3, REST, LogScale (ehemalig Humio), Swagger, Powershell, JIRA, Confluence, Lucom Interaction Platform (LIP), Mattermost, Jabber

• Eine neue Benachrichtigungsplattform von Grund auf entwickelt und implementiert, um bestehende und zukünftige Services zu ersetzen
• Zusammenarbeit mit anderen Teams zur Integration weiterer Fachbereiche

Tech-Stack:

• Daten: Scala 3, Apache Kafka, Python, Airflow, Astronomer
• BE-FE: TypeScript, NestJS, Java, Spring Boot, Vue
• DevOps: AWS, PostgreSQL, Docker, GitHub Actions, Kubernetes, Helm, ArgoCD

• Portfolioaufbau & Kundenakquise
• Portfolioaufbau (RAG, NLP-Fine-Tuning, Prozessautomatisierung mit n8n) und aktive Kundenakquise
• Positionierung: DSGVO-konforme, lokal gehostete KI-Lösungen für den Mittelstand

• Leitete die ganzheitliche Umsetzung von ML-/KI-Anwendungen für die QuantistryLab-Simulationsplattform – von der Anforderungsdefinition und Lösungsplanung über Entwicklung, Tests und Bereitstellung bis zur Unterstützung im Produktivbetrieb. Dabei koordinierte ich die Zusammenarbeit der Back-End-, DevOps- und ML-Teams.
• Entwarf und implementierte ein System zur Suche nach Verbindungen mit einem LLM mit offenen Gewichten, dem Agenten-Framework Pydantic AI und dem Model Context Protocol (MCP) und stellte es über FastAPI-Endpunkte bereit.
• Stellte den LLM-Service auf Basis von vLLM auf Kubernetes bereit und konfigurierte ihn.
• Entwickelte CI/CD-Pipelines und Helm-Charts, um Bereitstellungen in Staging- und Produktionsumgebungen zu automatisieren.
• Ergänzte das Suchsystem um OpenTelemetry-Spans und -Traces und integrierte es in die Observability-Plattform Honeycomb, um die Latenz einzelner Komponenten und Funktionsfehler zu überwachen.
• Entwickelte einen benutzerdefinierten Evaluierungsdatensatz und setzte Auswertungen für die Relevanz der Suchergebnisse, die Richtigkeit der Antworten, die Genauigkeit von Tool-Aufrufen und den Erfolg der Aufgaben von Anfang bis Ende um.
• Verkürzte die Vorhersagezeit für Infrarotspektren um 83 % (von 60 auf 10 Minuten), indem ich ein quantenmechanisches Modell durch ein vortrainiertes graph-neuronales Netzwerk ersetzte. Ich trainierte das Modell mit PyTorch weiter, entwickelte und containerisierte die Inferenzpipeline mit Docker und integrierte sie in die Plattform.
• Implementierte eine MLflow-Modellregistrierung mit MinIO-gestützter Artefaktspeicherung.
• Beriet Vertriebs- und Wissenschaftsteams zu ML-/KI-Anwendungen für potenzielle Kundenprojekte und brachte technisches Fachwissen in die Entwicklung vorgeschlagener Lösungen und Prototypen ein.

Technologien: AWS, Hetzner, Kubernetes, Helm, Docker, vLLM, Pydantic AI, MCP, Qwen, Llama 3, MLflow, MinIO, GitHub Actions, Python, FastAPI, OpenTelemetry, Honeycomb, PyTorch, Polars, pytest

• Feinabstimmung und Evaluierung alternativer Backbone-Architekturen für den AFFGAN-Handschriftsstil-Encoder, um schriftstellerspezifische Merkmale besser zu erfassen; Benchmarking gegenüber der ursprünglichen Baseline-Architektur und Ersetzung der veralteten VGG19-Architektur durch einen benutzerdefinierten Transformer-basierten Encoder.
• Erweiterung des Systems über die Synthese auf Wortebene hinaus zur zeilenweisen Handschriftgenerierung durch Integration und Anpassung einer bestehenden Zeilengenerierungsarchitektur zur Unterstützung vollständiger Sätze.
• Bereitstellung der Handschriftgenerierungspipeline als Webanwendung, mit der Nutzer einen Schreibstil auswählen, eigenen Text eingeben und sofort ein entsprechendes Handschriftbild erzeugen können.
• Integration von TrOCR in ein Teacher-Student-Destillierungsframework zur Bewertung und Verbesserung der Lesbarkeit generierter Handschrift; Verbesserung der OCR-Genauigkeit um 20% gegenüber der Baseline.
• Steigerung der Auswahlraten in Nutzerstudien um 40%, was eine deutliche Verbesserung der wahrgenommenen Qualität und des Realismus der generierten Handschrift gegenüber dem Baseline-Modell zeigt.

Technologien: PyTorch, Python, GANs, CNN, ViT, TrOCR, Streamlit, CUDA.

• Aufbau, Implementierung und Vertrieb von automatisierten Data-Science-Lösungen wie Scorecard Factory und Prognose Factory
• Implementierung automatisierter End-to-End-Cloud-Prozesse
• Entwicklung von LLM- und NLP-Modellen
• Erstellung interaktiver Reports
• Betreuung nationaler und internationaler Großkonzerne sowie mittelständischer Firmen bei der Implementierung von ML-Projekten

• ▶ Echtzeit-Sprachassistenten entwickelt (STT → LLM → TTS-Pipeline), mehrere STT-Anbieter einschließlich faster-whisper und Azure Speech getestet und bewertet. Latenz von unter 3 Sekunden erreicht, Groq API (Llama 3) mit Multi-Turn-Speicher eingesetzt – einschließlich direkter Behandlung von Sonderfällen bei Diktaten sowie der Erkennung von Namen und Zugangscodes.

• TrendReel, Produktions-LLM-Agenten- und RAG-System (Python, LangChain, OpenAI, Groq/Llama 3, Claude, FastAPI, Kubernetes, PostgreSQL).
• Entwarf und baute ein produktives mehrstufiges LLM-Agentensystem: einen Script-Generierungs-Agenten mit einer plattformbezogenen Psychologie-Datenbank, 7 viralen Narrativ-Frameworks und strukturierter Qualitätsbewertung, der in Echtzeit je nach Ausgabemetriken zwischen Claude- und Groq-Backends wechselte.
• Implementierte Multi-Provider-LLM-Routing (Claude primär, Groq/Llama 3 Fallback) mit Priority-Chain-Failover und qualitätsbasiertem Provider-Wechsel und erreichte dabei eine Senkung der Inferenzkosten um 95 %, während messbare Qualitätsgrenzen eingehalten wurden.
• Aufbau einer fortschrittlichen RAG-artigen Retrieval-Pipeline mit Wissensbasen pro Plattform, semantischem Content-Matching und strukturierter Ausgabeevaluation über 7 Entscheidungs-Frameworks, direkt vergleichbar mit kontextbasiertem Reasoning in Multi-Tenant-Enterprise-Dokumenten-Workflows.
• BrainyAI, adaptive KI-Lernplattform (Python, LangChain, Groq Llama 3.3-70B, OpenAI, Next.js, Supabase, Redis).
• Integrierte Groq Llama 3.3-70B mit einem auf Bildungsniveau abgestimmten Prompting, wobei Wortschatz-Tiefe, Zitierkomplexität und Denkstil dynamisch über vier Leistungsstufen von Lernenden angepasst wurden.
• Nexus Prime, Multi-Tenant-SaaS-Plattform für Marketing- und Wachstumsautomatisierung (25 Module, 99 Backend-Router, 153 Frontend-Dateien).
• Aufbau einer 25-Modul-, 99-Router-Multi-Tenant-SaaS-Plattform für Ad-Remix, Affiliates, WhatsApp-Inbox, E-Mail und Warenkorbwiederherstellung, die vier Abo-Stufen von $199 bis $1,999 pro Monat mit integrierter Stripe-, Paystack- und Flutterwave-Abrechnung bedient.
• KI-Videoüberwachungsplattform, Multi-Tenant-Edge- und Cloud-Computer-Vision-System derzeit aktiv im Kundengespräch.
• Entwarf eine Multi-Tenant-KI-Videoüberwachungsplattform, die Edge-YOLO26-Inferenz auf NVIDIA Jetson Orin NX Boxen mit einer zentralen GKE-Cloud-Schicht (Postgres, Pub/Sub, ClickHouse, R2, Keycloak) für Ereignisspeicherung, Dashboards, Alarme und Multi-Tenancy kombiniert.

• Weiterentwicklung und Betrieb eines zentralen Backend-Services zur Bereitstellung des Fahrzeugbestands für internationale Mercedes-Benz Online-Shops
• Weiterentwicklung eines Reservierungsservices für Fahrzeuge als Bestandteil des Checkout-Prozesses
• Konzeption und Umsetzung einer hochskalierbaren Ende-zu-Ende-Testarchitektur mit Fokus auf Wartbarkeit, Wiederverwendbarkeit und einer hohen Anzahl automatisierter Testfälle
• Entwicklung einer mehrschichtigen Testinfrastruktur mit konsequenter Trennung von Testlogik und Zugriffsschichten
• Entwicklung einer Initialisierungs- und Caching-Architektur zur erheblichen Beschleunigung lokaler sowie CI/CD-basierter Testausführungen
• Entwicklung einer KI-gestützten Review-Architektur zur automatisierten Bewertung und Qualitätssicherung von Ende-zu-Ende-Tests
• Entwicklung eines Dashboards zur konsolidierten Darstellung eines Fahrzeugkontextes über mehrere Backend-Systeme hinweg inklusive KI-generierter Zusammenfassungen und komprimierter Fallanalysen
• Integration und Weiterentwicklung der Anbindung verschiedener Reservierungssysteme über Apache Kafka und Rest
• Konzeption neuer Microservices sowie Unterstützung bei Architekturentscheidungen
• Risikoanalyse und Konzeption von Microservice-Migrationen
• Technologien: Java, Spring, Spring Boot, Gradle, Maven, Apache Kafka, Rest, OpenAPI, Swagger, Github, Confluence, CI/CD, Microservices, AI, LLMs

• Tätigkeit als technischer Berater zur Optimierung mehrschichtiger Ensemble-Modelle, die ResNet, CNN-BiGRU-Attention und XGBoost kombinieren.
• Begleitung der Implementierung eines Logistic-Regression-Meta-Learners zur Lösung von Problemen mit unausgeglichenen Klassen; dabei wurden 92.86% Genauigkeit und 0.9644 AUC bei den Datensätzen PTB-XL und Chapman-Shaoxing erreicht.

"Reasoning Models: Von den Grundlagen der LLMs zur NOC-Automatisierung."

• Enterprise-Retrieval-Augmented-Generation-(RAG)-Anwendungen mit LangChain, LangGraph, Vektordatenbanken, Embeddings und Open-Source-LLMs entworfen und bereitgestellt, die über vLLM auf GCP-GPU-Infrastruktur betrieben wurden.
• Agentic-AI-Workflows mit LangGraph entwickelt, inklusive Planung, Schlussfolgern, Tool-Ausführung, persistenter Speicherung, Sitzungsverwaltung und Human-in-the-Loop-Freigabemechanismen.
• LLM-gestützte Automatisierungssysteme entwickelt, die BigQuery, SQL-Pipelines und externe Werbe-APIs wie Meta, TikTok, Amazon, Snapchat, Google und Pinterest integrieren und manuelle operative Abläufe reduzieren.
• Multi-Agent-AI-Systeme für Enterprise-Analytics- und Entscheidungsunterstützungs-Workflows entworfen, die autonome Aufgabenausführung und intelligente Dateninteraktionen ermöglichen.
• Retrieval-Optimierungsstrategien umgesetzt, darunter Multi-Retriever-Architekturen, semantische Suche, Kontextoptimierung und Query-Verbesserungstechniken, wodurch die Relevanz der Antworten um etwa 40 % verbessert wurde.
• Strukturierte Prompting-Strategien, Function-Calling-Schemata und Validierungs-Workflows entwickelt, um die Zuverlässigkeit von mehrstufigen LLM-Anwendungen zu verbessern.
• Skalierbare AI-Services mit Python, FastAPI, Cloud Run, Pub/Sub, BigQuery, Docker und cloud-nativen Bereitstellungsarchitekturen entworfen.

• Übernahm die technische Leitung eines 4-köpfigen Teams, das innerhalb von 12 Monaten 3 wichtige Kundenplattformen mit Microservices-Architektur und Lösungen für Skalierbarkeit bereitstellte — 100% der geplanten Hauptfunktionen wurden vor dem Zeitplan und den geplanten Meilensteinen ausgeliefert (Ausgangslage: Frühere Releases verzögerten sich häufig um 1–2 Sprints).
• Führte Evaluierungen von KI-Modellen und Modellausgaben für LLM-/KI-Anbieter-APIs durch: Sicherheit, Vollständigkeit, Befolgung von Anweisungen und Prüfung der inhaltlichen Fundierung vor dem Go-live; reduzierte fehlerhafte Ausgaben in den KI-integrierten Release-Checklisten von wiederkehrenden UAT-Ergebnissen auf nahezu null bei der finalen Freigabe.
• Entwickelte die API-Entwicklung und Performance-Optimierung für Zahlungs-, Börsen- und KI-Dienste voran; strikt geschlossene Fehlerbehandlung und Payload-Validierung reduzierten die Überarbeitung von Integrationen im Vergleich zum ersten KI-Integrationsdurchlauf um ~35%.
• Setzte Softwaretests, Test-Frameworks, Qualitätssicherung von Code und Code-Refactoring mit Gates für die kontinuierliche Integration ein; die Akzeptanz von Pull Requests im ersten Durchlauf verbesserte sich im gesamten Team, und Hotfixes in der Produktion für KI-Adapter gingen nach Einführung der Review-Standards spürbar zurück.
• Verantwortete DevOps-Praktiken: Docker, GitHub Actions, Jenkins-kompatible Pipelines und Versionskontroll-Workflows — reduzierte die Bereitstellungszeit gegenüber der Ausgangslage vor der Automatisierung um ~50% und stabilisierte Releases in 3 Kundenumgebungen.
• Implementierte Verifier-/Oracle-artige Bestanden-Nicht-bestanden-Prüfungen in Container-Sandboxes (an Harbor/Terminal-Bench ausgerichtet); erstellte technische Dokumentation, sodass Fehler in einem Review-Zyklus behoben werden konnten.
• Leitete die funktionsübergreifende Zusammenarbeit mit Produkt- und Kundenstakeholdern; übersetzte KI-Evaluierungswerte und Risikobefunde in verständliche Kurzberichte für nichttechnische Partner und ermöglichte Go-/No-Go-Entscheidungen ohne zusätzliche Engineering-Meetings.
• Setzte agile Methoden für Sprintplanung und Backlog-Verantwortung ein; unterstützte Engineers dabei, dass Entwickler auf mittlerem Niveau bereits zur Hälfte des Projekts KI-Adapter-Module eigenständig verantworteten.

Strategische KI-Beratung der Geschäftsführung, Identifikation, Bewertung und Priorisierung agentischer Use Cases, Trainings für Entwicklungsteam und Geschäftsführung