Llama Experten in Deutschland

• TrendReel, Produktions-LLM-Agenten- und RAG-System (Python, LangChain, OpenAI, Groq/Llama 3, Claude, FastAPI, Kubernetes, PostgreSQL).
• Entwarf und baute ein produktives mehrstufiges LLM-Agentensystem: einen Script-Generierungs-Agenten mit einer plattformbezogenen Psychologie-Datenbank, 7 viralen Narrativ-Frameworks und strukturierter Qualitätsbewertung, der in Echtzeit je nach Ausgabemetriken zwischen Claude- und Groq-Backends wechselte.
• Implementierte Multi-Provider-LLM-Routing (Claude primär, Groq/Llama 3 Fallback) mit Priority-Chain-Failover und qualitätsbasiertem Provider-Wechsel und erreichte dabei eine Senkung der Inferenzkosten um 95 %, während messbare Qualitätsgrenzen eingehalten wurden.
• Aufbau einer fortschrittlichen RAG-artigen Retrieval-Pipeline mit Wissensbasen pro Plattform, semantischem Content-Matching und strukturierter Ausgabeevaluation über 7 Entscheidungs-Frameworks, direkt vergleichbar mit kontextbasiertem Reasoning in Multi-Tenant-Enterprise-Dokumenten-Workflows.
• BrainyAI, adaptive KI-Lernplattform (Python, LangChain, Groq Llama 3.3-70B, OpenAI, Next.js, Supabase, Redis).
• Integrierte Groq Llama 3.3-70B mit einem auf Bildungsniveau abgestimmten Prompting, wobei Wortschatz-Tiefe, Zitierkomplexität und Denkstil dynamisch über vier Leistungsstufen von Lernenden angepasst wurden.
• Nexus Prime, Multi-Tenant-SaaS-Plattform für Marketing- und Wachstumsautomatisierung (25 Module, 99 Backend-Router, 153 Frontend-Dateien).
• Aufbau einer 25-Modul-, 99-Router-Multi-Tenant-SaaS-Plattform für Ad-Remix, Affiliates, WhatsApp-Inbox, E-Mail und Warenkorbwiederherstellung, die vier Abo-Stufen von $199 bis $1,999 pro Monat mit integrierter Stripe-, Paystack- und Flutterwave-Abrechnung bedient.
• KI-Videoüberwachungsplattform, Multi-Tenant-Edge- und Cloud-Computer-Vision-System derzeit aktiv im Kundengespräch.
• Entwarf eine Multi-Tenant-KI-Videoüberwachungsplattform, die Edge-YOLO26-Inferenz auf NVIDIA Jetson Orin NX Boxen mit einer zentralen GKE-Cloud-Schicht (Postgres, Pub/Sub, ClickHouse, R2, Keycloak) für Ereignisspeicherung, Dashboards, Alarme und Multi-Tenancy kombiniert.

• Wandelt natürliche Sprache mit RAG und pgvector in JQL um. Gibt strukturiertes JSON mit einer Query, einer Chart-Spezifikation und einer Klartext-Antwort zurück. Ein zweistufiger Router beantwortet allgemeine Fragen ganz ohne den JQL-Pipeline-Pfad.
• Austauschbare LLM-Backends: Ollama, vLLM, Groq, Anthropic Claude, AWS Bedrock - zur Laufzeit umschaltbar, ohne Codeänderungen. Self-healing JQL: Bei Jira-Validierungsfehlern wird der Fehler an das LLM zurückgegeben und bis zu 4 Mal erneut versucht. OCI Vault für Secrets. Bereitgestellt auf Oracle Cloud A1 mit GPU-Inferenz über ein Tailscale-Privatnetzwerk. Open Source.

• ▶ Einen Echtzeit-Sprachassistenten gebaut (STT → LLM → TTS-Pipeline), mehrere STT-Anbieter wie faster-whisper und Azure Speech gebenchmarkt und bewertet. Sub-3s-Latenz erreicht, Groq API (Llama 3) mit Multi-Turn-Memory genutzt - mit direkter Behandlung von Edge Cases bei Diktat, Namen und Passcode-Erkennung.

• Neue Benachrichtigungsplattform von Grund auf entwickelt und bestehende sowie geplante Services ersetzt
• Zusammenarbeit mit anderen Teams zur Integration weiterer Bereiche

Tech-Stack:

• Daten: Scala 3, Apache Kafka, Python, Airflow, Astronomer
• Backend/Frontend: TypeScript, NestJS, Java, Spring Boot, Vue
• DevOps: AWS, PostgreSQL, Docker, GitHub Actions, Kubernetes, Helm, ArgoCD

• Weiterentwicklung und Betrieb eines zentralen Backend-Services zur Bereitstellung des Fahrzeugbestands für internationale Mercedes-Benz Online-Shops
• Weiterentwicklung eines Reservierungsservices für Fahrzeuge als Bestandteil des Checkout-Prozesses
• Konzeption und Umsetzung einer hochskalierbaren Ende-Zu-Ende-Testarchitektur mit Fokus auf Wartbarkeit, Wiederverwendbarkeit und einer hohen Anzahl automatisierter Testfälle
• Entwicklung einer mehrschichtigen Testinfrastruktur mit konsequenter Trennung von Testlogik und Zugriffsschichten
• Entwicklung einer Initialisierungs- und Caching-Architektur zur erheblichen Beschleunigung lokaler sowie CI/CD-basierter Testausführungen
• Entwicklung einer KI-gestützten Review-Architektur zur automatisierten Bewertung und Qualitätssicherung von Ende-Zu-Ende-Tests
• Entwicklung eines Dashboards zur konsolidierten Darstellung eines Fahrzeugkontextes über mehrere Backend-Systeme hinweg inklusive KI-generierter Zusammenfassungen und komprimierter Fallanalysen
• Integration und Weiterentwicklung der Anbindung verschiedener Reservierungssysteme über Apache Kafka und Rest
• Konzeption neuer Microservices sowie Unterstützung bei Architekturentscheidungen
• Risikoanalyse und Konzeption von Microservice-Migrationen
• Technologien: Java, Spring, Spring Boot, Gradle, Maven, Apache Kafka, Rest, OpenAPI, Swagger, Github, Confluence, CI/CD, Microservices, AI, LLMs

• Leitung der Integration eines maßgeschneiderten Transformer-basierten Encoders in die AFFGANwriting-Pipeline und Ersetzung der alten VGG19-Architektur, um reichhaltigere, hochqualitative Schreibstil-Repräsentationen zu gewinnen.
• Steigerung der Auswahlrate in Nutzerstudien um 40 %, was einen deutlichen Sprung in der wahrgenommenen Qualität und dem Realismus der generierten Handschriften im Vergleich zum Basismodell zeigte.
• Verbesserung der OCR-Leistung um 20 % durch Implementierung eines Teacher-Student-Frameworks, das ein TrOCR-Benchmarkmodell für ergänzende Trainingsabstimmung nutzte.

• Agierte als technischer Berater zur Optimierung von mehrschichtigen Ensemble-Modellen, die ResNet, CNN-BiGRU-Attention und XGBoost kombinierten.
• Begleitete die Umsetzung eines Logistic-Regression-Meta-Lerners zur Lösung von Klassenungleichgewichten und erreichte 92,86 % Genauigkeit und einen AUC-Wert von 0,9644 auf den Datensätzen PTB-XL und Chapman-Shaoxing.

End-to-End-Verantwortung für alle Produkte – Konzeption, Architektur, Entwicklung und Produktivbetrieb als alleiniger Entwickler; daneben Kundengespräche, Angebote und Marketing.

Underwriting Copilot – KI-Assistent für die Industrieversicherung (produktiv im Kundeneinsatz)

• Unterstützt Underwriter bei der Analyse industrieller Versicherungs-Submissions – im Produktivbetrieb bei einem Industrieversicherer.
• Framework-unabhängige RAG-Architektur mit Hybrid Search (BM25 + pgvector) über große, heterogene Dokumentbestände.
• Zweistufige Evaluations- und Observability-Pipeline (Code-Assertions + LLM-as-Judge), die Antwortqualität, Retrieval-Genauigkeit und Citation-Integrität regressionssicher messbar macht.

Kaiki Menu Analyzer – Data-Intelligence-Plattform (produktiv im Kundeneinsatz)

• Erfasst und analysiert automatisiert Speisedaten aus rund 25.000 deutschen Restaurants.
• Skalierbare 7-Container-Architektur (FastAPI, partitioniertes PostgreSQL, Redis/RQ) mit LLM-gestützter Extraktion strukturierter Daten aus PDF, HTML und Bildern.
• Vollständige CI/CD-Pipelines (GitHub Actions), produktives Cloud-Deployment, interaktive Dashboards (Dash).

Kaiki GEO Atlas – GEO-Plattform (produktiv im Kundeneinsatz)

• Misst die Marken-Sichtbarkeit über fünf KI-Engines (ChatGPT, Gemini, Perplexity, Grok, Claude), jede web-search-augmentiert, orchestriert als DAG-Workflow-Pipeline (Dispatcher → Sub-Workflows → Scoring → Report) mit Fail-Isolation.
• 6-Container-Deployment (FastAPI, Celery, Redis, PostgreSQL); LLM-Kostenschätzung, PDF-Audit-Report, regelbasierte Cross-Signal-Insights (kein zusätzlicher LLM-Aufwand).

Data Pipeline & Analytics Platform – Wettbewerbsanalyse im Automotive-Aftermarket

• Automatisierte Daten-Pipeline mit Gap-Analyse-Algorithmen und rollenbasierter Zugriffskontrolle; 230+ Tests.
• Backend mit FastAPI, PostgreSQL, SQLAlchemy.

Produktentwicklung (in aktiver Entwicklung)

BankingGPT – KI-Assistent für das Beschwerdemanagement im Genossenschaftsbanking

• Sicherheitsarchitektur im Kern: kein KI-Entwurf erreicht den Kunden ohne menschliche Freigabe – die Freigabe-Entscheidung liegt in auditierbarem Code, nicht im Sprachmodell (monoton: das Modell darf hochstufen, nie senken).
• Echte agentische Bausteine, jeder mit eigener Grenze: das Modell wählt selbst Werkzeuge über einen MCP-Server (nur-lesend, Allowlist, gedeckelt, fail-safe); heikle Fälle gehen per offenem A2A-Protokoll (JSON-RPC, Agent Card, message/send/tasks/get; Client selbst implementiert) an einen eigenständigen Fach-Agenten (Wertpapier/Recht), der die Prüfpflicht nie senkt (per Test gepinnt).
• Evaluations-getrieben über zehn Analyse-Runden; deckte per unabhängigem Review und Blind-Tests einen Sicherheitsdefekt auf, den neun automatisierte Läufe übersehen hatten.
• Voice-AI-Frontend, live antwortend: gedeckte Fälle werden im Gespräch beantwortet, heikle eskalieren vor der Generierung; Antwortlatenz < 7 s gemessen (lokale GPU-STT/TTS).

Stack & Produktionsnähe: Python, pydantic-ai, FastAPI/Celery, PostgreSQL/pgvector, FastMCP, fasta2a, Docker; mehrmandantenfähig (physische Vektor-Isolation je Mandant), PII verschlüsselt, OWASP-LLM-reviewt, 275 Tests, CI/CD; anbieter-portabel (Ollama / EU-Cloud-Vertex).

After-Sales Assistant – agentischer RAG-/GraphRAG-Assistent auf öffentlichen OEM-Handbüchern (Automotive After-Sales)

• Genuin agentisch auf LangGraph: ReAct-Agent mit vier Werkzeugen und Gesprächsge-dächtnis – das Modell entscheidet selbst, ob es das Handbuch (RAG, Chroma), einen Wissensgraphen (GraphRAG, Neo4j/Cypher – Warnleuchten dekodieren) oder einen Werkstatt-/Buchungsdienst anspricht.
• Human-in-the-Loop vor der irreversiblen Aktion: vor jeder Terminbuchung pausiert der Graph (interrupt) und holt die ausdrückliche Bestätigung des Fahrers – dieselbe Freigabe-vor-Aktion-Disziplin wie in BankingGPT, in einem anderen Framework.
• Eval als CI-Gate: dreiteiliges Scorecard (RAGAS-Grounding + deterministische Tool-Routing-Genauigkeit + DeepEval-Safety: führt die Antwort bei kritischer Warnung zuerst die Warnung an?) blockt die Pipeline; provider-agnostisch (OpenAI/Azure/Anthropic), FastAPI mit Token-Streaming.

Stack: Python, LangChain/LangGraph, Chroma, Neo4j, RAGAS/DeepEval, FastAPI, Docker.

• Entwarf und implementierte ein produktionsreifes GraphRAG-System mit Neo4j, Embeddings und Multi-Hop-Reasoning für über 120 Mio. Knoten, steigerte die Antwortgenauigkeit um 32 %, verringerte Halluzinationen um 41 % und senkte die Abruflatenz um 38 %.
• Entwickelte und implementierte ein Enterprise-Agenten-Ökosystem mit Model Context Protocol (MCP), das interne APIs, Datenbanken und Services als sichere aufrufbare Tools für autonome Workflows und Systemintegration bereitstellt.
• Konzipierte und setzte einen produktionsreifen E-Mail-Routing-Agenten auf LLM-Basis mit Microsoft Graph API, MCP und Azure OpenAI ein, erreichte 96 % Routing-Genauigkeit, senkte den manuellen Triage-Aufwand um 65 % und verkürzte die Reaktionszeiten von 18 Stunden auf unter 4 Stunden.
• Implementierte Selbstkorrektur-Pipelines für autonome Agenten mittels iterativer Feedback-Schleifen (Ralph Wiggum), was eine zuverlässige Fehlererkennung, automatisierte Behebung und produktionssichere Ausführung ermöglicht.
• Entwickelte eine multimodale semantische Suchplattform mit multimodalen LLMs und Vektor-Embeddings, ermöglichte semantisches Auffinden von über 250 000 Bild- und Video-Assets und verbesserte die Trefferquote um 48 %.

• Einführung von 5 verschiedenen Prozessanwendungen für unterschiedliche Teams

• Planung von Releases: Scope- und Zeitmanagement

• Ressourcen-/Kapazitätsplanung

• Durchführung von Sprint-Planung / Retrospektiven

• Inkrementplanung (mehrere Sprints)

• Vorbereitung von Lenkungskreis-Meetings / Reporting an den Vorstand

• Koordination und Abstimmung mit externen Lieferanten / Lieferungen

• Ressourcenplanung für mehrere Projekte

• Abstimmung mit dem Fachbereich und dem Entwicklungsteam

• Ermittlung der Best Practices mit IBM BAW

• Kostenkontrolle und Planung des Projektteams sowie externer Dienstleister

• Erhebung von KPIs mithilfe von LogScale

• Analyse von Anwendungsfehlern mit LogScale / Queries

• Definition von User Stories / Abstimmung der Anforderungen mit Fachbereich und Entwicklungsteam

• Tests und Fehler-Tracking

• UI/UX-Entwurf der Anwendung

• Vorbereitung und Moderation von Brown-Paper-Workshops

• Testkonzept, Testdaten, Testorganisation, Testdurchführung

• Erfassung der Team-Velocity / Metriken

• Testdurchführung

• Erstellung von Skripten für automatisiertes Testen

• Testorganisation mit Fachbereich und IT

• Erfassung und Priorisierung der Fehler

• Aufbau und Betrieb der Anwendung

• Aufbau von Monitoring der Anwendung mit LogScale-Dashboards

• Überprüfung der Health-Endpoints mit PowerShell

• Post-Mortem-Analyse

• Aufbau von Incident Management

• Aufbau von Problem Management

• Analyse von Fehlern mithilfe von LogScale-Queries und Dashboards

• Datenvorverarbeitung für die KI

• Durchführung der Evaluation mit KI-Sprachmodellen (Meta Llama 3.3 LLM und deepset Haystack) und RAG

• Installation der Laufzeitumgebung für LLMs (Large Language Models)

• Evaluierung verschiedener LLMs

• Installation von RAG (Retrieval Augmented Generation) und Integration mit LLMs

• Extraktion unstrukturierter Daten mit LLMs und RAG

• Projekt basiert auf IBM BAW (Business Automation Workflow), Websphere Liberty, Domea, d.3, REST, LogScale (ehemals Humio), Swagger, PowerShell, Jira, Confluence, Lucom Interaction Platform (LIP), Mattermost, Jabber

• Entwickle und präsentiere Lösungen mit GenAI-Software wie langchain, vercel ai sdk, copilotkit
• Arbeite mit Kunden zusammen, um ihre Herausforderungen zu verstehen und die besten Lösungen auf Basis von Open-Source-Datenprodukten zu liefern
• Baue RAG- und GraphRAG-Lösungen mit Neo4j, lancedb und Postgres
• Setze eine LLMOps-Plattform mit kubernetes, terraform, helmfile, Arize phoenix, mlflow auf
• Entwerfe und baue Datenpipelines mit dbt, Trino, Spark, Iceberg, Airflow, ArgoCD, terraform, kubernetes
• Lieferte eine nutzerzentrierte technische Strategie für Agriculture 4.0 und Precision Livestock Farming und half meinem Kunden, Fördermittel von Bpifrance zu sichern
• Entwickelte ein Prospecting-Tool für einen führenden französischen Solar-Carport-Installateur mit Geospatial Computing (GIS), wodurch der Vertriebsprozess schneller wurde
• Baute eine Digital-Twin-Architektur für Solar-Carports und EV-Ladestationen, die Echtzeit-Monitoring und intelligentes Laden möglich machte

• KI-gestützte Automatisierung mit Fokus auf Effizienz, Informationsverarbeitung und Assistenzsysteme
• Automatisierte E-Mail-Klassifizierung (OpenAI, FastAPI)
• Vertragsanalyse für LegalTech (Llama 3, LangGraph)
• Interne Wissenssuche mit RAG (VLLM, Hugging Face)
• Anomalieerkennung auf Edge-Geräten (LLAVA, TensorRT)
• Agentensystem für Management-Reports (LangGraph, Zapier)

• Pionierarbeit bei der ersten Enterprise-KI-SAP-Integration bei ALDI SÜD, Einführung KI-gesteuerter Automatisierung in einem der größten SAP S/4HANA-Programme im Einzelhandel, wodurch 50 % der manuellen Pre-Cycle-Validierungen entfallen sind und ein reproduzierbares Automatisierungs-Framework in 11 Ländern geschaffen wurde
• Verantwortlich für das gesamte SAP-Projekt-Lifecycle-Management für Implementierungen in SAP S/4HANA und Manhattan Systems, Unterstützung von über 7.300 ALDI SÜD-Filialen in Europa und Australien
• Hauptansprechpartner für C-Level-Stakeholder in 11 Ländern für strategische SAP-Transformationsprogramme
• Orchestrierung von Automatisierungs-, Performance- und Volumentests für kritische Releases mit 99,9 % SLA-Einhaltung während der umsatzstärksten Phasen
• Führung funktionsübergreifender internationaler Teams mit über 15 Spezialisten, Lieferung von Projekten 20 % schneller als Branchendurchschnitt
• Standardisierung von SAP-Prozessen in 11 Ländern als Teil einer der größten SAP-Einführungen im Einzelhandel
• Direkte Verwaltung eines Budgets von 2 Mio. € mit einer Budgettreue von 98 % über 12 gleichzeitige Projekte
• Reduzierung der SAP S/4HANA-Migrationskosten um 18 % durch strategische Vertragsnachverhandlungen und Optimierung

• Fokus auf integrierte Kommunikationsplanung, Marketingberatung und Markenstrategie in einer Director-Rolle (3 direkte Mitarbeitende)
• Beratung auf C-Level beim Markenaufbau und -management
• Verantwortlich für wichtige Neukundengewinne
• Strategische Weiterentwicklung von integrierter MarCom- und Markenstrategie
• Kunden (unter anderem): Pfister, Mainova, Hamburger Energienetze