Conversational AI Experten in Deutschland

• Recare Voice Desktop in zwei Monaten von 0 auf 1 entwickelt und eingeführt, einschließlich mehrsprachiger klinischer Dokumentation, die automatisch in strukturierte deutsche medizinische Notizen transkribiert wird.
• LLM-Inferenzkosten in Docs und Extract durch eine Prompt-Caching-Architektur um 60–70 % gesenkt.
• Die von PMs und Ingenieuren für Prompt-Experimente genutzte KI-Workbench sowie den Langfuse-Evaluierungs-Stack aufgebaut (über 10.000 ausgewertete Traces).

Konversationeller KI-Assistent für Fragen zu Cloud-Infrastruktur und Sicherheit

• FastAPI-Backend mit Multi-Turn-Conversation-Handler, Token-Budgeting und Kontextfenster-Management entworfen.
• Amazon Bedrock (Claude 3 Sonnet/Haiku) integriert; RAG-Pipeline mit MongoDB-Chatverlauf und semantischer Suche aufgebaut.
• Factory Pattern für modulares Wechseln zwischen LLM-Anbietern implementiert; der Aufwand für das Onboarding neuer Modelle um 60% reduziert.
• Die LLM-Inferenzkosten um 35% gesenkt durch Modell-Tiering (Haiku vs. Sonnet) und Konsolidierung von Prompts/Entitäten.

Tech: Python, FastAPI, Amazon Bedrock, MongoDB, Streamlit, Pydantic.

• TrendReel, Produktions-LLM-Agenten- und RAG-System (Python, LangChain, OpenAI, Groq/Llama 3, Claude, FastAPI, Kubernetes, PostgreSQL).
• Entwarf und baute ein produktives mehrstufiges LLM-Agentensystem: einen Script-Generierungs-Agenten mit einer plattformbezogenen Psychologie-Datenbank, 7 viralen Narrativ-Frameworks und strukturierter Qualitätsbewertung, der in Echtzeit je nach Ausgabemetriken zwischen Claude- und Groq-Backends wechselte.
• Implementierte Multi-Provider-LLM-Routing (Claude primär, Groq/Llama 3 Fallback) mit Priority-Chain-Failover und qualitätsbasiertem Provider-Wechsel und erreichte dabei eine Senkung der Inferenzkosten um 95 %, während messbare Qualitätsgrenzen eingehalten wurden.
• Aufbau einer fortschrittlichen RAG-artigen Retrieval-Pipeline mit Wissensbasen pro Plattform, semantischem Content-Matching und strukturierter Ausgabeevaluation über 7 Entscheidungs-Frameworks, direkt vergleichbar mit kontextbasiertem Reasoning in Multi-Tenant-Enterprise-Dokumenten-Workflows.
• BrainyAI, adaptive KI-Lernplattform (Python, LangChain, Groq Llama 3.3-70B, OpenAI, Next.js, Supabase, Redis).
• Integrierte Groq Llama 3.3-70B mit einem auf Bildungsniveau abgestimmten Prompting, wobei Wortschatz-Tiefe, Zitierkomplexität und Denkstil dynamisch über vier Leistungsstufen von Lernenden angepasst wurden.
• Nexus Prime, Multi-Tenant-SaaS-Plattform für Marketing- und Wachstumsautomatisierung (25 Module, 99 Backend-Router, 153 Frontend-Dateien).
• Aufbau einer 25-Modul-, 99-Router-Multi-Tenant-SaaS-Plattform für Ad-Remix, Affiliates, WhatsApp-Inbox, E-Mail und Warenkorbwiederherstellung, die vier Abo-Stufen von $199 bis $1,999 pro Monat mit integrierter Stripe-, Paystack- und Flutterwave-Abrechnung bedient.
• KI-Videoüberwachungsplattform, Multi-Tenant-Edge- und Cloud-Computer-Vision-System derzeit aktiv im Kundengespräch.
• Entwarf eine Multi-Tenant-KI-Videoüberwachungsplattform, die Edge-YOLO26-Inferenz auf NVIDIA Jetson Orin NX Boxen mit einer zentralen GKE-Cloud-Schicht (Postgres, Pub/Sub, ClickHouse, R2, Keycloak) für Ereignisspeicherung, Dashboards, Alarme und Multi-Tenancy kombiniert.

• KI-native B2B-SaaS für Freelancer-Sourcing; DACH-Markt.*

• Enterprise-Partnerschaften über vier Branchen hinweg: Multi-Stakeholder-Deals mit Telefónica (Telco), Emma Matratzen (Retail), Nürnberger Versicherungen und Flatex (Financial Services), Hubert Burda Media und Serviceplan Gruppe (Media) strukturiert und abgeschlossen.

• Umsatz und Wachstum: FRATCH von €0 auf €3.8M jährlichen GMV skaliert, wobei rund 80% des Umsatzes aus direkter Ansprache durch den Founder und aus Partnerbeziehungen kamen.

• Channel-Partnerschaften: FRATCH als SaaS-Lösung an Recruiting-Firmen verkauft (z. B. YER) — das partnergetriebene Modell parallel zum direkten Enterprise-Sales aufgebaut.

• Teambuilding: FRATCH vom Solo-Founder auf ein Team von 7 in Engineering, Produktdesign, Operations und Supply Outreach skaliert.

• Proprietärer Netzwerk-Asset: 15.000+ Freelancer als registrierte Nutzer onboarded — das proprietäre DACH-Netzwerk, das FRATCHs Matching antreibt.

• FRATCH GPT (fratch.io/gpt) aufgebaut und gelauncht: ein produktiver Conversational-AI-Agent. Den Full-Stack entwickelt — LLM-Orchestrierung, Embeddings, Re-Ranking — mit direkter Mitarbeit an technischer Konzeption und Umsetzung.

• GTM-Aufbau: den kompletten Go-to-Market-Stack verantwortet — Outbound, LinkedIn (organisch + paid), Content und Sales Enablement.

• Automatische Erkennung von Inhalten auf verschiedenen Dokumenten
• Recommendation Engine
• Dynamic Pricing

• ▶ Einen Echtzeit-Sprachassistenten gebaut (STT → LLM → TTS-Pipeline), mehrere STT-Anbieter wie faster-whisper und Azure Speech gebenchmarkt und bewertet. Sub-3s-Latenz erreicht, Groq API (Llama 3) mit Multi-Turn-Memory genutzt - mit direkter Behandlung von Edge Cases bei Diktat, Namen und Passcode-Erkennung.

struppilog.com – Digitale Gesundheitsakte für Haustiere / MVP → Vollständiges Produkt

Konzeption, Entwicklung und vollständige Weiterentwicklung einer digitalen Gesundheitsplattform für Haustiere – von der eigenen MVP-Entwicklung bis zur vollständig ausgebauten und produktiv nutzbaren Plattform.

Eigenständige Konzeption und Entwicklung des MVP Entwicklung der gesamten Anwendung mit Flutter/Dart und Firebase Ausbau des MVP zu einer vollständigen digitalen Gesundheitsakte mit Gesundheitsdaten, Befunden, Allergien, Medikamenten, Dokumenten und Notfalldaten Entwicklung von Benutzerregistrierung, Authentifizierung, Rollen, Datenmodellen und sicheren Nutzerinteraktionen Umsetzung von QR-Code-basiertem Datenaustausch und digitalen Interaktionsfunktionen Entwicklung einer mehrsprachigen, responsiven Webanwendung Integration von AI-gestützten Funktionen und AI-/Agentic-Workflows Entwicklung und kontinuierliche Weiterentwicklung der Produktlogik, UX/UI und technischen Architektur Aufbau und Erweiterung einer skalierbaren Cloud-basierten Lösung mit Firebase Integration und Weiterentwicklung von APIs und externen Services Einsatz von AI-native / Agentic Engineering zur Beschleunigung von Entwicklung, Testing, Debugging und Produktiteration Eigenständige Umsetzung sämtlicher weiterer Funktionen und technischen Erweiterungen Kontinuierliche Weiterentwicklung des MVP zu einem vollständigen digitalen Produkt

Impact: Das von mir selbst entwickelte MVP wurde kontinuierlich technisch und funktional zu einer umfangreichen, produktiv nutzbaren Plattform weiterentwickelt – einschließlich Frontend, Backend, Datenmodell, Authentifizierung, UX/UI, APIs, Cloud-Infrastruktur und laufender Produktentwicklung.

• Entwickelte einen maßgeschneiderten KI-Chatbot für einen E-Commerce-Kunden mit GPT-4 und LangChain inklusive RAG, wodurch das Volumen der Support-Tickets um 45 % sank und die Antwortgenauigkeit auf 92 % stieg.
• Entwarf und stellte ein System zur intelligenten Dokumentenverarbeitung mit LlamaIndex, Pinecone und FastAPI für ein FinTech-Startup bereit, das semantische Suche über mehr als 100.000 Finanzdokumente ermöglicht.
• Entwickelte Multi-Agenten-KI-Workflows mit CrewAI und LangGraph für eine Marketingagentur, automatisierte Lead-Recherche, Inhaltserstellung und Kontaktaufnahme — und sparte so über 20 Stunden manueller Arbeit pro Woche.
• Erstellte KI-gestützte Automatisierungspipelines mit n8n, Make und Zapier, integriert in CRMs (GoHighLevel, HubSpot), wodurch für ein Immobilienunternehmen die manuelle Dateneingabe um 80 % reduziert wurde.
• Beriet mehrere Kunden im Prompt-Engineering und bei der Feinabstimmung von LLMs, um KI-Modellausgaben für den Kundenservice, die Inhaltserstellung und die Datenextraktion zu optimieren.
• Erstellte produktionsreife REST-APIs mit Python und FastAPI zur Bereitstellung von KI-Modellen auf AWS und GCP und bewältigte dabei über 10.000 tägliche Anfragen mit 99,9 % Verfügbarkeit.

• Erstellung technischer Dokumentation für Conversational-AI-Produkte
• Entwicklung von Benutzer- und API-Handbüchern (JSON, Markdown)
• Einsatz von Git, Jira, Confluence für Versionskontrolle und Aufgabenverfolgung
• Zusammenarbeit mit Ingenieuren und PMs für genaue Inhalte

• Leitung von Initiativen zur Verbesserung des Abrufs und der Darstellung von Samsung-Supportinhalten in KI-generierten Antworten, einschließlich der Erstellung redaktioneller Standards und der Sensibilisierung von Stakeholdern für Risiken bei der Darstellung.
• Entwicklung erster Frameworks zur Messung und Bewertung der Markendarstellung in KI-generierten Antworten (LLMs, Google-KI-Umgebungen), einschließlich Prompt-Baselines und Bewertungsmodellen.

Beratung und Prototyping für KI-Sprach- und mehrsprachige Agentensysteme, mit KI-gestützter Auslieferung bei Prototypen für Echtzeitübersetzung, Call-Center-Automatisierung und Voice-to-Voice-Beratungsabläufe.

• KI-Sprach- und agentische Konversationsprototypen gebaut und beraten, einschließlich Echtzeitübersetzung und kundenorientierter Beratungserlebnisse.
• Arbeit an Call-Center-Automatisierung, Voice-UX, Produktarchitektur, Implementierungsentscheidungen und Prototyping.

End-to-End-Verantwortung für alle Produkte – Konzeption, Architektur, Entwicklung und Produktivbetrieb als alleiniger Entwickler; daneben Kundengespräche, Angebote und Marketing.

Underwriting Copilot – KI-Assistent für die Industrieversicherung (produktiv im Kundeneinsatz)

• Unterstützt Underwriter bei der Analyse industrieller Versicherungs-Submissions – im Produktivbetrieb bei einem Industrieversicherer.
• Framework-unabhängige RAG-Architektur mit Hybrid Search (BM25 + pgvector) über große, heterogene Dokumentbestände.
• Zweistufige Evaluations- und Observability-Pipeline (Code-Assertions + LLM-as-Judge), die Antwortqualität, Retrieval-Genauigkeit und Citation-Integrität regressionssicher messbar macht.

Kaiki Menu Analyzer – Data-Intelligence-Plattform (produktiv im Kundeneinsatz)

• Erfasst und analysiert automatisiert Speisedaten aus rund 25.000 deutschen Restaurants.
• Skalierbare 7-Container-Architektur (FastAPI, partitioniertes PostgreSQL, Redis/RQ) mit LLM-gestützter Extraktion strukturierter Daten aus PDF, HTML und Bildern.
• Vollständige CI/CD-Pipelines (GitHub Actions), produktives Cloud-Deployment, interaktive Dashboards (Dash).

Kaiki GEO Atlas – GEO-Plattform (produktiv im Kundeneinsatz)

• Misst die Marken-Sichtbarkeit über fünf KI-Engines (ChatGPT, Gemini, Perplexity, Grok, Claude), jede web-search-augmentiert, orchestriert als DAG-Workflow-Pipeline (Dispatcher → Sub-Workflows → Scoring → Report) mit Fail-Isolation.
• 6-Container-Deployment (FastAPI, Celery, Redis, PostgreSQL); LLM-Kostenschätzung, PDF-Audit-Report, regelbasierte Cross-Signal-Insights (kein zusätzlicher LLM-Aufwand).

Data Pipeline & Analytics Platform – Wettbewerbsanalyse im Automotive-Aftermarket

• Automatisierte Daten-Pipeline mit Gap-Analyse-Algorithmen und rollenbasierter Zugriffskontrolle; 230+ Tests.
• Backend mit FastAPI, PostgreSQL, SQLAlchemy.

Produktentwicklung (in aktiver Entwicklung)

BankingGPT – KI-Assistent für das Beschwerdemanagement im Genossenschaftsbanking

• Sicherheitsarchitektur im Kern: kein KI-Entwurf erreicht den Kunden ohne menschliche Freigabe – die Freigabe-Entscheidung liegt in auditierbarem Code, nicht im Sprachmodell (monoton: das Modell darf hochstufen, nie senken).
• Echte agentische Bausteine, jeder mit eigener Grenze: das Modell wählt selbst Werkzeuge über einen MCP-Server (nur-lesend, Allowlist, gedeckelt, fail-safe); heikle Fälle gehen per offenem A2A-Protokoll (JSON-RPC, Agent Card, message/send/tasks/get; Client selbst implementiert) an einen eigenständigen Fach-Agenten (Wertpapier/Recht), der die Prüfpflicht nie senkt (per Test gepinnt).
• Evaluations-getrieben über zehn Analyse-Runden; deckte per unabhängigem Review und Blind-Tests einen Sicherheitsdefekt auf, den neun automatisierte Läufe übersehen hatten.
• Voice-AI-Frontend, live antwortend: gedeckte Fälle werden im Gespräch beantwortet, heikle eskalieren vor der Generierung; Antwortlatenz < 7 s gemessen (lokale GPU-STT/TTS).

Stack & Produktionsnähe: Python, pydantic-ai, FastAPI/Celery, PostgreSQL/pgvector, FastMCP, fasta2a, Docker; mehrmandantenfähig (physische Vektor-Isolation je Mandant), PII verschlüsselt, OWASP-LLM-reviewt, 275 Tests, CI/CD; anbieter-portabel (Ollama / EU-Cloud-Vertex).

After-Sales Assistant – agentischer RAG-/GraphRAG-Assistent auf öffentlichen OEM-Handbüchern (Automotive After-Sales)

• Genuin agentisch auf LangGraph: ReAct-Agent mit vier Werkzeugen und Gesprächsge-dächtnis – das Modell entscheidet selbst, ob es das Handbuch (RAG, Chroma), einen Wissensgraphen (GraphRAG, Neo4j/Cypher – Warnleuchten dekodieren) oder einen Werkstatt-/Buchungsdienst anspricht.
• Human-in-the-Loop vor der irreversiblen Aktion: vor jeder Terminbuchung pausiert der Graph (interrupt) und holt die ausdrückliche Bestätigung des Fahrers – dieselbe Freigabe-vor-Aktion-Disziplin wie in BankingGPT, in einem anderen Framework.
• Eval als CI-Gate: dreiteiliges Scorecard (RAGAS-Grounding + deterministische Tool-Routing-Genauigkeit + DeepEval-Safety: führt die Antwort bei kritischer Warnung zuerst die Warnung an?) blockt die Pipeline; provider-agnostisch (OpenAI/Azure/Anthropic), FastAPI mit Token-Streaming.

Stack: Python, LangChain/LangGraph, Chroma, Neo4j, RAGAS/DeepEval, FastAPI, Docker.

• Entwicklung, Implementierung und Optimierung eines Telefon-KI-Agenten zur Bearbeitung von Bestands- und Neukunden als Freiberufler

• Entwicklung globaler ACM-Copilot-Services und Gestaltung ihrer Weiterentwicklung im globalen Maßstab
• Evangelisierung der Vorteile und Fähigkeiten von Copilot für interne und externe Zielgruppen
• Onboarding, Mentoring und Schulung neuer ACM-Kollegen in Services und Methodiken
• Ansprechpartner für interne Copilot-Proof-of-Concept-Einführung und Change Management
• Leitung der Copilot-Einführungsstrategie, Kommunikation von Vorteilen, Nutzung und ethischen Aspekten
• Organisation von Events und Workshops sowie Förderung einer interaktiven Community zum Austausch von Updates, Erkenntnissen und Best Practices