Conversational AI Experten in Deutschland

Internationales Familienunternehmen | Umsatz über 1 Mrd. EUR | VERTRAULICH

• Aufbau und Operationalisierung eines unternehmensweiten PMO; Übernahme der initialen Steuerungsfunktion im laufenden Betrieb.
• Strukturierung eines Portfolios von mehr als 15 strategischen Transformationsinitiativen über mehrere Länder und Funktionen hinweg.
• Gestaltung von Projektaufnahme, Entscheidungsstufen, Verantwortlichkeiten und regelmäßigen Steuerungsterminen; Managementberichte sowie Risiko- und Abhängigkeitsmanagement.
• Aufbau der PMO-Umgebung mit Microsoft 365, Planner Premium, Teams, SharePoint und Forms; Planung des Berichtswesens und Vorbereitung der strukturierten Übergabe an eine interne PMO-Organisation.

• Konzeption, Einrichtung und Betrieb von KI-Telefonassistenten (Voicebots) als Managed Service
• Anforderungsanalyse und Prozessaufnahme: Anrufgründe, wiederkehrende Anfragen, Eskalations- und Notfallregeln
• Conversation Design & Prompt Engineering: Dialogführung, Tonalität, Gesprächslogiken, Fallbacks und Übergaben
• Aufbau und Pflege strukturierter Wissensdatenbanken für wiederkehrende Kundenanfragen
• Integration in bestehende Abläufe, u. a. Anliegenerfassung, Terminkoordination, SMS-Bestätigungen und Weiterleitungen
• Testing, Kundenabnahme, laufende Optimierung sowie saisonale und inhaltliche Anpassungen
• Evaluation von Voice-AI- und Conversational-AI-Plattformen nach Funktion, Datenschutz, Hosting und Datenverarbeitung
• Konzeption und Umsetzung von Website-Chatbots und WhatsApp-Business-Lösungen
• Berücksichtigung von Datenschutz- und Compliance-Anforderungen beim Einsatz von KI-Systemen

• Recare Voice Desktop in zwei Monaten von 0 auf 1 entwickelt und eingeführt, einschließlich mehrsprachiger klinischer Dokumentation, die automatisch in strukturierte deutsche medizinische Notizen transkribiert wird.
• LLM-Inferenzkosten in Docs und Extract durch eine Prompt-Caching-Architektur um 60–70 % gesenkt.
• Die von PMs und Ingenieuren für Prompt-Experimente genutzte KI-Workbench sowie den Langfuse-Evaluierungs-Stack aufgebaut (über 10.000 ausgewertete Traces).

• KI-natives B2B-SaaS für die Suche nach Freelancern; DACH-Markt.*

• Unternehmenspartnerschaften in vier Branchen: Mehrere Stakeholder umfassende Partnerschaften mit Telefónica (Telekommunikation), Emma Matratzen (Einzelhandel), Nürnberger Versicherungen und Flatex (Finanzdienstleistungen), Hubert Burda Media und Serviceplan Gruppe (Medien) strukturiert und abgeschlossen.

• Umsatz und Wachstum: FRATCH von €0 auf €3.8M jährliches GMV skaliert, wobei etwa 80 % des Umsatzes durch direkte, vom Gründer initiierte Ansprache und Partnerbeziehungen gewonnen wurden.

• Vertriebspartnerschaften: FRATCH als SaaS-Lösung an Recruiting-Unternehmen (z. B. YER) verkauft — den partnergestützten Vertriebsansatz parallel zum direkten Unternehmensvertrieb aufgebaut.

• Teamaufbau: FRATCH vom Einzelgründer zu einem Team von 7 in den Bereichen Engineering, Produktdesign, Operations und Ansprache von Freelancern skaliert.

• Eigener Netzwerkbestand: 15,000+ Freelancer als registrierte Nutzer gewonnen — das eigene DACH-Netzwerk, das FRATCHs Matching ermöglicht.

• FRATCH GPT entwickelt und eingeführt (fratch.io/gpt): einen produktiven dialogbasierten KI-Agenten. Den gesamten Stack konzipiert — LLM-Orchestrierung, Embeddings, Re-Ranking — mit praktischer Beteiligung an technischer Konzeption und Umsetzung.

• GTM-Aufbau: den gesamten Go-to-Market-Stack verantwortet — Outbound, LinkedIn (organisch + bezahlt), Content und Vertriebsunterstützung.

Konversationeller KI-Assistent für Fragen zu Cloud-Infrastruktur und Sicherheit

• FastAPI-Backend mit Multi-Turn-Conversation-Handler, Token-Budgeting und Kontextfenster-Management entworfen.
• Amazon Bedrock (Claude 3 Sonnet/Haiku) integriert; RAG-Pipeline mit MongoDB-Chatverlauf und semantischer Suche aufgebaut.
• Factory Pattern für modulares Wechseln zwischen LLM-Anbietern implementiert; der Aufwand für das Onboarding neuer Modelle um 60% reduziert.
• Die LLM-Inferenzkosten um 35% gesenkt durch Modell-Tiering (Haiku vs. Sonnet) und Konsolidierung von Prompts/Entitäten.

Tech: Python, FastAPI, Amazon Bedrock, MongoDB, Streamlit, Pydantic.

• ▶ Echtzeit-Sprachassistenten entwickelt (STT → LLM → TTS-Pipeline), mehrere STT-Anbieter einschließlich faster-whisper und Azure Speech getestet und bewertet. Latenz von unter 3 Sekunden erreicht, Groq API (Llama 3) mit Multi-Turn-Speicher eingesetzt – einschließlich direkter Behandlung von Sonderfällen bei Diktaten sowie der Erkennung von Namen und Zugangscodes.

• TrendReel, Produktions-LLM-Agenten- und RAG-System (Python, LangChain, OpenAI, Groq/Llama 3, Claude, FastAPI, Kubernetes, PostgreSQL).
• Entwarf und baute ein produktives mehrstufiges LLM-Agentensystem: einen Script-Generierungs-Agenten mit einer plattformbezogenen Psychologie-Datenbank, 7 viralen Narrativ-Frameworks und strukturierter Qualitätsbewertung, der in Echtzeit je nach Ausgabemetriken zwischen Claude- und Groq-Backends wechselte.
• Implementierte Multi-Provider-LLM-Routing (Claude primär, Groq/Llama 3 Fallback) mit Priority-Chain-Failover und qualitätsbasiertem Provider-Wechsel und erreichte dabei eine Senkung der Inferenzkosten um 95 %, während messbare Qualitätsgrenzen eingehalten wurden.
• Aufbau einer fortschrittlichen RAG-artigen Retrieval-Pipeline mit Wissensbasen pro Plattform, semantischem Content-Matching und strukturierter Ausgabeevaluation über 7 Entscheidungs-Frameworks, direkt vergleichbar mit kontextbasiertem Reasoning in Multi-Tenant-Enterprise-Dokumenten-Workflows.
• BrainyAI, adaptive KI-Lernplattform (Python, LangChain, Groq Llama 3.3-70B, OpenAI, Next.js, Supabase, Redis).
• Integrierte Groq Llama 3.3-70B mit einem auf Bildungsniveau abgestimmten Prompting, wobei Wortschatz-Tiefe, Zitierkomplexität und Denkstil dynamisch über vier Leistungsstufen von Lernenden angepasst wurden.
• Nexus Prime, Multi-Tenant-SaaS-Plattform für Marketing- und Wachstumsautomatisierung (25 Module, 99 Backend-Router, 153 Frontend-Dateien).
• Aufbau einer 25-Modul-, 99-Router-Multi-Tenant-SaaS-Plattform für Ad-Remix, Affiliates, WhatsApp-Inbox, E-Mail und Warenkorbwiederherstellung, die vier Abo-Stufen von $199 bis $1,999 pro Monat mit integrierter Stripe-, Paystack- und Flutterwave-Abrechnung bedient.
• KI-Videoüberwachungsplattform, Multi-Tenant-Edge- und Cloud-Computer-Vision-System derzeit aktiv im Kundengespräch.
• Entwarf eine Multi-Tenant-KI-Videoüberwachungsplattform, die Edge-YOLO26-Inferenz auf NVIDIA Jetson Orin NX Boxen mit einer zentralen GKE-Cloud-Schicht (Postgres, Pub/Sub, ClickHouse, R2, Keycloak) für Ereignisspeicherung, Dashboards, Alarme und Multi-Tenancy kombiniert.

• Automatische Erkennung von Inhalten auf verschiedenen Dokumenten
• Recommendation Engine
• Dynamic Pricing

• Technische Konzeption, Priorisierung und praktische Umsetzung von KI-Automation-, Conversational-AI-, Voice-AI- und Private-AI-Lösungen.
• Übersetzung fachlicher Anforderungen in Systemarchitektur, Gesprächs-/Workflow-Logik, APIs, Datenflüsse und produktionsnahe KI-Workflows.
• Entwicklung von Backend- und Integrationskomponenten mit Python/FastAPI, PostgreSQL/pgvector, Redis, REST APIs, Webhooks und Background Jobs.
• Konzeption und Implementierung von RAG-Architekturen mit lokalen/privaten LLMs, Embeddings, Dokumentenverarbeitung, semantischer Suche und kontrolliertem Zugriff auf Unternehmenswissen.
• Prompt Engineering für LLM- und Voice-/Conversational-AI-Anwendungen; iterative Optimierung anhand realer Abläufe, Systemreaktionen und Qualitätsanforderungen.
• Praktische Arbeit mit ElevenLabs und dessen APIs in einem Voice-AI-Projekt sowie technische Bewertung und Integration von Voice-AI-Komponenten.
• Deployment und Betrieb Docker-basierter Systeme auf Linux mit Nginx, CI/CD, Monitoring/Logging, Backup/Restore und reproduzierbaren Deployment-Prozessen.

struppilog.com – Digitale Gesundheitsakte für Haustiere / MVP → Vollständiges Produkt

Konzeption, Entwicklung und vollständige Weiterentwicklung einer digitalen Gesundheitsplattform für Haustiere – von der eigenen MVP-Entwicklung bis zur vollständig ausgebauten und produktiv nutzbaren Plattform.

Eigenständige Konzeption und Entwicklung des MVP Entwicklung der gesamten Anwendung mit Flutter/Dart und Firebase Ausbau des MVP zu einer vollständigen digitalen Gesundheitsakte mit Gesundheitsdaten, Befunden, Allergien, Medikamenten, Dokumenten und Notfalldaten Entwicklung von Benutzerregistrierung, Authentifizierung, Rollen, Datenmodellen und sicheren Nutzerinteraktionen Umsetzung von QR-Code-basiertem Datenaustausch und digitalen Interaktionsfunktionen Entwicklung einer mehrsprachigen, responsiven Webanwendung Integration von AI-gestützten Funktionen und AI-/Agentic-Workflows Entwicklung und kontinuierliche Weiterentwicklung der Produktlogik, UX/UI und technischen Architektur Aufbau und Erweiterung einer skalierbaren Cloud-basierten Lösung mit Firebase Integration und Weiterentwicklung von APIs und externen Services Einsatz von AI-native / Agentic Engineering zur Beschleunigung von Entwicklung, Testing, Debugging und Produktiteration Eigenständige Umsetzung sämtlicher weiterer Funktionen und technischen Erweiterungen Kontinuierliche Weiterentwicklung des MVP zu einem vollständigen digitalen Produkt

Impact: Das von mir selbst entwickelte MVP wurde kontinuierlich technisch und funktional zu einer umfangreichen, produktiv nutzbaren Plattform weiterentwickelt – einschließlich Frontend, Backend, Datenmodell, Authentifizierung, UX/UI, APIs, Cloud-Infrastruktur und laufender Produktentwicklung.

• Leitung von Initiativen zur Verbesserung des Abrufs und der Darstellung von Samsung-Supportinhalten in KI-generierten Antworten, einschließlich der Erstellung redaktioneller Standards und der Sensibilisierung von Stakeholdern für Risiken bei der Darstellung.
• Entwicklung erster Frameworks zur Messung und Bewertung der Markendarstellung in KI-generierten Antworten (LLMs, Google-KI-Umgebungen), einschließlich Prompt-Baselines und Bewertungsmodellen.

Beratung und Prototyping für KI-Sprach- und mehrsprachige Agentensysteme, mit KI-gestützter Auslieferung bei Prototypen für Echtzeitübersetzung, Call-Center-Automatisierung und Voice-to-Voice-Beratungsabläufe.

• KI-Sprach- und agentische Konversationsprototypen gebaut und beraten, einschließlich Echtzeitübersetzung und kundenorientierter Beratungserlebnisse.
• Arbeit an Call-Center-Automatisierung, Voice-UX, Produktarchitektur, Implementierungsentscheidungen und Prototyping.

End-to-End-Verantwortung für alle Produkte – Konzeption, Architektur, Entwicklung und Produktivbetrieb als alleiniger Entwickler; daneben Kundengespräche, Angebote und Marketing.

Underwriting Copilot – KI-Assistent für die Industrieversicherung (produktiv im Kundeneinsatz)

• Unterstützt Underwriter bei der Analyse industrieller Versicherungs-Submissions – im Produktivbetrieb bei einem Industrieversicherer.
• Framework-unabhängige RAG-Architektur mit Hybrid Search (BM25 + pgvector) über große, heterogene Dokumentbestände.
• Zweistufige Evaluations- und Observability-Pipeline (Code-Assertions + LLM-as-Judge), die Antwortqualität, Retrieval-Genauigkeit und Citation-Integrität regressionssicher messbar macht.

Kaiki Menu Analyzer – Data-Intelligence-Plattform (produktiv im Kundeneinsatz)

• Erfasst und analysiert automatisiert Speisedaten aus rund 25.000 deutschen Restaurants.
• Skalierbare 7-Container-Architektur (FastAPI, partitioniertes PostgreSQL, Redis/RQ) mit LLM-gestützter Extraktion strukturierter Daten aus PDF, HTML und Bildern.
• Vollständige CI/CD-Pipelines (GitHub Actions), produktives Cloud-Deployment, interaktive Dashboards (Dash).

Kaiki GEO Atlas – GEO-Plattform (produktiv im Kundeneinsatz)

• Misst die Marken-Sichtbarkeit über fünf KI-Engines (ChatGPT, Gemini, Perplexity, Grok, Claude), jede web-search-augmentiert, orchestriert als DAG-Workflow-Pipeline (Dispatcher → Sub-Workflows → Scoring → Report) mit Fail-Isolation.
• 6-Container-Deployment (FastAPI, Celery, Redis, PostgreSQL); LLM-Kostenschätzung, PDF-Audit-Report, regelbasierte Cross-Signal-Insights (kein zusätzlicher LLM-Aufwand).

Data Pipeline & Analytics Platform – Wettbewerbsanalyse im Automotive-Aftermarket

• Automatisierte Daten-Pipeline mit Gap-Analyse-Algorithmen und rollenbasierter Zugriffskontrolle; 230+ Tests.
• Backend mit FastAPI, PostgreSQL, SQLAlchemy.

Produktentwicklung (in aktiver Entwicklung)

BankingGPT – KI-Assistent für das Beschwerdemanagement im Genossenschaftsbanking

• Sicherheitsarchitektur im Kern: kein KI-Entwurf erreicht den Kunden ohne menschliche Freigabe – die Freigabe-Entscheidung liegt in auditierbarem Code, nicht im Sprachmodell (monoton: das Modell darf hochstufen, nie senken).
• Echte agentische Bausteine, jeder mit eigener Grenze: das Modell wählt selbst Werkzeuge über einen MCP-Server (nur-lesend, Allowlist, gedeckelt, fail-safe); heikle Fälle gehen per offenem A2A-Protokoll (JSON-RPC, Agent Card, message/send/tasks/get; Client selbst implementiert) an einen eigenständigen Fach-Agenten (Wertpapier/Recht), der die Prüfpflicht nie senkt (per Test gepinnt).
• Evaluations-getrieben über zehn Analyse-Runden; deckte per unabhängigem Review und Blind-Tests einen Sicherheitsdefekt auf, den neun automatisierte Läufe übersehen hatten.
• Voice-AI-Frontend, live antwortend: gedeckte Fälle werden im Gespräch beantwortet, heikle eskalieren vor der Generierung; Antwortlatenz < 7 s gemessen (lokale GPU-STT/TTS).

Stack & Produktionsnähe: Python, pydantic-ai, FastAPI/Celery, PostgreSQL/pgvector, FastMCP, fasta2a, Docker; mehrmandantenfähig (physische Vektor-Isolation je Mandant), PII verschlüsselt, OWASP-LLM-reviewt, 275 Tests, CI/CD; anbieter-portabel (Ollama / EU-Cloud-Vertex).

After-Sales Assistant – agentischer RAG-/GraphRAG-Assistent auf öffentlichen OEM-Handbüchern (Automotive After-Sales)

• Genuin agentisch auf LangGraph: ReAct-Agent mit vier Werkzeugen und Gesprächsge-dächtnis – das Modell entscheidet selbst, ob es das Handbuch (RAG, Chroma), einen Wissensgraphen (GraphRAG, Neo4j/Cypher – Warnleuchten dekodieren) oder einen Werkstatt-/Buchungsdienst anspricht.
• Human-in-the-Loop vor der irreversiblen Aktion: vor jeder Terminbuchung pausiert der Graph (interrupt) und holt die ausdrückliche Bestätigung des Fahrers – dieselbe Freigabe-vor-Aktion-Disziplin wie in BankingGPT, in einem anderen Framework.
• Eval als CI-Gate: dreiteiliges Scorecard (RAGAS-Grounding + deterministische Tool-Routing-Genauigkeit + DeepEval-Safety: führt die Antwort bei kritischer Warnung zuerst die Warnung an?) blockt die Pipeline; provider-agnostisch (OpenAI/Azure/Anthropic), FastAPI mit Token-Streaming.

Stack: Python, LangChain/LangGraph, Chroma, Neo4j, RAGAS/DeepEval, FastAPI, Docker.

• Leite ein funktionsübergreifendes Squad aus Backend-, Frontend- und ML/Data-Engineers und verbinde praktische Mitarbeit (Architektur, Programmierung, Reviews) mit Teamleitung (Mentoring, Backlog-Priorisierung, Abstimmung der Roadmap).
• Entwickelte und lieferte ML-gestützte Such- und Discovery-Funktionen, darunter Learning-to-Rank (LTR), Query Expansion und Vektorsuche, und verbesserte dadurch die Ergebnisrelevanz und das Nutzerengagement.
• Implementierte Personalisierungs- und Empfehlungspipelines und nutzte Verhaltensdaten sowie Segmentierung, um Kundenbindung und Customer Lifetime Value zu erhöhen.
• Etablierte datenbasierte Arbeitsweisen und entwickelte A/B-Test- und Experimentier-Workflows (Odyn, MLflow), um die Auswirkungen von Funktionen auf CTR, NDCG und Conversion zu messen.
• Verantwortete die Architektur und Delivery-Roadmap des Squads und modernisierte Services mit cloudnativen Microservices und ereignisgesteuerten Systemen (AWS, Pulumi, Terraform), um Skalierbarkeit und Zuverlässigkeit zu verbessern.
• Verbesserte Zuverlässigkeit und operative Exzellenz durch die Einführung von Observability (Prometheus, Grafana, NewRelic), Incident Management und Postmortems, wodurch Ausfallzeiten bei kundenorientierten Services reduziert wurden.
• Unterstützte und entwickelte Engineers weiter und förderte durch regelmäßiges Feedback, Coaching und Code Reviews technisches Wachstum, Zusammenarbeit und eine kundenorientierte Denkweise.
• Arbeitete eng mit Product Managern, Researchern und Business-Stakeholdern zusammen, um Kundenerkenntnisse in technische Lösungen zu übersetzen, die Discovery, Engagement und Kundenbindung verbesserten.
• Untersuchte Anwendungsfälle für Generative AI/LLM (GPT-4, LangChain, RAG) und entwickelte Prototypen für intelligente Assistenten und personalisierte Discovery-Workflows, die die Nutzerzufriedenheit erhöhten.
• Erzielte konkrete Ergebnisse: Steigerung des Engagements durch Personalisierung, Beitrag zum Umsatzwachstum und Reduzierung von Incidents durch die Verankerung von Resilienz und Observability.