Conversational AI Experten in Deutschland

Remote-Freelance-Rolle mit Schwerpunkt auf Agentic-AI-Strategie, sicheren Anwendungsmustern und wiederverwendbaren agentischen Workflows für eine Behörde.

• Entwicklung und Umsetzung einer Open-Source-Strategie für Agentic AI für eine Behörde mit Schwerpunkt auf GDPR, Sicherheit und selbst gehosteten Lösungen
• Entwicklung wiederverwendbarer agentischer Workflows und Geschäftsanwendungen, mit denen nicht-technische Mitarbeitende Geschäftsprobleme selbstständig lösen können
• Umsetzung von neun Geschäftsanwendungen mit Single Sign-On (SSO) und Azure-PostgreSQL-Integration auf Hetzner-Linux-Servern

Techstack: Python, Streamlit, Anthropic SDK (Claude), Azure, Linux, PostgreSQL, MS SQL, Angular

• Entwicklung globaler ACM-Copilot-Services und Gestaltung ihrer Weiterentwicklung auf globaler Ebene
• Vermittlung der Vorteile und Möglichkeiten von Copilot an interne und externe Zielgruppen
• Einarbeitung, Mentoring und Training neuer ACM-Kollegen in Services und Methoden
• Ansprechpartner für die interne Einführung und das Change Management von Copilot-Proof-of-Concepts
• Leitung der Copilot-Adoptionsstrategie sowie Kommunikation von Vorteilen, Nutzung und ethischen Aspekten
• Organisation von Veranstaltungen und Workshops sowie Aufbau einer interaktiven Community zum Austausch von Updates, Erkenntnissen und Best Practices

• KI-natives B2B-SaaS für die Suche nach Freelancern; DACH-Markt.*

• Unternehmenspartnerschaften in vier Branchen: Mehrere Stakeholder umfassende Partnerschaften mit Telefónica (Telekommunikation), Emma Matratzen (Einzelhandel), Nürnberger Versicherungen und Flatex (Finanzdienstleistungen), Hubert Burda Media und Serviceplan Gruppe (Medien) strukturiert und abgeschlossen.

• Umsatz und Wachstum: FRATCH von €0 auf €3.8M jährliches GMV skaliert, wobei etwa 80 % des Umsatzes durch direkte, vom Gründer initiierte Ansprache und Partnerbeziehungen gewonnen wurden.

• Vertriebspartnerschaften: FRATCH als SaaS-Lösung an Recruiting-Unternehmen (z. B. YER) verkauft — den partnergestützten Vertriebsansatz parallel zum direkten Unternehmensvertrieb aufgebaut.

• Teamaufbau: FRATCH vom Einzelgründer zu einem Team von 7 in den Bereichen Engineering, Produktdesign, Operations und Ansprache von Freelancern skaliert.

• Eigener Netzwerkbestand: 15,000+ Freelancer als registrierte Nutzer gewonnen — das eigene DACH-Netzwerk, das FRATCHs Matching ermöglicht.

• FRATCH GPT entwickelt und eingeführt (fratch.io/gpt): einen produktiven dialogbasierten KI-Agenten. Den gesamten Stack konzipiert — LLM-Orchestrierung, Embeddings, Re-Ranking — mit praktischer Beteiligung an technischer Konzeption und Umsetzung.

• GTM-Aufbau: den gesamten Go-to-Market-Stack verantwortet — Outbound, LinkedIn (organisch + bezahlt), Content und Vertriebsunterstützung.

• Konzeption, Einrichtung und Betrieb von KI-Telefonassistenten (Voicebots) als Managed Service
• Anforderungsanalyse und Prozessaufnahme: Anrufgründe, wiederkehrende Anfragen, Eskalations- und Notfallregeln
• Conversation Design & Prompt Engineering: Dialogführung, Tonalität, Gesprächslogiken, Fallbacks und Übergaben
• Aufbau und Pflege strukturierter Wissensdatenbanken für wiederkehrende Kundenanfragen
• Integration in bestehende Abläufe, u. a. Anliegenerfassung, Terminkoordination, SMS-Bestätigungen und Weiterleitungen
• Testing, Kundenabnahme, laufende Optimierung sowie saisonale und inhaltliche Anpassungen
• Evaluation von Voice-AI- und Conversational-AI-Plattformen nach Funktion, Datenschutz, Hosting und Datenverarbeitung
• Konzeption und Umsetzung von Website-Chatbots und WhatsApp-Business-Lösungen
• Berücksichtigung von Datenschutz- und Compliance-Anforderungen beim Einsatz von KI-Systemen

• Recare Voice Desktop in zwei Monaten von 0 auf 1 entwickelt und eingeführt, einschließlich mehrsprachiger klinischer Dokumentation, die automatisch in strukturierte deutsche medizinische Notizen transkribiert wird.
• LLM-Inferenzkosten in Docs und Extract durch eine Prompt-Caching-Architektur um 60–70 % gesenkt.
• Die von PMs und Ingenieuren für Prompt-Experimente genutzte KI-Workbench sowie den Langfuse-Evaluierungs-Stack aufgebaut (über 10.000 ausgewertete Traces).

• Verantwortung für Qvantum, eine cloudbasierte Plattform für die Personal-, Kostenstellen- und Vertriebsplanung
• Roadmap, Priorisierung und Stakeholder-Kommunikation gesteuert
• Eng mit Entwicklungsteams und fachlichen Stakeholdern zusammengearbeitet
• Benutzerfreundlichkeit verbessert und datengestützte Entscheidungsfindung unterstützt
• Produktentwicklungsinitiativen von der Discovery bis zur Auslieferung geleitet

Konzeption und Entwicklung einer Azure-basierten KI- und Datenplattform, die verteilte Projektdokumente in durchsuchbares, strukturiertes Wissen für einen Enterprise-KI-Assistenten überführt. Kombination aus inkrementeller Dokumentverarbeitung, hybrider Keyword-/Vektorsuche, Wissensgraph-Extraktion und konversationeller KI für Microsoft Teams und Microsoft 365 Copilot. Implementierung von Python-Pipelines zur Verarbeitung von PDF-, Word-, Outlook- und Textdateien; Lifecycle-Management für Azure Cosmos DB; Azure AI Search; Azure AI Foundry und Azure OpenAI; identitätsbewusste Suche mit Microsoft Entra ID; Projektberechtigungen; eines TypeScript-Agenten mit Microsoft Agents SDK; Pulumi-Infrastruktur; robustem Scheduling sowie Werkzeugen für Wiederholungen und Diagnosen. Technologie-Stack: Python, TypeScript, FastAPI, Pydantic, Azure AI Foundry, Azure OpenAI, Azure AI Search, Azure Cosmos DB, Blob/Table Storage, Container Apps/Jobs, Service Bus, Key Vault, Entra ID, Docker, Pulumi, pytest, Microsoft Teams und Microsoft 365 Copilot.

Konversationeller KI-Assistent für Fragen zu Cloud-Infrastruktur und Sicherheit

• FastAPI-Backend mit Multi-Turn-Conversation-Handler, Token-Budgeting und Kontextfenster-Management entworfen.
• Amazon Bedrock (Claude 3 Sonnet/Haiku) integriert; RAG-Pipeline mit MongoDB-Chatverlauf und semantischer Suche aufgebaut.
• Factory Pattern für modulares Wechseln zwischen LLM-Anbietern implementiert; der Aufwand für das Onboarding neuer Modelle um 60% reduziert.
• Die LLM-Inferenzkosten um 35% gesenkt durch Modell-Tiering (Haiku vs. Sonnet) und Konsolidierung von Prompts/Entitäten.

Tech: Python, FastAPI, Amazon Bedrock, MongoDB, Streamlit, Pydantic.

• ▶ Echtzeit-Sprachassistenten entwickelt (STT → LLM → TTS-Pipeline), mehrere STT-Anbieter einschließlich faster-whisper und Azure Speech getestet und bewertet. Latenz von unter 3 Sekunden erreicht, Groq API (Llama 3) mit Multi-Turn-Speicher eingesetzt – einschließlich direkter Behandlung von Sonderfällen bei Diktaten sowie der Erkennung von Namen und Zugangscodes.

• TrendReel, Produktions-LLM-Agenten- und RAG-System (Python, LangChain, OpenAI, Groq/Llama 3, Claude, FastAPI, Kubernetes, PostgreSQL).
• Entwarf und baute ein produktives mehrstufiges LLM-Agentensystem: einen Script-Generierungs-Agenten mit einer plattformbezogenen Psychologie-Datenbank, 7 viralen Narrativ-Frameworks und strukturierter Qualitätsbewertung, der in Echtzeit je nach Ausgabemetriken zwischen Claude- und Groq-Backends wechselte.
• Implementierte Multi-Provider-LLM-Routing (Claude primär, Groq/Llama 3 Fallback) mit Priority-Chain-Failover und qualitätsbasiertem Provider-Wechsel und erreichte dabei eine Senkung der Inferenzkosten um 95 %, während messbare Qualitätsgrenzen eingehalten wurden.
• Aufbau einer fortschrittlichen RAG-artigen Retrieval-Pipeline mit Wissensbasen pro Plattform, semantischem Content-Matching und strukturierter Ausgabeevaluation über 7 Entscheidungs-Frameworks, direkt vergleichbar mit kontextbasiertem Reasoning in Multi-Tenant-Enterprise-Dokumenten-Workflows.
• BrainyAI, adaptive KI-Lernplattform (Python, LangChain, Groq Llama 3.3-70B, OpenAI, Next.js, Supabase, Redis).
• Integrierte Groq Llama 3.3-70B mit einem auf Bildungsniveau abgestimmten Prompting, wobei Wortschatz-Tiefe, Zitierkomplexität und Denkstil dynamisch über vier Leistungsstufen von Lernenden angepasst wurden.
• Nexus Prime, Multi-Tenant-SaaS-Plattform für Marketing- und Wachstumsautomatisierung (25 Module, 99 Backend-Router, 153 Frontend-Dateien).
• Aufbau einer 25-Modul-, 99-Router-Multi-Tenant-SaaS-Plattform für Ad-Remix, Affiliates, WhatsApp-Inbox, E-Mail und Warenkorbwiederherstellung, die vier Abo-Stufen von $199 bis $1,999 pro Monat mit integrierter Stripe-, Paystack- und Flutterwave-Abrechnung bedient.
• KI-Videoüberwachungsplattform, Multi-Tenant-Edge- und Cloud-Computer-Vision-System derzeit aktiv im Kundengespräch.
• Entwarf eine Multi-Tenant-KI-Videoüberwachungsplattform, die Edge-YOLO26-Inferenz auf NVIDIA Jetson Orin NX Boxen mit einer zentralen GKE-Cloud-Schicht (Postgres, Pub/Sub, ClickHouse, R2, Keycloak) für Ereignisspeicherung, Dashboards, Alarme und Multi-Tenancy kombiniert.

• Automatische Erkennung von Inhalten auf verschiedenen Dokumenten
• Recommendation Engine
• Dynamic Pricing

• Technische Konzeption, Priorisierung und praktische Umsetzung von KI-Automation-, Conversational-AI-, Voice-AI- und Private-AI-Lösungen.
• Übersetzung fachlicher Anforderungen in Systemarchitektur, Gesprächs-/Workflow-Logik, APIs, Datenflüsse und produktionsnahe KI-Workflows.
• Entwicklung von Backend- und Integrationskomponenten mit Python/FastAPI, PostgreSQL/pgvector, Redis, REST APIs, Webhooks und Background Jobs.
• Konzeption und Implementierung von RAG-Architekturen mit lokalen/privaten LLMs, Embeddings, Dokumentenverarbeitung, semantischer Suche und kontrolliertem Zugriff auf Unternehmenswissen.
• Prompt Engineering für LLM- und Voice-/Conversational-AI-Anwendungen; iterative Optimierung anhand realer Abläufe, Systemreaktionen und Qualitätsanforderungen.
• Praktische Arbeit mit ElevenLabs und dessen APIs in einem Voice-AI-Projekt sowie technische Bewertung und Integration von Voice-AI-Komponenten.
• Deployment und Betrieb Docker-basierter Systeme auf Linux mit Nginx, CI/CD, Monitoring/Logging, Backup/Restore und reproduzierbaren Deployment-Prozessen.

struppilog.com – Digitale Gesundheitsakte für Haustiere / MVP → Vollständiges Produkt

Konzeption, Entwicklung und vollständige Weiterentwicklung einer digitalen Gesundheitsplattform für Haustiere – von der eigenen MVP-Entwicklung bis zur vollständig ausgebauten und produktiv nutzbaren Plattform.

Eigenständige Konzeption und Entwicklung des MVP Entwicklung der gesamten Anwendung mit Flutter/Dart und Firebase Ausbau des MVP zu einer vollständigen digitalen Gesundheitsakte mit Gesundheitsdaten, Befunden, Allergien, Medikamenten, Dokumenten und Notfalldaten Entwicklung von Benutzerregistrierung, Authentifizierung, Rollen, Datenmodellen und sicheren Nutzerinteraktionen Umsetzung von QR-Code-basiertem Datenaustausch und digitalen Interaktionsfunktionen Entwicklung einer mehrsprachigen, responsiven Webanwendung Integration von AI-gestützten Funktionen und AI-/Agentic-Workflows Entwicklung und kontinuierliche Weiterentwicklung der Produktlogik, UX/UI und technischen Architektur Aufbau und Erweiterung einer skalierbaren Cloud-basierten Lösung mit Firebase Integration und Weiterentwicklung von APIs und externen Services Einsatz von AI-native / Agentic Engineering zur Beschleunigung von Entwicklung, Testing, Debugging und Produktiteration Eigenständige Umsetzung sämtlicher weiterer Funktionen und technischen Erweiterungen Kontinuierliche Weiterentwicklung des MVP zu einem vollständigen digitalen Produkt

Impact: Das von mir selbst entwickelte MVP wurde kontinuierlich technisch und funktional zu einer umfangreichen, produktiv nutzbaren Plattform weiterentwickelt – einschließlich Frontend, Backend, Datenmodell, Authentifizierung, UX/UI, APIs, Cloud-Infrastruktur und laufender Produktentwicklung.

• Einsatz moderner JavaScript-Funktionen einschließlich ES6+-Syntax, Destructuring, Modulen, Array-Methoden und asynchroner Programmierung zur Entwicklung effizienter und gut lesbarer Frontend-Software.
• Umsetzung von Frontend-Integrationsmustern für PHP- und Laravel-Backend-Services, Anbindung von React-Oberflächen an REST-APIs und Verarbeitung strukturierter JSON-Daten.
• Entwicklung interaktiver, funktionaler und komponentenbasierter Frontend-Anwendungen mit React Hooks, JavaScript und TypeScript sowie Backend-Anwendungen und RESTful APIs mit Python, Django, Flask und FastAPI, mit Fokus auf wiederverwendbare Komponenten, modulare Architektur, Wartbarkeit und effiziente Datenverarbeitung.
• Pflege einer dynamischen Portfolio-Plattform mit PHP, Laravel, Livewire und MySQL sowie Umsetzung der vollständigen Funktionalität über Frontend-Oberflächen, Backend-Services und Datenbankoperationen hinweg.
• Überprüfung der serverseitigen Anfrageverarbeitung, des Routings, der Middleware und der Formularvalidierung mithilfe von Laravel-Funktionen zur Unterstützung zuverlässiger Anwendungsabläufe und einer konsistenten Datenverarbeitung.
• Entwurf und Verwaltung relationaler Datenbankstrukturen mit MySQL und Laravel Eloquent ORM sowie Implementierung von Datenmodellen, Beziehungen, Datenbankmigrationen und effizienten Abfragen für das Content-Management.
• Entwicklung KI-gestützter Anwendungen mit Large Language Models (LLMs) über externe APIs und lokal gehostete Modelle sowie Untersuchung praktischer Anwendungsfälle für dialogorientierte KI, intelligente Automatisierung und KI-gestützte Workflows.
• Entwicklung lokaler KI-Anwendungen und Entwicklertools zum Ausführen, Konfigurieren und Interagieren mit lokal gehosteten Sprachmodellen sowie praktische Erfahrung mit lokaler Inferenz, Modellintegration und datenschutzbewussten KI-Workflows.
• Untersuchung von Retrieval-Augmented-Generation-(RAG)-Ansätzen zur Kombination von Sprachmodellen mit externen Wissensquellen und zur Ermöglichung kontextbezogener Antworten auf Grundlage relevanter Anwendungsdaten und abgerufener Informationen.
• Integration von KI-Services in Backend-APIs und Anwendungskomponenten sowie Entwicklung wiederverwendbarer Module für Modellkommunikation, Antwortverarbeitung, Fehlerbehandlung und Datenaustausch.