Generative KI Ingenieure in Deutschland

Remote-Freiberuflerrolle mit Fokus auf Agentic-AI-Strategie, sicheren Anwendungsmustern und wiederverwendbaren agentischen Workflows für eine Behörde.

• Entwicklung und Umsetzung einer Open-Source-Agentic-AI-Strategie für eine Behörde mit Fokus auf DSGVO, Sicherheit und selbst gehostete Lösungen
• Entwicklung wiederverwendbarer agentischer Workflows und Mini-Anwendungen, die es nicht technisch versierten Mitarbeitenden ermöglichen, Geschäftsprobleme selbstständig zu lösen
• Umsetzung interner Geschäftsanwendungen mit Single Sign On (SSO) und Azure-PostgreSQL-Integration auf Hetzner-Linux-Servern
• Techstack: Python, Nextjs, Typescript, Streamlit, Anthropic SDK (Claude), Azure, Linux Ubuntu, PostgreSQL, MS SQL, Angular, Authentik

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

• SPA zur automatisierten Befundkommunikation mit rollenbasiertem Zugriff (Sanctum)
• Serverseitige LLM-Integration (OpenRouter) mit strukturierter Verarbeitung
• Automatisierter Versand per SMS/Sprachanruf (Twilio, ElevenLabs) mit Queue + Status-Retry
• vollständige Testabdeckung mit 80+ dokumentierten Testfällen

Technologien: PHP, Laravel, LLM-API (OpenRouter), Twilio, ElevenLabs, Laravel Sanctum, PHPUnit, Playwright, Docker, REST

• Konzeption und Umsetzung modularer KI-Assistenten für Vertriebs- und Geschäftsprozesse im Microsoft-Ökosystem (Agentic AI, Copilot-Erweiterungen)
• Frontend-Architektur und -Entwicklung mit React + TypeScript für eingebettete Chat- und Assistant-Oberflächen (Streaming-UI, Hooks, React Query, OpenAPI-Clients)
• Agenten-Entwicklung auf Enterprise-Ebene: wiederverwendbare Skill-/Agenten-Bibliothek, MCP-Server, Review- und Compliance-Gates
• LLM-Integration in die User Experience: Anthropic (Claude), OpenAI, Tool-Use, RAG-Pipelines, Prompt-Engineering, Guardrails
• Architektur- und Code-Review-Beratung sowie Mentoring im KI-Entwicklungsteam
• Anbindung an Microsoft Graph, Power Platform und Azure-Dienste
• Technologien: React, TypeScript, Anthropic Claude, OpenAI, MCP, RAG, Microsoft Graph, Power Platform, Azure

Unabhängige Engineering-Praxis mit Schwerpunkt auf kundenspezifischen KI-Systemen, produktiver Umsetzung und anteiliger technischer Leitung.

Ausgewähltes Kundenprojekt: Scalutions

• Rolle: Tätigkeit als anteiliger CTO und technischer Leiter mit direkter Entwicklungsverantwortung; verantwortlich für die Architektur und die agentische Infrastruktur hinter dem betreuten B2B-Outbound-Betrieb.

• Produkt: OutboundLoop entworfen und entwickelt, ein agentisches SDR-Betriebssystem für Recherche, Qualifizierung, personalisierte Ansprache, Kampagnenmanagement, menschliche Freigaben, Messung und kontinuierliche Verbesserung.

• Umfang: Verantwortung für den gesamten Systemlebenszyklus – von Geschäftsprozessen und Agentenverhalten über Kontextdesign, Modell-Routing, Integrationen, Evaluierung, Telemetrie, Zuverlässigkeit und Kostenkontrolle bis hin zum Produktivbetrieb.

Manufacturing-Intelligence-Plattform mit Enterprise-Workflows, RAG, Echtzeit-Funktionen für AI-Assistenten und Backend-Architektur über mehrere Repositories.

• Entwickelte und erweiterte produktive AI-/Backend-Services mit Django, DRF, FastAPI, GraphQL, Celery, PostgreSQL, MySQL, Redis und WebSockets über eine modulare Plattform mit mehreren Repositories.
• Mitgewirkt an ARIS V2, einem Echtzeit-AI-Assistenten für die Fertigung mit LangChain, LangGraph, MCP-Tool-Orchestrierung, Planungs-/Ausführungs-Workflows, OpenAI, AWS Bedrock, Qdrant sowie Retrieval auf Basis von Elasticsearch/OpenSearch.
• Unterstützte die Rollout-Erweiterung von ARIS V1 in 4 von 17 Kunden-Produktionswerken auf ARIS V2, das aktuell in 13 von 17 Werken aktiv ist, und steigerte so die reale Abdeckung auf mehr als 50 % der Kundenumgebung.
• Arbeitete an dokumentengestützter RAG-Funktionalität inklusive Ingestion, OCR, Chunking, Embeddings, Indexing, Retrieval, Reranking und geerdeter Antwortgenerierung für industrielle Workflows.

Stack: Python, Django, DRF, FastAPI, LangChain, LangGraph, GraphQL, Celery, WebSockets, OpenAI, AWS Bedrock, Qdrant, Elasticsearch/OpenSearch, PostgreSQL, MySQL, Redis, Docker.

Erstellung einer KI-Console zur Integration in unterschiedliche Open-Source-Lösungen (ERP, CRM..)

Erstellung der Zielarchitektur Einbindung unterschiedlicher KI-Plattformen (ChatGPT, Anthropic, Perplexity) Workflow mit plattformübergreifender Nutzung der KI-Plattformen Spracheingabe und Sprachausgabe Verlauf Projektverwaltung auf Konsolen-Basis Generierung von individuellen Agenten (Crewai..) Einbindung der Agenten in den KI-Workflow

• Enterprise-Retrieval-Augmented-Generation-(RAG)-Anwendungen mit LangChain, LangGraph, Vektordatenbanken, Embeddings und Open-Source-LLMs entworfen und bereitgestellt, die über vLLM auf GCP-GPU-Infrastruktur betrieben wurden.
• Agentic-AI-Workflows mit LangGraph entwickelt, inklusive Planung, Schlussfolgern, Tool-Ausführung, persistenter Speicherung, Sitzungsverwaltung und Human-in-the-Loop-Freigabemechanismen.
• LLM-gestützte Automatisierungssysteme entwickelt, die BigQuery, SQL-Pipelines und externe Werbe-APIs wie Meta, TikTok, Amazon, Snapchat, Google und Pinterest integrieren und manuelle operative Abläufe reduzieren.
• Multi-Agent-AI-Systeme für Enterprise-Analytics- und Entscheidungsunterstützungs-Workflows entworfen, die autonome Aufgabenausführung und intelligente Dateninteraktionen ermöglichen.
• Retrieval-Optimierungsstrategien umgesetzt, darunter Multi-Retriever-Architekturen, semantische Suche, Kontextoptimierung und Query-Verbesserungstechniken, wodurch die Relevanz der Antworten um etwa 40 % verbessert wurde.
• Strukturierte Prompting-Strategien, Function-Calling-Schemata und Validierungs-Workflows entwickelt, um die Zuverlässigkeit von mehrstufigen LLM-Anwendungen zu verbessern.
• Skalierbare AI-Services mit Python, FastAPI, Cloud Run, Pub/Sub, BigQuery, Docker und cloud-nativen Bereitstellungsarchitekturen entworfen.

Aufbau und Skalierung einer hochperformanten Unternehmens-API für Echtzeit-Adressvalidierung und Datenqualität mit Subsekunden-Latenz und 99,9 % Verfügbarkeit.

Architektur und Integration in E-Commerce-, Checkout- und Logistikprozesse führender europäischer Unternehmen. Reduzierung von Zustellfehlern und Versandkosten durch automatisierte Datenkorrektur und präzise Datenvalidierung.

End-to-End-Verantwortung für Produktstrategie, technische Architektur, Softwareentwicklung, Unternehmenskunden, Betrieb und DSGVO-konforme Datenverarbeitung. Verbindung von KI-nativen Entwicklungs-Workflows, Python, SQL, API-Integration, Datenqualität und Workflow-Automatisierung.

Projekt: Neura Belden BHVA (Belden HI Vision Virtual Assistance)

• Übersetzte KI-Agenten-Konzepte in 4 verschiedene User Workflows (General, Redundancy, Network, VLAN Agents).
• Entwickelte 6 wegweisende Features mit technischen Spezifikationen: Predictive Issue Resolution, Cost Optimization Engine, Compliance Automation, Cross-Agent Orchestration, Knowledge Transfer Mode, Root Cause Analysis 2.0.
• Erarbeitete wiederverwendbare UX-Patterns und leichtgewichtige Standards für eine Experiment-First-KI-Umgebung: HTML/CSS/JS-Prototypen in einer Datei, semantische Barrierefreiheit, responsive Grid-Layouts und eine klare Komponentenstruktur für schnelle zukünftige POC-Iterationen.
• Übersetzte frühe KI-Konzepte in intuitive User Workflows und Interaktionsmodelle für 4 spezialisierte Agents, mit Fokus auf Klarheit, Vertrauensaufbau und progressive Offenlegung, um komplexe KI-Funktionen sichtbar zu machen.
• Dokumentierte Design-Entscheidungen und -Abwägungen in verständlicher Sprache für Nicht-Designer.

• ▶ Einen Echtzeit-Sprachassistenten gebaut (STT → LLM → TTS-Pipeline), mehrere STT-Anbieter wie faster-whisper und Azure Speech gebenchmarkt und bewertet. Sub-3s-Latenz erreicht, Groq API (Llama 3) mit Multi-Turn-Memory genutzt - mit direkter Behandlung von Edge Cases bei Diktat, Namen und Passcode-Erkennung.

struppilog.com – Digitale Gesundheitsakte für Haustiere / MVP → Vollständiges Produkt

Konzeption, Entwicklung und vollständige Weiterentwicklung einer digitalen Gesundheitsplattform für Haustiere – von der eigenen MVP-Entwicklung bis zur vollständig ausgebauten und produktiv nutzbaren Plattform.

Eigenständige Konzeption und Entwicklung des MVP Entwicklung der gesamten Anwendung mit Flutter/Dart und Firebase Ausbau des MVP zu einer vollständigen digitalen Gesundheitsakte mit Gesundheitsdaten, Befunden, Allergien, Medikamenten, Dokumenten und Notfalldaten Entwicklung von Benutzerregistrierung, Authentifizierung, Rollen, Datenmodellen und sicheren Nutzerinteraktionen Umsetzung von QR-Code-basiertem Datenaustausch und digitalen Interaktionsfunktionen Entwicklung einer mehrsprachigen, responsiven Webanwendung Integration von AI-gestützten Funktionen und AI-/Agentic-Workflows Entwicklung und kontinuierliche Weiterentwicklung der Produktlogik, UX/UI und technischen Architektur Aufbau und Erweiterung einer skalierbaren Cloud-basierten Lösung mit Firebase Integration und Weiterentwicklung von APIs und externen Services Einsatz von AI-native / Agentic Engineering zur Beschleunigung von Entwicklung, Testing, Debugging und Produktiteration Eigenständige Umsetzung sämtlicher weiterer Funktionen und technischen Erweiterungen Kontinuierliche Weiterentwicklung des MVP zu einem vollständigen digitalen Produkt

Impact: Das von mir selbst entwickelte MVP wurde kontinuierlich technisch und funktional zu einer umfangreichen, produktiv nutzbaren Plattform weiterentwickelt – einschließlich Frontend, Backend, Datenmodell, Authentifizierung, UX/UI, APIs, Cloud-Infrastruktur und laufender Produktentwicklung.

• Leitung von Initiativen zur Verbesserung des Abrufs und der Darstellung von Samsung-Supportinhalten in KI-generierten Antworten, einschließlich der Erstellung redaktioneller Standards und der Sensibilisierung von Stakeholdern für Risiken bei der Darstellung.
• Entwicklung erster Frameworks zur Messung und Bewertung der Markendarstellung in KI-generierten Antworten (LLMs, Google-KI-Umgebungen), einschließlich Prompt-Baselines und Bewertungsmodellen.

• Wirkung: Arcate verwandelt verstreute Kundensignale in bewertete Produktentscheidungen für B2B-Produktteams. Jede Initiative wird nach dem gefährdeten Umsatz priorisiert. Jede Entscheidung ist vom Kundenzitat bis zur Vorstandspräsentation nachvollziehbar. Allein entwickelt und produktiv eingesetzt. Das Modell wurde in 60 Simulationsläufen mit Kendall's tau = 0,924 gegenüber der Einschätzung erfahrener Product Manager validiert.

• Kompetenzen: Künstliche Intelligenz, KI-Agenten, Large Language Model (LLM), RAG, Model Context Protocol (MCP), agentische Workflows, Supabase, TypeScript, Deno, PHP, Stripe, PostgreSQL, Produktstrategie, Positionierung, GTM

• Fähigkeiten:

• Signalerfassung: Slack, Intercom, Gong, Salesforce, HubSpot. Signale werden nach ihrer geschäftlichen Bedeutung klassifiziert, um Entscheidungen zu Umsatzrisiken zu priorisieren.

• Umsatzbewertung: Fermi-Leverage-Modell. Initiativen werden nach gefährdetem Kunden-ARR, Signalstärke und Bestätigung durch mehrere Accounts bewertet.

• Roadmap-Intelligence: Jede Entscheidung ist vom ursprünglichen Kundensignal bis zur bewerteten, vorstandstauglichen Entscheidung nachvollziehbar.

• Entwickelt:

• MCP-Server (v0.10.0): 12 Tools, JSON-RPC 2.0, Supabase Edge Functions, SHA-256-Authentifizierung für API-Schlüssel.

• Bewertungs-Engine: Logarithmisch gewichteter ARR, durch Quadratwurzel gedämpfte Signalstärke, Bestätigung von Signalen durch mehrere Accounts.

• Agentische Workflows: 18 automatisierte Pipelines für Release, Bereitstellung, Design-QA, Guard-QA und Signalerfassung über Slack-Agenten.

• KI-Fähigkeiten: 7 kodifizierte Fähigkeiten, darunter CEO Prioritizer, Design System Enforcer, MCP QA und Simulation Runner.

• Automatisierte Qualitätssicherung: Browserbasierte Screenshot-Validierung jedes Bildschirms anhand von Design Tokens bei jedem Build.

• Vollständige SaaS-Anwendung: Authentifizierung, Abrechnung, Medien-Pipeline, Design-System. Allein produktiv eingesetzt.

• Technologie-Stack: Supabase (Authentifizierung, DB, Edge Functions, Echtzeit), Stripe, Cloudinary, PHP, TypeScript, Deno