Azure OpenAI Service Experten in Deutschland

• Entwicklung einer produktionsreifen Enterprise-AI-Lösung zur automatisierten Verarbeitung von Rechnungen und Geschäftsdokumenten
• Integration von Azure AI Document Intelligence und LLM-Technologien in bestehende Unternehmensprozesse
• Entwicklung robuster REST APIs zur automatisierten Dokumentenverarbeitung und Systemintegration
• Extraktion, Validierung und Speicherung strukturierter Rechnungsdaten in Azure SQL als Grundlage für Analytics- und Machine-Learning-Modelle
• Entwicklung einer AI-basierten Recommendation Engine mit Machine Learning und Deep Learning zur Generierung personalisierter Produktempfehlungen auf Basis historischer Einkaufsdaten
• Implementierung von Logging, Monitoring, Fehlerbehandlung und Validierungsmechanismen für einen stabilen produktiven Betrieb
• Zusammenarbeit mit Fachbereichen zur Definition von Geschäftsregeln und Integration der Lösung in bestehende Enterprise-Prozesse

Technologien: Python, Azure AI Document Intelligence, Azure OpenAI, Azure SQL Database, REST APIs, Machine Learning, Deep Learning, OCR, Pandas, JSON, Workflow-Automatisierung

• Deployment und Skalierung bestehender ML-Initiativen, unter anderem für Demand- und Cashflow-Prognosen.
• Aufbau eines belastbaren Monitorings mit MLflow für Datenstabilität, Modellperformance und Drift-Erkennung sowie Umsetzung zusätzlicher ML-Use-Cases.
• Weiterentwicklung eines Agentic-AI-Chatbots zur transparenten und verständlichen Modellerklärung.

• Strategische Beratung zur Einführung von KI und Innovation für Unternehmen in hochwertigen Branchen wie Mode, Beauty, Retail und Hospitality.
• Entwicklung strategischer Roadmaps und Entscheidungsgrundlagen für die KI-Einführung in produktbezogenen und kreativen Bereichen.
• Unterstützung beim internen Storytelling, um Akzeptanz bei Teams und Führungskräften zu schaffen.
• Strukturierte Bewertung potenzieller KI-Use-Cases anhand von Reifegrad, Wirkung und technischer Machbarkeit.
• Vereinfachung komplexer KI-Konzepte, LLM-Strukturen und agentischer Workflows für Entscheidungsträger.
• Anwendung eines klaren Bewertungsmodells zur schnellen Wertrealisierung (Build–Buy–Vibe-Entscheidungsrahmen).
• Identifikation typischer Fallstricke bei der KI-Einführung und Ableitung nachhaltiger Einführungsansätze.
• Entwicklung kuratierter Trendradare und Positionierung von KI in hochwertigen Marken und regulierten Umgebungen.

Ich habe eine KI-gestützte Multi-Tenant-Plattform auf Azure entworfen und entwickelt, die SAP-Prozessaufzeichnungen in technische Dokumentation, Präsentationen und automatisierte Tests umwandelt und dabei über 15.000 Prozessaufzeichnungen für Unternehmenskunden wie Würth verarbeitet. Ich war verantwortlich für die Architektur, die produktiven Releases und das DevOps-Setup. Außerdem habe ich ein Multi-Tenant-System mit SSO und rollenbasierter Zugriffskontrolle auf Azure entworfen. MCP Server mit dynamischer OAuth-Authentifizierung implementiert.

Hauptaufgaben:

• Sprint-Planung und Feature-Vorbereitung
• Design der Multi-Tenant-Plattform-Architektur (FastAPI, SQLAlchemy, PostgreSQL Row-Level Security für Tenant-Isolation)
• Entwicklung von KI-Pipelines mit Prefect für Transkription (Azure Speech API), Dokumentengenerierung und SAP-Screen-Recording-Analyse (Claude, gpt-4-mini)
• Design und Implementierung eines MCP-Servers, um Tenant-Wissen für LLM-Clients (Claude) bereitzustellen, mit asynchronem Retrieval und Reranking
• Implementierung von LLM-Kosten-Tracking, Rate Limiting und Client-Pooling für Anthropic/OpenAI/Azure-OpenAI-Endpunkte
• Einrichtung von CI/CD: Docker-Images in Azure Container Registry, GitHub Actions, Azure Static Web Apps, Alembic-Migrationen in Containern
• Verwaltung von Produktions-Deployments und Durchführung von Live-Datenmigrationen für Unternehmenskunden
• Definition von Engineering-Standards und Architekturmustern für das Team

Umgebung: Azure / Azure Foundry / Python / FastAPI / Prefect / React / PostgreSQL

• Gesamtverantwortung für den Projektlebenszyklus von der Umfangsdefinition bis zum Abschluss
• Enge Zusammenarbeit mit Plattform-Teams, IT-Führungskräften und externen Dienstleistern
• Anwendung von SAFe-Prinzipien und strukturierte Sprint-Arbeit
• Erstellung eines Migrationsfahrplans mit klaren Meilensteinen
• Überwachung des Lifecycles: Onboarding, Repository-Migration, Replikation von Berechtigungen und Systemtests
• Visualisierung der Architektur mit PlantUML und Gliffy sowie Dokumentation in Confluence
• Regelmäßige Statusberichte und Durchführung von Wissenstransfer-Sessions

• ▶ Einen Echtzeit-Sprachassistenten gebaut (STT → LLM → TTS-Pipeline), mehrere STT-Anbieter wie faster-whisper und Azure Speech gebenchmarkt und bewertet. Sub-3s-Latenz erreicht, Groq API (Llama 3) mit Multi-Turn-Memory genutzt - mit direkter Behandlung von Edge Cases bei Diktat, Namen und Passcode-Erkennung.

• Eigenverantwortliche Begleitung der POS-Ausschreibung in der Warenhausgastronomie.

• Strukturierte Anforderungserhebung (fachlich und technisch).

• Erstellung einer managementtauglichen Leistungsbeschreibung als Entscheidungsgrundlage für Geschäftsführung und IT.

• Marktübersicht relevanter POS-Anbieter.

• Enge Abstimmung mit Galeria IT- und Fachabteilung.

Enterprise-KI-Inhaltskategorisierung und KI-gestützte Web-Recherche.

• Multi-LLM-Evaluierungs-Framework mit annotierten Daten aufgebaut
• LLM-Fehlerraten anhand annotierter Datensätze iteriert
• KI-gestützte Web-Recherche-Pipeline implementiert Technologie-Stack: LLM, evals, OpenRouter, Python, Node.js, TypeScript, React

• Agierte als technischer Berater zur Optimierung von mehrschichtigen Ensemble-Modellen, die ResNet, CNN-BiGRU-Attention und XGBoost kombinierten.
• Begleitete die Umsetzung eines Logistic-Regression-Meta-Lerners zur Lösung von Klassenungleichgewichten und erreichte 92,86 % Genauigkeit und einen AUC-Wert von 0,9644 auf den Datensätzen PTB-XL und Chapman-Shaoxing.

• Aufbau eines KI-Systems für Trend-Scouting zur Automatisierung von Technologie-Intelligence in der Leistungselektronik und bei Halbleitern, kombiniert mit Azure OpenAI und LangChain, Scrapy-basiertem Web-Crawling für eine strukturierte, störungsfreie Datenerfassung sowie automatischer PDF-Berichterstellung für den internen F&E-Einsatz. Entwicklung einer FastAPI-basierten Webanwendung (Uvicorn) zur Validierung von LLM-Ausgaben, zum Testen von Prompt-Strategien und für eine interaktive Systembewertung.
• Entwicklung eines Echtzeit-Debuggers für STM32-Binärtelemetrie mit PyQt-basierter GUI, inklusive header-basierter Framesynchronisation, Anomalieerkennung, template-gesteuerter Payload-Dekodierung, zeitsynchronem Buffering und Live-Signalvisualisierung.
• Entwicklung eines KI-gestützten Designers für Leistungsdrosseln mit Surrogate-Regression-Modellen für eine genaue elektromagnetische und thermische Vorhersage. Integration einer Multi-Objective-NSGA-II-Optimierung zur Generierung effizienter, fertigungsgerechter Designs.

• Dozent für den GenAI-Track des Master School Institute of Technology
• Entwicklung einer Full-Stack-KI-Anwendung (React + Python/FastAPI) für den automatisierten Lieferanten-Produktimport mit intelligenter Spalten- und Kategorienklassifizierung (4-Layer, hierarchisch) inkl. Human-in-the-Loop-Validierung

End-to-End-Verantwortung für alle Produkte – Konzeption, Architektur, Entwicklung und Produktivbetrieb als alleiniger Entwickler; daneben Kundengespräche, Angebote und Marketing.

Underwriting Copilot – KI-Assistent für die Industrieversicherung (produktiv im Kundeneinsatz)

• Unterstützt Underwriter bei der Analyse industrieller Versicherungs-Submissions – im Produktivbetrieb bei einem Industrieversicherer.
• Framework-unabhängige RAG-Architektur mit Hybrid Search (BM25 + pgvector) über große, heterogene Dokumentbestände.
• Zweistufige Evaluations- und Observability-Pipeline (Code-Assertions + LLM-as-Judge), die Antwortqualität, Retrieval-Genauigkeit und Citation-Integrität regressionssicher messbar macht.

Kaiki Menu Analyzer – Data-Intelligence-Plattform (produktiv im Kundeneinsatz)

• Erfasst und analysiert automatisiert Speisedaten aus rund 25.000 deutschen Restaurants.
• Skalierbare 7-Container-Architektur (FastAPI, partitioniertes PostgreSQL, Redis/RQ) mit LLM-gestützter Extraktion strukturierter Daten aus PDF, HTML und Bildern.
• Vollständige CI/CD-Pipelines (GitHub Actions), produktives Cloud-Deployment, interaktive Dashboards (Dash).

Kaiki GEO Atlas – GEO-Plattform (produktiv im Kundeneinsatz)

• Misst die Marken-Sichtbarkeit über fünf KI-Engines (ChatGPT, Gemini, Perplexity, Grok, Claude), jede web-search-augmentiert, orchestriert als DAG-Workflow-Pipeline (Dispatcher → Sub-Workflows → Scoring → Report) mit Fail-Isolation.
• 6-Container-Deployment (FastAPI, Celery, Redis, PostgreSQL); LLM-Kostenschätzung, PDF-Audit-Report, regelbasierte Cross-Signal-Insights (kein zusätzlicher LLM-Aufwand).

Data Pipeline & Analytics Platform – Wettbewerbsanalyse im Automotive-Aftermarket

• Automatisierte Daten-Pipeline mit Gap-Analyse-Algorithmen und rollenbasierter Zugriffskontrolle; 230+ Tests.
• Backend mit FastAPI, PostgreSQL, SQLAlchemy.

Produktentwicklung (in aktiver Entwicklung)

BankingGPT – KI-Assistent für das Beschwerdemanagement im Genossenschaftsbanking

• Sicherheitsarchitektur im Kern: kein KI-Entwurf erreicht den Kunden ohne menschliche Freigabe – die Freigabe-Entscheidung liegt in auditierbarem Code, nicht im Sprachmodell (monoton: das Modell darf hochstufen, nie senken).
• Echte agentische Bausteine, jeder mit eigener Grenze: das Modell wählt selbst Werkzeuge über einen MCP-Server (nur-lesend, Allowlist, gedeckelt, fail-safe); heikle Fälle gehen per offenem A2A-Protokoll (JSON-RPC, Agent Card, message/send/tasks/get; Client selbst implementiert) an einen eigenständigen Fach-Agenten (Wertpapier/Recht), der die Prüfpflicht nie senkt (per Test gepinnt).
• Evaluations-getrieben über zehn Analyse-Runden; deckte per unabhängigem Review und Blind-Tests einen Sicherheitsdefekt auf, den neun automatisierte Läufe übersehen hatten.
• Voice-AI-Frontend, live antwortend: gedeckte Fälle werden im Gespräch beantwortet, heikle eskalieren vor der Generierung; Antwortlatenz < 7 s gemessen (lokale GPU-STT/TTS).

Stack & Produktionsnähe: Python, pydantic-ai, FastAPI/Celery, PostgreSQL/pgvector, FastMCP, fasta2a, Docker; mehrmandantenfähig (physische Vektor-Isolation je Mandant), PII verschlüsselt, OWASP-LLM-reviewt, 275 Tests, CI/CD; anbieter-portabel (Ollama / EU-Cloud-Vertex).

After-Sales Assistant – agentischer RAG-/GraphRAG-Assistent auf öffentlichen OEM-Handbüchern (Automotive After-Sales)

• Genuin agentisch auf LangGraph: ReAct-Agent mit vier Werkzeugen und Gesprächsge-dächtnis – das Modell entscheidet selbst, ob es das Handbuch (RAG, Chroma), einen Wissensgraphen (GraphRAG, Neo4j/Cypher – Warnleuchten dekodieren) oder einen Werkstatt-/Buchungsdienst anspricht.
• Human-in-the-Loop vor der irreversiblen Aktion: vor jeder Terminbuchung pausiert der Graph (interrupt) und holt die ausdrückliche Bestätigung des Fahrers – dieselbe Freigabe-vor-Aktion-Disziplin wie in BankingGPT, in einem anderen Framework.
• Eval als CI-Gate: dreiteiliges Scorecard (RAGAS-Grounding + deterministische Tool-Routing-Genauigkeit + DeepEval-Safety: führt die Antwort bei kritischer Warnung zuerst die Warnung an?) blockt die Pipeline; provider-agnostisch (OpenAI/Azure/Anthropic), FastAPI mit Token-Streaming.

Stack: Python, LangChain/LangGraph, Chroma, Neo4j, RAGAS/DeepEval, FastAPI, Docker.

• Entwarf und implementierte ein produktionsreifes GraphRAG-System mit Neo4j, Embeddings und Multi-Hop-Reasoning für über 120 Mio. Knoten, steigerte die Antwortgenauigkeit um 32 %, verringerte Halluzinationen um 41 % und senkte die Abruflatenz um 38 %.
• Entwickelte und implementierte ein Enterprise-Agenten-Ökosystem mit Model Context Protocol (MCP), das interne APIs, Datenbanken und Services als sichere aufrufbare Tools für autonome Workflows und Systemintegration bereitstellt.
• Konzipierte und setzte einen produktionsreifen E-Mail-Routing-Agenten auf LLM-Basis mit Microsoft Graph API, MCP und Azure OpenAI ein, erreichte 96 % Routing-Genauigkeit, senkte den manuellen Triage-Aufwand um 65 % und verkürzte die Reaktionszeiten von 18 Stunden auf unter 4 Stunden.
• Implementierte Selbstkorrektur-Pipelines für autonome Agenten mittels iterativer Feedback-Schleifen (Ralph Wiggum), was eine zuverlässige Fehlererkennung, automatisierte Behebung und produktionssichere Ausführung ermöglicht.
• Entwickelte eine multimodale semantische Suchplattform mit multimodalen LLMs und Vektor-Embeddings, ermöglichte semantisches Auffinden von über 250 000 Bild- und Video-Assets und verbesserte die Trefferquote um 48 %.

• Projektumgebung: Python, Java, Azure AI Studio & OpenAI Studio, Embedding-Modelle, LLM als Richter
• Projektsprache: Deutsch
• Projektrolle(n): Projektmanager
• Projektmanagement zur Verbesserung der Chatbot-Leistung
• Recherche und Bewertung von Ansätzen zur Verbesserung und Messung der Antwortgenauigkeit sowie zur Steigerung des Kontextverständnisses des Chatbots
• Abstimmung von Architekturentscheidungen mit dem technischen Team und den Architekten
• Koordination und Überführung von Forschungsergebnissen in Entwicklungstasks