Azure AI Foundry Experten in Deutschland

• Deployment und Skalierung bestehender ML-Initiativen, unter anderem für Demand- und Cashflow-Prognosen.
• Aufbau eines belastbaren Monitorings mit MLflow für Datenstabilität, Modellperformance und Drift-Erkennung sowie Umsetzung zusätzlicher ML-Use-Cases.
• Weiterentwicklung eines Agentic-AI-Chatbots zur transparenten und verständlichen Modellerklärung.

• TrendReel, Produktions-LLM-Agenten- und RAG-System (Python, LangChain, OpenAI, Groq/Llama 3, Claude, FastAPI, Kubernetes, PostgreSQL).
• Entwarf und baute ein produktives mehrstufiges LLM-Agentensystem: einen Script-Generierungs-Agenten mit einer plattformbezogenen Psychologie-Datenbank, 7 viralen Narrativ-Frameworks und strukturierter Qualitätsbewertung, der in Echtzeit je nach Ausgabemetriken zwischen Claude- und Groq-Backends wechselte.
• Implementierte Multi-Provider-LLM-Routing (Claude primär, Groq/Llama 3 Fallback) mit Priority-Chain-Failover und qualitätsbasiertem Provider-Wechsel und erreichte dabei eine Senkung der Inferenzkosten um 95 %, während messbare Qualitätsgrenzen eingehalten wurden.
• Aufbau einer fortschrittlichen RAG-artigen Retrieval-Pipeline mit Wissensbasen pro Plattform, semantischem Content-Matching und strukturierter Ausgabeevaluation über 7 Entscheidungs-Frameworks, direkt vergleichbar mit kontextbasiertem Reasoning in Multi-Tenant-Enterprise-Dokumenten-Workflows.
• BrainyAI, adaptive KI-Lernplattform (Python, LangChain, Groq Llama 3.3-70B, OpenAI, Next.js, Supabase, Redis).
• Integrierte Groq Llama 3.3-70B mit einem auf Bildungsniveau abgestimmten Prompting, wobei Wortschatz-Tiefe, Zitierkomplexität und Denkstil dynamisch über vier Leistungsstufen von Lernenden angepasst wurden.
• Nexus Prime, Multi-Tenant-SaaS-Plattform für Marketing- und Wachstumsautomatisierung (25 Module, 99 Backend-Router, 153 Frontend-Dateien).
• Aufbau einer 25-Modul-, 99-Router-Multi-Tenant-SaaS-Plattform für Ad-Remix, Affiliates, WhatsApp-Inbox, E-Mail und Warenkorbwiederherstellung, die vier Abo-Stufen von $199 bis $1,999 pro Monat mit integrierter Stripe-, Paystack- und Flutterwave-Abrechnung bedient.
• KI-Videoüberwachungsplattform, Multi-Tenant-Edge- und Cloud-Computer-Vision-System derzeit aktiv im Kundengespräch.
• Entwarf eine Multi-Tenant-KI-Videoüberwachungsplattform, die Edge-YOLO26-Inferenz auf NVIDIA Jetson Orin NX Boxen mit einer zentralen GKE-Cloud-Schicht (Postgres, Pub/Sub, ClickHouse, R2, Keycloak) für Ereignisspeicherung, Dashboards, Alarme und Multi-Tenancy kombiniert.

Ich habe eine KI-gestützte Multi-Tenant-Plattform auf Azure entworfen und entwickelt, die SAP-Prozessaufzeichnungen in technische Dokumentation, Präsentationen und automatisierte Tests umwandelt und dabei über 15.000 Prozessaufzeichnungen für Unternehmenskunden wie Würth verarbeitet. Ich war verantwortlich für die Architektur, die produktiven Releases und das DevOps-Setup. Außerdem habe ich ein Multi-Tenant-System mit SSO und rollenbasierter Zugriffskontrolle auf Azure entworfen. MCP Server mit dynamischer OAuth-Authentifizierung implementiert.

Hauptaufgaben:

• Sprint-Planung und Feature-Vorbereitung
• Design der Multi-Tenant-Plattform-Architektur (FastAPI, SQLAlchemy, PostgreSQL Row-Level Security für Tenant-Isolation)
• Entwicklung von KI-Pipelines mit Prefect für Transkription (Azure Speech API), Dokumentengenerierung und SAP-Screen-Recording-Analyse (Claude, gpt-4-mini)
• Design und Implementierung eines MCP-Servers, um Tenant-Wissen für LLM-Clients (Claude) bereitzustellen, mit asynchronem Retrieval und Reranking
• Implementierung von LLM-Kosten-Tracking, Rate Limiting und Client-Pooling für Anthropic/OpenAI/Azure-OpenAI-Endpunkte
• Einrichtung von CI/CD: Docker-Images in Azure Container Registry, GitHub Actions, Azure Static Web Apps, Alembic-Migrationen in Containern
• Verwaltung von Produktions-Deployments und Durchführung von Live-Datenmigrationen für Unternehmenskunden
• Definition von Engineering-Standards und Architekturmustern für das Team

Umgebung: Azure / Azure Foundry / Python / FastAPI / Prefect / React / PostgreSQL

Technologien: n8n, Notion, OpenAI API, Claude, MS AI Foundry, MS CoPilot Studio, MS CoPilot, LLM, Node.js, Vercel, LangGraph, PostgreSQL, pgEdge, pgvector, Docker, LangChain, Ollama, Open WebUI

• Kontinuierliche Bewertung und Priorisierung eigener Automatisierungsbedarfe
• ~20 KI-Agenten im aktiven Einsatz: Recherche, Content-Pipelines, Dokumentenverarbeitung
• 5 n8n-Workflows für automatisierte Daten- und Prozesssteuerung
• Architektur nach denselben Prinzipien wie in Kundenprojekten: State Management, event-driven Orchestrierung, API-Integration
• Kontinuierlicher Betrieb und Weiterentwicklung

• ▶ Einen Echtzeit-Sprachassistenten gebaut (STT → LLM → TTS-Pipeline), mehrere STT-Anbieter wie faster-whisper und Azure Speech gebenchmarkt und bewertet. Sub-3s-Latenz erreicht, Groq API (Llama 3) mit Multi-Turn-Memory genutzt - mit direkter Behandlung von Edge Cases bei Diktat, Namen und Passcode-Erkennung.

• Entwicklung einer SaaS-Anwendung zur automatisierten Schadenbearbeitung mit KI-Agenten (LLM) als primäres Entwicklungsteam
• Design & Test von effizienten und sicheren Context-Management-Setups im Entwicklungsprozess (u. a. Einsatz von Multi-Subagenten, Speichersystemen, Caching)
• Definition und Umsetzung von LLMOps-Pipelines mit Azure AI Foundry für KI-Agenten im Kundenkontakt (inkl. Versionierung, Logging, Audit-Trail, Sicherheitstests)
• Infrastrukturbereitstellung über IaC (Bicep), Anwendungskonfiguration über GitOps-basierte CI/CD-Pipelines (Rules Engine, Workflow Engine)
• Entwicklung integrierter Sicherheitsarchitektur-Designs zwischen KI-basierten und klassischen Anwendungen mit besonderem Fokus auf regulatorische Anforderungen
• Integration von Workflow- und Rules-Engine in einer NestJS-Servicearchitektur — zur automatisierten, regelbasierten Steuerung von Schadensprozessen
• Probabilistische Extraktion und Aufbereitung von Schadendaten als Grundlage für regelbasierte, deterministische Entscheidungslogik — nachvollziehbar, auditierbar und regulatorisch konform

• Agierte als technischer Berater zur Optimierung von mehrschichtigen Ensemble-Modellen, die ResNet, CNN-BiGRU-Attention und XGBoost kombinierten.
• Begleitete die Umsetzung eines Logistic-Regression-Meta-Lerners zur Lösung von Klassenungleichgewichten und erreichte 92,86 % Genauigkeit und einen AUC-Wert von 0,9644 auf den Datensätzen PTB-XL und Chapman-Shaoxing.

OpsWorker verwandelt Kubernetes-Alerts in Root-Cause-Analysen, zusätzlich zu dem Monitoring, das ein Team bereits betreibt. Ich leite die technische Seite: die Agentenarchitektur, die AWS-Infrastruktur, auf der das Ganze läuft (vollständig in EU-Regionen), und die Engineering-Entscheidungen dahinter, standardmäßig nur lesend im Cluster, der Mensch bleibt für die Bewertung im Loop. Der Stack darunter: Amazon Bedrock und Bedrock AgentCore, Agenten gebaut mit dem Strands Agents SDK, die Claude- und OpenAI-APIs sowie die Kubernetes-API.

• Implementierte ML-Pipelines für OCR, semantische Suche und Computer Vision
• Integrierte Azure-KI-Agenten und GPT-Workflows für Automatisierung und Qualitätssicherung
• Setzte cloudbasierte FastAPI-Dienste mit skalierbarer Architektur ein
• Erstellte Integrationsdokumentation und beriet zur Produktionsreife von LLMs

• Neuentwicklung von Funktionen für den Projektraum
• Anbindung der REST-API eines eigenentwickelten Webservices (.NET 7/8) als Azure App Service
• UI-Tests mit Playwright
• Erweiterung der Azure DevOps Pipelines
• Migration nach Azure SQL Server
• Software / Technik: SharePoint Online, PowerShell-Skripte, SharePoint Framework, MobX, C#, Logic Apps, Playwright, Azure SQL Server, Graph API

• Projektumgebung: Python, Java, Azure AI Studio & OpenAI Studio, Embedding-Modelle, LLM als Richter
• Projektsprache: Deutsch
• Projektrolle(n): Projektmanager
• Projektmanagement zur Verbesserung der Chatbot-Leistung
• Recherche und Bewertung von Ansätzen zur Verbesserung und Messung der Antwortgenauigkeit sowie zur Steigerung des Kontextverständnisses des Chatbots
• Abstimmung von Architekturentscheidungen mit dem technischen Team und den Architekten
• Koordination und Überführung von Forschungsergebnissen in Entwicklungstasks

• Einrichtung neuer Desktop-Rechner
• Einrichtung eines VPS für Automatisierung, Datenbanken und Chatinterface
• Anbindung an Azure AI Foundry
• Entwicklung diverser n8n-Workflows für E-Mail-, Social-Media- und Dokumentenmanagement
• Implementierung eines QM-Systems (Sicherungen, Fehlerbehandlung, HITL)
• Einrichtung und Optimierung eines Inbound-Voice-Agents

• Digitalisierung und Automatisierung interner Geschäftsprozesse mit der Microsoft Power Platform: Analyse, Konzeption und Entwicklung von End-to-End-Lösungen zur Steigerung der unternehmensweiten Effizienz
• Erstellung von benutzerfreundlichen Oberflächen mit Power Apps
• Automatisierung von Workflows und Freigabeprozessen mit Power Automate
• Visualisierung der Prozess-KPIs mit Power BI

• Entwarf und implementierte LLM-basierte KI-Agenten, RAG-Pipelines und Vektorsuchlösungen zur Entscheidungsunterstützung in der Retail-Banking-Abteilung.
• Entwickelte und lieferte robuste KI-Pipelines mit Schutzmechanismen, Fehlerbehandlung, Monitoring und Fallback-Logik, um hohe Zuverlässigkeit und Einhaltung der Datenschutzbestimmungen zu gewährleisten.
• Entwickelte und implementierte ML-Modelle zur Erkennung von Transaktionsanomalien, wodurch die Betrugserkennung und Risikobewertung in großen Datensätzen für das Kreditrisikomodell verbessert wurden.
• Erstellte, bewertete und optimierte ML-Modelle zur Generierung von Propensity Scores für Kunden, die in personalisierten Targeting-Kampagnen für Kreditkarten und Privatkreditprodukte eingesetzt wurden.
• Entwickelte eine NLP-Pipeline mit BERT-Embeddings und spaCy NER für SMS-/E-Mail-Analysen und Kundenanfragenprotokolle.
• Trainierte Machine-Learning-Modelle mit Isolation Forest, um Nutzerverhalten zu klassifizieren und Anomalien zu erkennen.
• Extrahierte, bereinigte, angereicherte und feature-engineerte Datensätze aus verschiedenen Quellen, um Feature Stores zu erstellen, die das Training von ML-Modellen ermöglichten.
• Leitete die Entwicklung von Dashboards mit Power BI, Grafana und Prometheus zur Überwachung der Modellleistung, KPI-Trends und Marketing-Kennzahlen.
• Erstellte Multi-Touch-Attributionsmodelle mit logistischer Regression und zeitverfallbasierten Gewichtungen zur Bewertung der Lead-Qualität.
• Entwickelte skalierbare ETL-Pipelines aus CRM, T24, SAP und ERP zur Unterstützung von Millionen monatlicher Transaktionen.
• Integrierte Testverfahren und CI/CD-Workflows für eine stabile Bereitstellung von Datenpipelines.