Azure OpenAI Service Experten in München

Durchführung einer unabhängigen technischen Bewertung einer KI-gestützten Softwareplattform, wobei KI-Risikoaudit, Cybersicherheitsanalyse und Prüfung der Softwarearchitektur kombiniert wurden. Prüfung von Anwendungskomponenten, APIs, Datenflüssen, LLM-Integrationen, Retrieval-Augmented Generation, Multi-Agenten-Orchestrierung, Authentifizierung, Mandantentrennung, Abhängigkeitsschwachstellen, KI-Governance und Kontrollen des Modelllebenszyklus. Erstellung eines technischen Auditberichts mit strukturiertem Risikoregister, Quellcodebelegen, regulatorischen Referenzen, Korrekturmaßnahmen, Inventar der KI-Systeme, Risikoklassifizierung, Maßnahmenplan und Key Risk Indicators.

Technologien: TypeScript, JavaScript, React, Next.js, Node.js, REST APIs, MongoDB, Redis, AWS serverless services, OAuth 2.0 / OpenID Connect, LLM APIs, RAG, vector search, multi-agent orchestration, Model Context Protocol, C4 architecture modelling, threat modelling, NIST AI RMF, ISO/IEC 42001, ISO/IEC 23894, OWASP guidance, MITRE ATLAS

KI-Assistenz und Zielbild für teilautonome Energieportfolio-Steuerung

Aufbau einer KI-Steuerungsschicht direkt auf dem tagesaktuellen Live-Portfolio eines großen Energieversorgers — nicht als isolierter Pilot, sondern als operative Erweiterung der bestehenden DB1- und Portfolio-Steuerung. Ziel ist die schrittweise Entwicklung von Assistenz über Monitoring/Alerting bis zu Analyse-Agenten mit Human-in-the-Loop-Freigaben, ergänzt um ein rollenspezifisches System of Engagement neben dem BI-System of Record. Parallel werden Business Case, Zielbild und Management-Pitch gegenüber statischem Monatsreporting erarbeitet.

• KI-Steuerungsschicht: Konzeption und Aufbau auf dem bestehenden Live-Portfolio-Datenprodukt (mehrere Mio. Verträge) — Ausbaustufen Assistenz → Monitoring/Alerting → Agenten mit Human-in-the-Loop-Freigaben.
• LLM-gestützte Datenanalyse: Semantische Abfragen, SQL-/Tool-Anbindung und ergänzende RAG-Komponenten auf Portfolio-, Plan-Ist- und Datenqualitätsdaten (Azure OpenAI, Snowflake) mit Drill-downs bis auf Einzelvertragsebene.
• Analyse-Agenten: Mehrstufige Agenten für Abweichungs- und Treiberanalysen zu Churn, Preisanpassungen, Mengen und Beschaffungskosten.
• Sichtenkonzept: Rollenspezifische Oberflächen für Fachbereich, Management und C-Level als System of Engagement neben dem BI-System of Record.
• Business Case & Pitch: Zielbild und Kosten-Nutzen-Argumentation gegenüber statischem Monatsreporting.
• LLM-Setup (Datenschutz & Security): Abstimmung mit IT-Security und Datenschutz — EU-Region, Datentrennung, Freigabeprozesse.
• Agenten-Architektur: Mehrstufige Agenten-Pipelines (Analyse → Validierung → Zusammenfassung) mit dokumentierten Datenquellen, Tool-Aufrufen, Prüfschritten und Quellenbezug je Aussage.
• Datenfundament: Aufsatz auf dem tagesaktuellen DB1-Datenprodukt (Snowflake, dbt) — Portfolio-, Plan-Ist- und Datenqualitätskennzahlen als gemeinsame Basis aller KI-Analysen.
• Guardrails & Evaluation: Evaluations- und Freigabeprozesse für LLM-Antworten bei steuerungsrelevanten Aussagen — Testsets, Metriken, Human-Review.
• Prototyping & Validierung: Iterative Validierung der Agenten-Antworten mit dem Fachbereich — Testfragen-Katalog, Feedback-Schleifen, Antwortqualität je Release.
• Roadmap & Ausbaustufen: Detaillierung der Stufen Assistenz → Monitoring/Alerting → teilautonome Steuerung inkl. Übergangskriterien und Governance je Stufe.
• Integration: Einbettung in die bestehende BI- und Datenlandschaft — BI bleibt System of Record, die KI-Schicht liefert interaktive Drill-down-Pfade als System of Engagement.
• Enablement: Befähigung der Anwender im Fachbereich — Prompting-Leitfäden, Schulungen und Betriebsmodell für den laufenden Einsatz.
• Steuerung: Koordination Fachbereich, Data Engineering, IT-Security & Datenschutz.
• Change Management: Kommunikation und Erwartungsmanagement gegenüber Fachbereich und Management entlang der Ausbaustufen.

Ergebnisse:

• Auf bestehendes tagesaktuelles Datenprodukt mit mehreren Millionen Verträgen aufgesetzt
• Mit Datenschutz und IT-Security abgestimmtes LLM-Setup in EU-Region mit Datentrennung und Freigaben etabliert
• Drei Ausbaustufen bis zur teilautonomen Steuerung definiert
• Rollenspezifische Sichten für Fachbereich, Management und C-Level konzipiert
• Business Case und Management-Pitch für die Ausbaustufen erarbeitet
• Iterativer Validierungsprozess für Antwortqualität mit dem Fachbereich etabliert
• Betriebsmodell für den Assistenzbetrieb konzipiert und in Validierung

Stack: Azure OpenAI, Azure AI Foundry, Snowflake, dbt, React, TypeScript, Entra ID, RAG, Agentic AI, Analyse-Agenten, Human-in-the-Loop, Prompt Engineering, LLM Evaluation, LLMOps, DSGVO / EU-Region, Azure DevOps, Python, SQL, Change Management

• Gesamtverantwortung für den Projektlebenszyklus von der Umfangsdefinition bis zum Abschluss
• Enge Zusammenarbeit mit Plattform-Teams, IT-Führungskräften und externen Dienstleistern
• Anwendung von SAFe-Prinzipien und strukturierte Sprint-Arbeit
• Erstellung eines Migrationsfahrplans mit klaren Meilensteinen
• Überwachung des Lifecycles: Onboarding, Repository-Migration, Replikation von Berechtigungen und Systemtests
• Visualisierung der Architektur mit PlantUML und Gliffy sowie Dokumentation in Confluence
• Regelmäßige Statusberichte und Durchführung von Wissenstransfer-Sessions

• Mitgegründet ein KI-Startup mit Fokus auf die Entwicklung produktionsreifer LLM-Anwendungen und Agentensysteme
• Entworfen und implementiert Multi-Agent-KI-Workflows für Finanz- und Handelsanwendungen
• Entwickelt LLM-basierte Copilot-Architekturen für Portfolioanalyse, Handelsverwaltung und personalisiertes Nutzercoaching
• Entwickelt On-Device- und Edge-Inferenzanwendungen, optimierte Modelle für geringe Latenz, Datenschutz und ressourcenbeschränkte Umgebungen
• Geleitet Architekturentscheidungen zur Modellauswahl, Orchestrierung, Zustandsverwaltung und Bereitstellung

• Entwarf und implementierte eine fortschrittliche, agentenbasierte RAG-Pipeline mit LangChain und LangGraph zur strukturierten Datenextraktion aus PDFs. Dabei kamen Tools, Zustandsverwaltung und OpenAI-LLMs (GPT-4) zum Einsatz, um die Genauigkeit zu verbessern und komplexe Dokumentstrukturen zu verarbeiten.
• Entwickelte einen Google-KI-Agenten zur Extraktion strukturierter Informationen aus PDF-Dokumenten und stellte ihn auf Vertex AI bereit.
• Entwickelte Datenpipelines mit Azure Data Factory und Databricks, um Daten aus Azure Blob Storage aufzunehmen, mit PySpark zu verarbeiten und über Linked Services in Azure SQL Database zu laden.
• Verpackte KI-Agenten und Dienste mit Docker in Container, um eine einheitliche lokale Entwicklung und Bereitstellung zu ermöglichen.
• Verwendete PySpark und Dask für Datenbankabfragen in Verbindung mit Azure Blob Storage und Document Storage.
• Entwickelte einen ReAct-Agenten, der mithilfe von Tools und der Integration von Azure Document Intelligence strukturierte Daten aus PDF-Dokumenten extrahiert.
• Wirkte am Projekt zur Validierung von CPO-Rechnungen mit. Dabei wurden mit Databricks vorhandene CDRs ermittelt und die gesamten gültigen Kosten berechnet.
• Entwickelte einen dialogfähigen KI-Agenten (Chatbot) mit einem FastAPI-Backend, integrierte RAG für eine präzise Tariferkennung und stellte den Dienst mit Azure Container Apps bereit.
• Verwendete Tools: Azure, Azure OpenAI, Azure Document Intelligence, Azure Blob Storage, Google ADK, Google Cloud, Vertex AI, Gemini, Databricks, LangChain, LlamaIndex Ollama, Docker, PySpark, Azure SQL, Azure Data Factory, Azure AI Agent, Microsoft SQL Server

• Konzipierung und Implementierung eines interaktiven Bewertungssystems für Top-Führungskräfte zur differenzierten Bewertung von Kernkompetenzen wie Zielorientierung, Teamkultur und strategischer Ausrichtung.
• Integration von Kontrollmechanismen zur Einhaltung von Feedback-Begrenzungen und Speicherung der Bewertungen in einem zentralen System zur Gewährleistung von Datenintegrität.
• Optimierung der Datenverarbeitung für die Personalentwicklung durch Automatisierung der Zusammenführung verschiedener Informationsquellen für Serienbriefe.
• Technische Umsetzung der Datenaufbereitung und -analyse für den jährlichen Vergütungsvergleich in der Finanzbranche.
• Entwicklung automatisierter Prozesse zur Datenaufbereitung in Excel mittels Power Query inklusive Sicherstellung der Datenintegrität und Anonymisierung gemäß Datenschutzvorgaben.
• Automatisierung der Personalkostenauswertung durch Entwicklung einer Lösung zur Verarbeitung von Daten aus dem Paisy-System in eine SAP-kompatible Excel-Datei.
• Erstellung von Testfällen, Benutzerdokumentationen und Testkonzepten für alle entwickelten Systeme.
• Technologien: Power-Query, MS Office 2016 (Word, Excel, PowerPoint), Paisy, SAP, VBA.

Ich unterstütze Dialpads Bereich Telephony Engineering als technischer KI-Berater und entwickle gleichzeitig KI-Produkte in der Praxis. Aktuell entwickle ich MCP-basierte Werkzeuge für KI-Text- und Sprachagenten: Agentenerstellung, Integrationen und Übernahme bestehender Agenten, gemeinsame Authentifizierung und API-Verträge sowie dauerhaften Workflow-Zustand. Dazu gehören Text- und Sprachtests, die das Agentenverhalten, die Latenz und die Aufgabenerledigung bewerten.

Parallel unterstütze ich Dialpads Ingenieure bei der Einführung von QualityLayer und beim effektiven Einsatz von Claude Code und Codex. Diese laufende Arbeit umfasst Kontextverwaltung für große Codebasen, wiederverwendbare Planen-Implementieren-Testen-Prüfen-Workflows mit CI/CD-Anbindung, Leitfäden, praxisnahe Workshops, Labs und Pair Programming.

Technologien: KI-Agentenprodukte (Text- und Sprachagenten, MCP, LLMs, Python, TypeScript), Agentenwerkzeuge (Erstellung, Integrationen, OAuth, dauerhafter Zustand), Qualität & Evaluierung (Text- und Sprachtests, Evals, Regression, Traces), Agentic Engineering (Claude Code, Codex, QualityLayer, Hooks, Prompts), Kontext-Engineering (RAG, Vektorspeicher, Codebase-Embeddings), Softwarebereitstellung (CI/CD-Integration, agentische Schleifen, PR-Automatisierung), Befähigung & Coaching (Workshops, praxisnahe Labs, Pair Programming)

• Führung leistungsstarker Teams zur Steigerung der Effizienz von Unternehmenssystemen, mit Spezialisierung auf ERP- und PIM-Systeme in AWS, Azure und firmeneigenen Rechenzentrumsinfrastrukturen
• Sicherstellung einer nahtlosen Ausrichtung an den Vorstellungen der Stakeholder durch strategische Technologie-Integration und dynamische Führung
• Aufbau von Generativen KI-Lösungen unter Nutzung von Plattformen wie Azure/OpenAI, Google, Claude und Ollama
• Entwicklung intelligenter Systemintegrationen und fortschrittlicher Datenstrategien unter Einsatz von KI- und Machine-Learning-Modellen
• Etablierung von agilen Methoden (SCRUM) und Mentoring des Teams in Rollen wie Team Lead, Scrum Master und Product Owner
• Bereitstellung robuster, skalierbarer Lösungen zur Förderung des strategischen Unternehmenswachstums und operativer Exzellenz