Azure OpenAI Service Experten in München

• Gesamtverantwortung für den Projektlebenszyklus von der Umfangsdefinition bis zum Abschluss
• Enge Zusammenarbeit mit Plattform-Teams, IT-Führungskräften und externen Dienstleistern
• Anwendung von SAFe-Prinzipien und strukturierte Sprint-Arbeit
• Erstellung eines Migrationsfahrplans mit klaren Meilensteinen
• Überwachung des Lifecycles: Onboarding, Repository-Migration, Replikation von Berechtigungen und Systemtests
• Visualisierung der Architektur mit PlantUML und Gliffy sowie Dokumentation in Confluence
• Regelmäßige Statusberichte und Durchführung von Wissenstransfer-Sessions

KI-Assistenz und Zielbild für teilautonome Energieportfolio-Steuerung

Aufbau einer KI-Steuerungsschicht direkt auf dem tagesaktuellen Live-Portfolio eines großen Energieversorgers — nicht als isolierter Pilot, sondern als operative Erweiterung der bestehenden DB1- und Portfolio-Steuerung. Ziel ist die schrittweise Entwicklung von Assistenz über Monitoring/Alerting bis zu Analyse-Agenten mit Human-in-the-Loop-Freigaben, ergänzt um ein rollenspezifisches System of Engagement neben dem BI-System of Record. Parallel werden Business Case, Zielbild und Management-Pitch gegenüber statischem Monatsreporting erarbeitet.

• KI-Steuerungsschicht: Konzeption und Aufbau auf dem bestehenden Live-Portfolio-Datenprodukt (mehrere Mio. Verträge) — Ausbaustufen Assistenz → Monitoring/Alerting → Agenten mit Human-in-the-Loop-Freigaben.
• LLM-gestützte Datenanalyse: Semantische Abfragen, SQL-/Tool-Anbindung und ergänzende RAG-Komponenten auf Portfolio-, Plan-Ist- und Datenqualitätsdaten (Azure OpenAI, Snowflake) mit Drill-downs bis auf Einzelvertragsebene.
• Analyse-Agenten: Mehrstufige Agenten für Abweichungs- und Treiberanalysen zu Churn, Preisanpassungen, Mengen und Beschaffungskosten.
• Sichtenkonzept: Rollenspezifische Oberflächen für Fachbereich, Management und C-Level als System of Engagement neben dem BI-System of Record.
• Business Case & Pitch: Zielbild und Kosten-Nutzen-Argumentation gegenüber statischem Monatsreporting.
• LLM-Setup (Datenschutz & Security): Abstimmung mit IT-Security und Datenschutz — EU-Region, Datentrennung, Freigabeprozesse.
• Agenten-Architektur: Mehrstufige Agenten-Pipelines (Analyse → Validierung → Zusammenfassung) mit dokumentierten Datenquellen, Tool-Aufrufen, Prüfschritten und Quellenbezug je Aussage.
• Datenfundament: Aufsatz auf dem tagesaktuellen DB1-Datenprodukt (Snowflake, dbt) — Portfolio-, Plan-Ist- und Datenqualitätskennzahlen als gemeinsame Basis aller KI-Analysen.
• Guardrails & Evaluation: Evaluations- und Freigabeprozesse für LLM-Antworten bei steuerungsrelevanten Aussagen — Testsets, Metriken, Human-Review.
• Prototyping & Validierung: Iterative Validierung der Agenten-Antworten mit dem Fachbereich — Testfragen-Katalog, Feedback-Schleifen, Antwortqualität je Release.
• Roadmap & Ausbaustufen: Detaillierung der Stufen Assistenz → Monitoring/Alerting → teilautonome Steuerung inkl. Übergangskriterien und Governance je Stufe.
• Integration: Einbettung in die bestehende BI- und Datenlandschaft — BI bleibt System of Record, die KI-Schicht liefert interaktive Drill-down-Pfade als System of Engagement.
• Enablement: Befähigung der Anwender im Fachbereich — Prompting-Leitfäden, Schulungen und Betriebsmodell für den laufenden Einsatz.
• Steuerung: Koordination Fachbereich, Data Engineering, IT-Security & Datenschutz.
• Change Management: Kommunikation und Erwartungsmanagement gegenüber Fachbereich und Management entlang der Ausbaustufen.

Ergebnisse:

• Auf bestehendes tagesaktuelles Datenprodukt mit mehreren Millionen Verträgen aufgesetzt
• Mit Datenschutz und IT-Security abgestimmtes LLM-Setup in EU-Region mit Datentrennung und Freigaben etabliert
• Drei Ausbaustufen bis zur teilautonomen Steuerung definiert
• Rollenspezifische Sichten für Fachbereich, Management und C-Level konzipiert
• Business Case und Management-Pitch für die Ausbaustufen erarbeitet
• Iterativer Validierungsprozess für Antwortqualität mit dem Fachbereich etabliert
• Betriebsmodell für den Assistenzbetrieb konzipiert und in Validierung

Stack: Azure OpenAI, Azure AI Foundry, Snowflake, dbt, React, TypeScript, Entra ID, RAG, Agentic AI, Analyse-Agenten, Human-in-the-Loop, Prompt Engineering, LLM Evaluation, LLMOps, DSGVO / EU-Region, Azure DevOps, Python, SQL, Change Management

• Mitgegründet ein KI-Startup mit Fokus auf die Entwicklung produktionsreifer LLM-Anwendungen und Agentensysteme
• Entworfen und implementiert Multi-Agent-KI-Workflows für Finanz- und Handelsanwendungen
• Entwickelt LLM-basierte Copilot-Architekturen für Portfolioanalyse, Handelsverwaltung und personalisiertes Nutzercoaching
• Entwickelt On-Device- und Edge-Inferenzanwendungen, optimierte Modelle für geringe Latenz, Datenschutz und ressourcenbeschränkte Umgebungen
• Geleitet Architekturentscheidungen zur Modellauswahl, Orchestrierung, Zustandsverwaltung und Bereitstellung

• Konzipierung und Implementierung eines interaktiven Bewertungssystems für Top-Führungskräfte zur differenzierten Bewertung von Kernkompetenzen wie Zielorientierung, Teamkultur und strategischer Ausrichtung.
• Integration von Kontrollmechanismen zur Einhaltung von Feedback-Begrenzungen und Speicherung der Bewertungen in einem zentralen System zur Gewährleistung von Datenintegrität.
• Optimierung der Datenverarbeitung für die Personalentwicklung durch Automatisierung der Zusammenführung verschiedener Informationsquellen für Serienbriefe.
• Technische Umsetzung der Datenaufbereitung und -analyse für den jährlichen Vergütungsvergleich in der Finanzbranche.
• Entwicklung automatisierter Prozesse zur Datenaufbereitung in Excel mittels Power Query inklusive Sicherstellung der Datenintegrität und Anonymisierung gemäß Datenschutzvorgaben.
• Automatisierung der Personalkostenauswertung durch Entwicklung einer Lösung zur Verarbeitung von Daten aus dem Paisy-System in eine SAP-kompatible Excel-Datei.
• Erstellung von Testfällen, Benutzerdokumentationen und Testkonzepten für alle entwickelten Systeme.
• Technologien: Power-Query, MS Office 2016 (Word, Excel, PowerPoint), Paisy, SAP, VBA.

• Entwarf und implementierte eine fortschrittliche, agentenbasierte RAG-Pipeline mit LangChain und LangGraph zur strukturierten Datenauslesung aus PDFs, unter Nutzung von Tools, Zustandsverwaltung und OpenAI LLMs (GPT-4), um Genauigkeit zu steigern und komplexe Dokumentstrukturen zu bewältigen.
• Entwickelte einen Google-KI-Agenten zur Extraktion strukturierter Informationen aus PDF-Dokumenten und deployte den Agenten auf Vertex AI.
• Entwarf Datenpipelines mit Azure Data Factory und Databricks, um Daten aus Azure Blob Storage zu laden, mit PySpark zu verarbeiten und über Linked Services in Azure SQL Database zu schreiben.
• Containerisierte KI-Agenten und -Services mit Docker für konsistente lokale Entwicklung und Bereitstellung.
• Nutze PySpark und Dask für Datenbankabfragen in Verbindung mit Azure Blob Storage und Document Storage.
• Erstellte einen ReAct-Agenten, der strukturierte Daten aus PDF-Dokumenten extrahiert, indem er Tools nutzt und Azure Document Intelligence integriert.
• Trug zum Projekt zur Validierung von CPO-Rechnungen bei, indem ich Databricks einsetzte, um bestehende CDRs zu finden und die Gesamtkosten zu berechnen.
• Entwickelte einen konversationalen KI-Agenten (Chatbot) mit FastAPI-Backend, integrierte RAG für präzise Tarifextraktion und setzte den Service mit Azure Container Apps um.
• Verwendete Tools: Azure, Azure OpenAI, Azure Document Intelligence, Azure Blob Storage, Google ADK, Google Cloud, Vertex AI, Gemini, Databricks, LangChain, LlamaIndex Ollama, Docker, PySpark, Azure SQL, Azure Data Factory, Azure AI Agent, Microsoft SQL Server

• Führung leistungsstarker Teams zur Steigerung der Effizienz von Unternehmenssystemen, mit Spezialisierung auf ERP- und PIM-Systeme in AWS, Azure und firmeneigenen Rechenzentrumsinfrastrukturen
• Sicherstellung einer nahtlosen Ausrichtung an den Vorstellungen der Stakeholder durch strategische Technologie-Integration und dynamische Führung
• Aufbau von Generativen KI-Lösungen unter Nutzung von Plattformen wie Azure/OpenAI, Google, Claude und Ollama
• Entwicklung intelligenter Systemintegrationen und fortschrittlicher Datenstrategien unter Einsatz von KI- und Machine-Learning-Modellen
• Etablierung von agilen Methoden (SCRUM) und Mentoring des Teams in Rollen wie Team Lead, Scrum Master und Product Owner
• Bereitstellung robuster, skalierbarer Lösungen zur Förderung des strategischen Unternehmenswachstums und operativer Exzellenz