Google Vertex AI Experten in München

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

• Aufbau, Implementierung und Vertrieb von automatisierten Data-Science-Lösungen wie Scorecard Factory und Prognose Factory
• Implementierung automatisierter End-to-End-Cloud-Prozesse
• Entwicklung von LLM- und NLP-Modellen
• Erstellung interaktiver Reports
• Betreuung nationaler und internationaler Großkonzerne sowie mittelständischer Firmen bei der Implementierung von ML-Projekten

• Governed Multi-Agent Orchestration für regulierte, EU-ansässige Unternehmen – self-hostable, EU-AI-Act- und DSGVO-konform („by design“), BYOM (eigene Modelle/GPU).
• Zwei-Gate-Governance: Agenten-Deliberation + verpflichtende menschliche Freigabe, vollständiger signierter Audit-Trail; Graduated-Autonomy-Modell („intern → autonom pro Skill“).
• Verifizierter Wissensgraph („Company Brain“) mit Quellenbeleg pro Antwort; eigenes Orchestrierungs-Framework (Virtual Team Framework).
• Branchenlösungen für Financial Services: Compliance-Monitoring, Rechnungs- und Vertragsprüfung; Hands-on-Entwicklung mit LLMs (u.a. Anthropic/Claude), agentischen Workflows, RAG.
• Aufbau der governance-orientierten Multi-Agenten-Plattform TeamIntel (siehe KI-Referenzprojekte).

• Es handelt sich um ein Startup innerhalb von REWE, in dem wir ein neues Prognosesystem auf der Google Cloud Platform von Grund auf aufbauen müssen. Obwohl meine offizielle Rolle MLOps heißt, umfassen meine tatsächlichen Aufgaben auch die Entwicklung von Datenverarbeitungspipelines (Data Engineering) und Aufgaben eines Data Scientists wie Feature Engineering und Modelltraining.
• GCP: Terraform (tofu), Vertex AI (Kubeflow), Cloud Run, IAM, Google Cloud Storage, BigQuery, Artifact Registry
• Data Engineering: Snowflake als zentrales Data Warehouse, Terraform, DBT zur Implementierung von Datenmodellen
• CI/CD: GitLab. Wir haben eine CI/CD-Pipeline entwickelt, die die Bereitstellung neuer Releases bis in die Produktionsumgebung automatisiert.
• Entwicklung eines Feature Stores und Datensynchronisierung zwischen Umgebungen
• Data Science: Bewertung verschiedener Prognosemodelle, darunter CatBoost, Contextual Gamma und Random Forest; Implementierung von Trainingspipelines mit Kubeflow auf Vertex AI; Skalierung und Entwicklung einer ereignisgesteuerten Schnittstelle mit Kafka als Prognoseservice; Bewertung von MLFlow für Modellverfolgung und Modellregister
• Implementierung einer REST-API mit KeyCloak OAuth2 und OpenID (JWT)
• Monitoring: Implementierung von Dashboards mit Grafana, Prometheus, Mimir, Streamlit und Loki zur Überwachung von Prognosemetriken, GCP- und Snowflake-Kosten für Pipelines sowie Systemmetriken
• Entwicklung von Copilot Agent Skills

Durchführung einer unabhängigen technischen Bewertung einer KI-gestützten Softwareplattform, wobei KI-Risikoaudit, Cybersicherheitsanalyse und Prüfung der Softwarearchitektur kombiniert wurden. Prüfung von Anwendungskomponenten, APIs, Datenflüssen, LLM-Integrationen, Retrieval-Augmented Generation, Multi-Agenten-Orchestrierung, Authentifizierung, Mandantentrennung, Abhängigkeitsschwachstellen, KI-Governance und Kontrollen des Modelllebenszyklus. Erstellung eines technischen Auditberichts mit strukturiertem Risikoregister, Quellcodebelegen, regulatorischen Referenzen, Korrekturmaßnahmen, Inventar der KI-Systeme, Risikoklassifizierung, Maßnahmenplan und Key Risk Indicators.

Technologien: TypeScript, JavaScript, React, Next.js, Node.js, REST APIs, MongoDB, Redis, AWS serverless services, OAuth 2.0 / OpenID Connect, LLM APIs, RAG, vector search, multi-agent orchestration, Model Context Protocol, C4 architecture modelling, threat modelling, NIST AI RMF, ISO/IEC 42001, ISO/IEC 23894, OWASP guidance, MITRE ATLAS

• Agiler Aufbau einer multimodalen Analyseplattform für Trainingsmaterial (Video, Audio, Dokumente) nach Scrum
• Extraktion kontextrelevanter Inhalte basierend auf Nutzerprofilen & Kompetenzdimensionen
• Personalisierte Ausspielung von Lerninhalten zur Steigerung der Vertriebsperformance
• Enge Abstimmung mit Sales-Teams & Stakeholdern zur Validierung der Features
• Einsatz von Gemini, Whisper, Python & JavaScript, Deployment auf AWS, Perl für Skripte zum Datenimport
• Integration in bestehende Tools & CRM-Systeme zur reibungslosen Einführung
• Genutzte Technologien: Python, OpenAI, Datenbanktechnologien wie PostgreSQL, CI/CD für AirFlow-DAGs, FastAPI

• Entwarf und implementierte eine fortschrittliche, agentenbasierte RAG-Pipeline mit LangChain und LangGraph zur strukturierten Datenextraktion aus PDFs. Dabei kamen Tools, Zustandsverwaltung und OpenAI-LLMs (GPT-4) zum Einsatz, um die Genauigkeit zu verbessern und komplexe Dokumentstrukturen zu verarbeiten.
• Entwickelte einen Google-KI-Agenten zur Extraktion strukturierter Informationen aus PDF-Dokumenten und stellte ihn auf Vertex AI bereit.
• Entwickelte Datenpipelines mit Azure Data Factory und Databricks, um Daten aus Azure Blob Storage aufzunehmen, mit PySpark zu verarbeiten und über Linked Services in Azure SQL Database zu laden.
• Verpackte KI-Agenten und Dienste mit Docker in Container, um eine einheitliche lokale Entwicklung und Bereitstellung zu ermöglichen.
• Verwendete PySpark und Dask für Datenbankabfragen in Verbindung mit Azure Blob Storage und Document Storage.
• Entwickelte einen ReAct-Agenten, der mithilfe von Tools und der Integration von Azure Document Intelligence strukturierte Daten aus PDF-Dokumenten extrahiert.
• Wirkte am Projekt zur Validierung von CPO-Rechnungen mit. Dabei wurden mit Databricks vorhandene CDRs ermittelt und die gesamten gültigen Kosten berechnet.
• Entwickelte einen dialogfähigen KI-Agenten (Chatbot) mit einem FastAPI-Backend, integrierte RAG für eine präzise Tariferkennung und stellte den Dienst mit Azure Container Apps bereit.
• Verwendete Tools: Azure, Azure OpenAI, Azure Document Intelligence, Azure Blob Storage, Google ADK, Google Cloud, Vertex AI, Gemini, Databricks, LangChain, LlamaIndex Ollama, Docker, PySpark, Azure SQL, Azure Data Factory, Azure AI Agent, Microsoft SQL Server

• Themen: Business Analyse, Datenschutz, Datenmanagement, Stakeholder Management, Konzeption
• Das vorliegende Projekt konzentriert sich auf die Entwicklung und Umsetzung eines strategischen Ansatzes für das Datenlöschen in SAP-Systemen. Ziel ist es, die relevanten Daten und Strukturen bei der Systemübernahme zu identifizieren, um sowohl den Datenschutz als auch die IT-Systemeffizienz zu gewährleisten. Gleichzeitig sollen Downtimedauern minimiert und regulatorische Anforderungen erfüllt werden.
• Entwicklung eines umfassenden Ansatzes zur Datenlöschung in SAP-Systemen unter Berücksichtigung datenschutzrechtlicher und geschäftlicher Anforderungen.
• Sicherstellung einer effizienten und strukturierten Datenüberführung in das neue System.
• Optimierung der Systemeffizienz und Reduktion von Downtimes während der Migration.
• Erstellung fachlicher und technischer Konzepte, um eine rechtskonforme und nachhaltige Datenverwaltung sicherzustellen.
• Themenvorbereitung: Detaillierte Untersuchung des Themenfelds „Datenlöschen", um die Grundlage für eine strukturierte Datenmigration zu schaffen.
• Definition der Projektstruktur: Festlegung von Rollen, Schnittstellen und der organisatorischen Projektstruktur.
• Regulatorische Anforderungen: Analyse von datenschutzrechtlichen Vorgaben und geschäftlichen Anforderungen, um die Löschkriterien zu definieren.
• Vorgehensweise: Entwicklung möglicher Szenarien und Vorgehensweisen für die Datenbereinigung und -löschung.
• Löschkonzepte: Erstellung von fachlichen und technischen Löschkonzepten, die die Implementierung strukturieren und klare Vorgaben liefern.
• Festlegung der Löschkriterien: Definition, welche Daten und Strukturen gelöscht oder übertragen werden.
• Verantwortlichkeiten: Klärung der Verantwortlichkeiten innerhalb des Projektteams sowie bei beteiligten Stakeholdern.
• Analyse laufender Aktivitäten: Identifikation und Erhebung bereits laufender Aktivitäten im Themenfeld „Datenlöschen".
• Aufwands-, Kosten- und Zeitplanung: Erstellung von Schätzungen für Ressourcen, Zeitaufwand und Budget.
• Umsetzungsinitiativen: Entwicklung und Umsetzung konkreter Maßnahmen, um die definierten Löschstrategien umzusetzen.
• IT-Systemeffizienz: Analyse der vorhandenen IT-Infrastruktur, um Optimierungspotenziale für die Löschung und Überführung von Daten zu identifizieren.
• Technologietrends: Bewertung neuer Technologien und Tools, die den Prozess der Datenbereinigung unterstützen können.
• Kosten-Nutzen-Analyse: Bewertung der finanziellen Auswirkungen der Datenbereinigung und der Einführung neuer Lösungsansätze.
• Risikomanagement: Identifikation potenzieller Risiken während der Umsetzung und Entwicklung geeigneter Maßnahmen zur Minimierung.
• Dieses Projekt legt die Grundlage für eine nachhaltige und rechtskonforme Datenüberführung in ein neues SAP-System. Mit einem klar definierten Ansatz zur Datenlöschung werden Datenschutzanforderungen erfüllt, Downtimes reduziert und die Effizienz des neuen Systems gesteigert. Die Ergebnisse und Handlungsempfehlungen werden Unternehmen dabei unterstützen, eine zukunftssichere Datenstrategie zu entwickeln, die gleichzeitig den gesetzlichen und geschäftlichen Anforderungen entspricht.

• Evaluation RAG für juristische Beratung (Kauf oder Eigenentwicklung)
• Evaluierung und Machbarkeitsnachweis (PoC) für ein ERP-Arbeitszeiterfassungsmodul
• Beratung bei der Auswahl von Foundation-Modellen
• Einrichtung einer KI-Entwicklungsumgebung (Abschaffung von Schatten-KI)
• KI-Strategieberatung
• Durch KI gestützte Codeerstellung und Kontext-Engineering werden Änderungssätze umfangreicher
• Fundierte Software-Engineering-Kompetenz, Code-Reviews und Absicherung durch die Pipeline und fachlich automatisierte Testfälle

• Machbarkeitsstudie für schnelle Umsetzung von Anforderungen mit KI-basierter Entwicklung (Vibe-Coding)
• Entwicklung einer Single-Page-Web-App in Angular 20
• Entwicklung einer Backend-Server-Applikation in Kotlin
• Anbindung der Google Cloud Platform (Firebase): Authentication, Firestore NoSQL-Datenbank, Storage, Cloud Functions, Hosting und Cloud Run
• Anbindung einer NEON PostgreSQL-Datenbank
• Automatisierte, KI-basierte Auswertung von Donald Trumps Posts auf Truth Social und Analyse der Relevanz für Aktienmärkte und geopolitische Themen
• CI/CD über GitHub Actions unter Verwendung von Docker und Google Cloud Run
• Technisches Umfeld: Angular 20 (Angular Material, RxJS), Kotlin 2.2.20, TypeScript 5.9.3, Spring Boot 3.5.6, Google Cloud Platform (Firebase, Cloud Run, Gemini, Vertex AI), ChatGPT Codex, Git, GitHub, SourceTree, IntelliJ WebStorm, IntelliJ IDEA