Google Vertex AI Experten in Deutschland

Auf Evidenz basierende Health-Intelligence-Plattform, die veröffentlichte Forschung in persönliche Gesundheitsprotokolle übersetzt. Sie bewertet 430 Gewohnheiten, Lebensmittel und Supplements anhand der Studien dahinter und passt den Score an, wenn sich die Evidenz ändert. Allein aufgebaut.

• Die tägliche Ingest-Pipeline über PubMed, bioRxiv und medRxiv aufgebaut: 43.000+ Papers aus 3.400+ Journals verarbeitet zu 230.000+ typisierten Evidenz-Claims, jeder einzelne zurückverfolgbar bis zur Studie, aus der er stammt.
• Das sechs Faktoren umfassende Evidenz-Scoring-Modell und das öffentliche Changelog dahinter entworfen, damit keine Empfehlung ohne die zugrunde liegenden Papers erscheint. Bis heute 23.000+ Score-Änderungen erfasst und erklärt.
• Das Entity-Informationsmodell aufgebaut, das jede Intervention mit ihren Mechanismen, Biomarkern und Outcomes verbindet: 118 Biomarker mit regionsspezifischen Referenzbereichen, 77 Mechanismen, 32 bewertete Outcomes.
• Die Personalisierungsschicht gebaut: Ingestion von Blutwerten, die Labor-PDFs mit einem Vision-Modell ausliest und Ergebnisse anhand der Aufwachzeit des Nutzers korrigiert, plus Integration von Oura, WHOOP und Withings für den täglichen Readiness-Kontext.
• Elf spezialisierte Review-Agents über Korpus und Codebase betrieben, für Paper-Kuration, Retrieval-Qualität, Health-Claim-Compliance über EU- und US-Regime hinweg sowie Security.
• Den Evidence Assistant ausgeliefert, einen RAG-Assistenten, der aus der Claim-Datenbank antwortet und die zugrunde liegenden Papers zitiert, plus eine B2B-Practitioner-Stufe, eine Expo React Native App und Lokalisierung in 3 Sprachen und 7 Märkten.

Stack: Next.js 16, TypeScript, Supabase, pgvector, Anthropic Claude, Vercel, DeepInfra.

• Entwicklung eines KI-gestützten Projektorganisationstools für ein Tiefbauunternehmen, das Projekt-, Aufgaben-, Ausschreibungs-, Terminund Dokumentendaten intelligent über einen Knowledge-Graphenverknüpft.
• Implementation von KI-Funktionen zur Dokumentenanalyse, Informationsextraktion, kontextbezogenen Assistenz und sprachbasierten Datenerfassung auf Basis von Microsoft Azure AI, wodurch administrative Aufwände reduziert, Informationen schneller zugänglich gemacht und Projektteams bei Entscheidungen unterstützt werden.
• Technologie-Stack: Python, React, TypeScript, FastAPI, Claude Code, Codex, Graphify, PostgreSQL, Microsoft Azure AI Foundry, Azure OpenAI, Azure AI Speech, Azure AI Document Intelligence, Microsoft Graph, Microsoft Entra ID, Docker, Git, CI/CD.

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

• Verantwortlich für die 12–18-Monats-Roadmap und die wichtigsten Ergebnisse der Enterprise-Kundenplattform von Elli, einschließlich Onboarding, Preisgestaltung, Abrechnung, Analysen und umfassender Plattformmodernisierung; den Fleet-Onboarding-Funnel neu gestaltet und die Conversion verdoppelt, wodurch bis 2028 ein prognostizierter Umsatzanstieg von €20.7M unterstützt wird.
• Leitung des übergreifenden Energy-Intelligence-Produkts und direkte Verantwortung für dessen KI/ML-, Asset- und Portfoliooptimierungsfunktionen, einschließlich MLOps, sicherer Strategiebereitstellung, Strategielebenszyklusmanagement und Backtesting; die Verantwortung für die Daten- und V2G-Integrationsroadmap an einen neuen PO übertragen, als sich der Plattformumfang erweiterte.
• Einen Human-in-the-loop-GenAI/RAG-Support-Workflow aufgebaut, wodurch die L1-Lösungsquote um 24% gesteigert, die Routing-Genauigkeit auf 91% erhöht und die L2-Arbeitslast um 30% reduziert wurde.
• Standardisierte Datenverträge und ein Self-Service-Python-Toolkit für Trader und Data Scientists eingeführt, wodurch die Plattformnutzung um 15% gesteigert und der Supportaufwand um 50% reduziert wurde.
• Ein Echtzeit-Orchestrierungsprodukt von 32 auf 3,000+ Endpunkte in vier Märkten aufgebaut und skaliert; der wiederkehrende Umsatz stieg von €1.4k auf €56.3k MRR.
• Produkt- und KI-Kompetenzen im gesamten Unternehmen entwickelt, 20 PMs zu RAG, Agenten und Prototyping geschult; einen Junior PM betreut und einen Enterprise Platform Tech Lead auf dem Weg zur Übernahme von Verantwortung im Product Management begleitet.

Statistischer Prognosealgorithmus

• Verbesserung eines statistischen probabilistischen Prognosealgorithmus für Umsätze + Evaluierung
• Migration von R/On-Premise zu Python/Snowflake
• Überführung in den Produktivbetrieb auf Snowflake in Zusammenarbeit mit Data Engineers & DevOps

Monitoring-Dashboard

• Data Engineering zur Aufbereitung & Bereitstellung notwendiger Daten/Ressourcen auf Snowflake
• Entwicklung & Bereitstellung eines Streamlit-Dashboards in Snowflake

ML-basierte probabilistische Prognosen auf Vertex AI

• Entwicklung eines ML-basierten probabilistischen Prognosealgorithmus von Grund auf
• Implementierung einer MLOps-Pipeline in Kubeflow auf Google Cloud Vertex AI

Tech Stack: Python, Snowflake/Snowpark, R, Streamlit, Gitlab/Gitlab CICD, Terraform, Google Cloud, Vertex AI (aiplatform SDK, gcloud CLI, Feature Store, Model Registry usw.), kubeflow

Enterprise-Kategorisierung von KI-Inhalten und KI-gestützte Webrecherche.

• Multi-LLM-Evaluierungsframework mit annotierten Daten entwickelt
• LLM-Fehlerraten auf Grundlage annotierter Datensätze iterativ verbessert
• KI-gestützte Webrecherche-Pipeline implementiert Technologien: LLM, evals, OpenRouter, Python, Node.js, TypeScript, React

• Aufbau, Implementierung und Vertrieb von automatisierten Data-Science-Lösungen wie Scorecard Factory und Prognose Factory
• Implementierung automatisierter End-to-End-Cloud-Prozesse
• Entwicklung von LLM- und NLP-Modellen
• Erstellung interaktiver Reports
• Betreuung nationaler und internationaler Großkonzerne sowie mittelständischer Firmen bei der Implementierung von ML-Projekten

• Akquiriert Neukunden im B2B-Outbound für ein KI-SaaS-Startup im Bereich öffentliche Ausschreibungen und terminiert Produktdemos mit IT-Entscheidern.
• Qualifiziert Zielkunden entlang eines definierten Ideal-Customer-Profils inklusive Discovery, Bedarfsanalyse und Einwandbehandlung.
• Eignet sich Domänenwissen im öffentlichen Vergabewesen an (EVB-IT, deutsche und EU-Vergabeportale) für Fachgespräche auf Augenhöhe.

• Tätigkeit als technischer Berater zur Optimierung mehrschichtiger Ensemble-Modelle, die ResNet, CNN-BiGRU-Attention und XGBoost kombinieren.
• Begleitung der Implementierung eines Logistic-Regression-Meta-Learners zur Lösung von Problemen mit unausgeglichenen Klassen; dabei wurden 92.86% Genauigkeit und 0.9644 AUC bei den Datensätzen PTB-XL und Chapman-Shaoxing erreicht.

• Enterprise-Retrieval-Augmented-Generation-(RAG)-Anwendungen mit LangChain, LangGraph, Vektordatenbanken, Embeddings und Open-Source-LLMs entworfen und bereitgestellt, die über vLLM auf GCP-GPU-Infrastruktur betrieben wurden.
• Agentic-AI-Workflows mit LangGraph entwickelt, inklusive Planung, Schlussfolgern, Tool-Ausführung, persistenter Speicherung, Sitzungsverwaltung und Human-in-the-Loop-Freigabemechanismen.
• LLM-gestützte Automatisierungssysteme entwickelt, die BigQuery, SQL-Pipelines und externe Werbe-APIs wie Meta, TikTok, Amazon, Snapchat, Google und Pinterest integrieren und manuelle operative Abläufe reduzieren.
• Multi-Agent-AI-Systeme für Enterprise-Analytics- und Entscheidungsunterstützungs-Workflows entworfen, die autonome Aufgabenausführung und intelligente Dateninteraktionen ermöglichen.
• Retrieval-Optimierungsstrategien umgesetzt, darunter Multi-Retriever-Architekturen, semantische Suche, Kontextoptimierung und Query-Verbesserungstechniken, wodurch die Relevanz der Antworten um etwa 40 % verbessert wurde.
• Strukturierte Prompting-Strategien, Function-Calling-Schemata und Validierungs-Workflows entwickelt, um die Zuverlässigkeit von mehrstufigen LLM-Anwendungen zu verbessern.
• Skalierbare AI-Services mit Python, FastAPI, Cloud Run, Pub/Sub, BigQuery, Docker und cloud-nativen Bereitstellungsarchitekturen entworfen.

• Governed Multi-Agent Orchestration für regulierte, EU-ansässige Unternehmen – self-hostable, EU-AI-Act- und DSGVO-konform („by design“), BYOM (eigene Modelle/GPU).
• Zwei-Gate-Governance: Agenten-Deliberation + verpflichtende menschliche Freigabe, vollständiger signierter Audit-Trail; Graduated-Autonomy-Modell („intern → autonom pro Skill“).
• Verifizierter Wissensgraph („Company Brain“) mit Quellenbeleg pro Antwort; eigenes Orchestrierungs-Framework (Virtual Team Framework).
• Branchenlösungen für Financial Services: Compliance-Monitoring, Rechnungs- und Vertragsprüfung; Hands-on-Entwicklung mit LLMs (u.a. Anthropic/Claude), agentischen Workflows, RAG.
• Aufbau der governance-orientierten Multi-Agenten-Plattform TeamIntel (siehe KI-Referenzprojekte).

• Es handelt sich um ein Startup innerhalb von REWE, in dem wir ein neues Prognosesystem auf der Google Cloud Platform von Grund auf aufbauen müssen. Obwohl meine offizielle Rolle MLOps heißt, umfassen meine tatsächlichen Aufgaben auch die Entwicklung von Datenverarbeitungspipelines (Data Engineering) und Aufgaben eines Data Scientists wie Feature Engineering und Modelltraining.
• GCP: Terraform (tofu), Vertex AI (Kubeflow), Cloud Run, IAM, Google Cloud Storage, BigQuery, Artifact Registry
• Data Engineering: Snowflake als zentrales Data Warehouse, Terraform, DBT zur Implementierung von Datenmodellen
• CI/CD: GitLab. Wir haben eine CI/CD-Pipeline entwickelt, die die Bereitstellung neuer Releases bis in die Produktionsumgebung automatisiert.
• Entwicklung eines Feature Stores und Datensynchronisierung zwischen Umgebungen
• Data Science: Bewertung verschiedener Prognosemodelle, darunter CatBoost, Contextual Gamma und Random Forest; Implementierung von Trainingspipelines mit Kubeflow auf Vertex AI; Skalierung und Entwicklung einer ereignisgesteuerten Schnittstelle mit Kafka als Prognoseservice; Bewertung von MLFlow für Modellverfolgung und Modellregister
• Implementierung einer REST-API mit KeyCloak OAuth2 und OpenID (JWT)
• Monitoring: Implementierung von Dashboards mit Grafana, Prometheus, Mimir, Streamlit und Loki zur Überwachung von Prognosemetriken, GCP- und Snowflake-Kosten für Pipelines sowie Systemmetriken
• Entwicklung von Copilot Agent Skills

Durchführung einer unabhängigen technischen Bewertung einer KI-gestützten Softwareplattform, wobei KI-Risikoaudit, Cybersicherheitsanalyse und Prüfung der Softwarearchitektur kombiniert wurden. Prüfung von Anwendungskomponenten, APIs, Datenflüssen, LLM-Integrationen, Retrieval-Augmented Generation, Multi-Agenten-Orchestrierung, Authentifizierung, Mandantentrennung, Abhängigkeitsschwachstellen, KI-Governance und Kontrollen des Modelllebenszyklus. Erstellung eines technischen Auditberichts mit strukturiertem Risikoregister, Quellcodebelegen, regulatorischen Referenzen, Korrekturmaßnahmen, Inventar der KI-Systeme, Risikoklassifizierung, Maßnahmenplan und Key Risk Indicators.

Technologien: TypeScript, JavaScript, React, Next.js, Node.js, REST APIs, MongoDB, Redis, AWS serverless services, OAuth 2.0 / OpenID Connect, LLM APIs, RAG, vector search, multi-agent orchestration, Model Context Protocol, C4 architecture modelling, threat modelling, NIST AI RMF, ISO/IEC 42001, ISO/IEC 23894, OWASP guidance, MITRE ATLAS

End-to-End-Verantwortung für alle Produkte – Konzeption, Architektur, Entwicklung und Produktivbetrieb als alleiniger Entwickler; daneben Kundengespräche, Angebote und Marketing.

Underwriting Copilot – KI-Assistent für die Industrieversicherung (produktiv im Kundeneinsatz)

• Unterstützt Underwriter bei der Analyse industrieller Versicherungs-Submissions – im Produktivbetrieb bei einem Industrieversicherer.
• Framework-unabhängige RAG-Architektur mit Hybrid Search (BM25 + pgvector) über große, heterogene Dokumentbestände.
• Zweistufige Evaluations- und Observability-Pipeline (Code-Assertions + LLM-as-Judge), die Antwortqualität, Retrieval-Genauigkeit und Citation-Integrität regressionssicher messbar macht.

Kaiki Menu Analyzer – Data-Intelligence-Plattform (produktiv im Kundeneinsatz)

• Erfasst und analysiert automatisiert Speisedaten aus rund 25.000 deutschen Restaurants.
• Skalierbare 7-Container-Architektur (FastAPI, partitioniertes PostgreSQL, Redis/RQ) mit LLM-gestützter Extraktion strukturierter Daten aus PDF, HTML und Bildern.
• Vollständige CI/CD-Pipelines (GitHub Actions), produktives Cloud-Deployment, interaktive Dashboards (Dash).

Kaiki GEO Atlas – GEO-Plattform (produktiv im Kundeneinsatz)

• Misst die Marken-Sichtbarkeit über fünf KI-Engines (ChatGPT, Gemini, Perplexity, Grok, Claude), jede web-search-augmentiert, orchestriert als DAG-Workflow-Pipeline (Dispatcher → Sub-Workflows → Scoring → Report) mit Fail-Isolation.
• 6-Container-Deployment (FastAPI, Celery, Redis, PostgreSQL); LLM-Kostenschätzung, PDF-Audit-Report, regelbasierte Cross-Signal-Insights (kein zusätzlicher LLM-Aufwand).

Data Pipeline & Analytics Platform – Wettbewerbsanalyse im Automotive-Aftermarket

• Automatisierte Daten-Pipeline mit Gap-Analyse-Algorithmen und rollenbasierter Zugriffskontrolle; 230+ Tests.
• Backend mit FastAPI, PostgreSQL, SQLAlchemy.

Produktentwicklung (in aktiver Entwicklung)

BankingGPT – KI-Assistent für das Beschwerdemanagement im Genossenschaftsbanking

• Sicherheitsarchitektur im Kern: kein KI-Entwurf erreicht den Kunden ohne menschliche Freigabe – die Freigabe-Entscheidung liegt in auditierbarem Code, nicht im Sprachmodell (monoton: das Modell darf hochstufen, nie senken).
• Echte agentische Bausteine, jeder mit eigener Grenze: das Modell wählt selbst Werkzeuge über einen MCP-Server (nur-lesend, Allowlist, gedeckelt, fail-safe); heikle Fälle gehen per offenem A2A-Protokoll (JSON-RPC, Agent Card, message/send/tasks/get; Client selbst implementiert) an einen eigenständigen Fach-Agenten (Wertpapier/Recht), der die Prüfpflicht nie senkt (per Test gepinnt).
• Evaluations-getrieben über zehn Analyse-Runden; deckte per unabhängigem Review und Blind-Tests einen Sicherheitsdefekt auf, den neun automatisierte Läufe übersehen hatten.
• Voice-AI-Frontend, live antwortend: gedeckte Fälle werden im Gespräch beantwortet, heikle eskalieren vor der Generierung; Antwortlatenz < 7 s gemessen (lokale GPU-STT/TTS).

Stack & Produktionsnähe: Python, pydantic-ai, FastAPI/Celery, PostgreSQL/pgvector, FastMCP, fasta2a, Docker; mehrmandantenfähig (physische Vektor-Isolation je Mandant), PII verschlüsselt, OWASP-LLM-reviewt, 275 Tests, CI/CD; anbieter-portabel (Ollama / EU-Cloud-Vertex).

After-Sales Assistant – agentischer RAG-/GraphRAG-Assistent auf öffentlichen OEM-Handbüchern (Automotive After-Sales)

• Genuin agentisch auf LangGraph: ReAct-Agent mit vier Werkzeugen und Gesprächsge-dächtnis – das Modell entscheidet selbst, ob es das Handbuch (RAG, Chroma), einen Wissensgraphen (GraphRAG, Neo4j/Cypher – Warnleuchten dekodieren) oder einen Werkstatt-/Buchungsdienst anspricht.
• Human-in-the-Loop vor der irreversiblen Aktion: vor jeder Terminbuchung pausiert der Graph (interrupt) und holt die ausdrückliche Bestätigung des Fahrers – dieselbe Freigabe-vor-Aktion-Disziplin wie in BankingGPT, in einem anderen Framework.
• Eval als CI-Gate: dreiteiliges Scorecard (RAGAS-Grounding + deterministische Tool-Routing-Genauigkeit + DeepEval-Safety: führt die Antwort bei kritischer Warnung zuerst die Warnung an?) blockt die Pipeline; provider-agnostisch (OpenAI/Azure/Anthropic), FastAPI mit Token-Streaming.

Stack: Python, LangChain/LangGraph, Chroma, Neo4j, RAGAS/DeepEval, FastAPI, Docker.