Data Vault Experten in Deutschland

Ich bin ein erfahrener Data Engineer mit Spezialisierung auf durchgängige Datenintegration, Cloud-DWH-Architekturen und hochwertige, gut gesteuerte Datenprodukte.

Als Freiberufler habe ich die folgenden Projekte und Aufträge umgesetzt.

• Datenmigration eines CRM-Systems für AL-FA Objekt Service Gmbh
• Partnerschaft für den Weiterverkauf von Microsoft-Software

Ich suche freiberufliche Aufgaben wie: Freelance Data Engineer Cloud Data Warehouse Architect Data Modeling & Architecture Consultant MDM & Data Governance Specialist BI & Analytics Developer

Technische Schwerpunkte

• Data Engineering & Integration: SQL Server/SSIS, Informatica PowerCenter/IDQ, Talend, Kafka, Azure Data Factory – Delta/CDC/ELT-Muster, robuste Pipelines, Überwachung/Wiederherstellung, Datenherkunft und Auswirkungsanalyse, Medallion-Architektur mit Bronze/Silver/Gold-Schichten
• DWH & Cloud: Azure SQL / Data Lake / Synapse, AWS Redshift/S3, On-Premises SQL/Oracle – skalierbare Data Marts mit starkem Fokus auf Kosten und Nutzen.
• Datenmodellierung: Atomare (Inmon-) und dimensionale (Kimball-)Modelle, Data Vault (Linstedt), Domain-Driven Design, klare Datenherkunft und Verträge.
• MDM & Governance: Informatica MDM, IBM MDM, Stewardship-Prozesse, Datenqualitätsregeln, Survivorship/XREF, Katalog/Glossar, SIF/BES/REST-Veröffentlichung.
• Analytics/BI: Power BI, SSAS, Cognos – businessfähige und wartbare Datenprodukte.

• Architektur und Bereitstellung einer privaten Cloud-Datenplattform auf VMware vSphere mit Integration von Greenplum MPP, Apache Kafka, Kubernetes und Apache Solr sowie Entwicklung von Echtzeit-Ingestion-Pipelines mit Kafka Connect und Schema Registry.
• Leitung der Migration von Oracle Exadata zu Greenplum, Neugestaltung von Datenmodellen, Optimierung der Speicherung, Implementierung von RabbitMQ mit Debezium für CDC und Bereitstellung einer VectorDB für Generative AI.
• Entwicklung und Durchführung eines Multi-Cloud-Migrations-PoC über AWS, Azure und GCP, Definition von KPIs für Durchsatz, Latenz und Kosteneffizienz, Durchführung umfangreicher Datentransfers, Validierung von Analyse- und Streaming-Workloads sowie Erstellung umfassender Architektur-Empfehlungen.
• Bewertung bestehender On-Premises-Infrastrukturen und Entwicklung moderner cloudnativer Datenplattformen mit Greenplum und containerisierten Microservices sowie Beratung zu Skalierbarkeit, Disaster Recovery und Hochverfügbarkeit.

Projekt, strategische Beratung – Aufbau der Data Strategy und Data Governance Policy für die Niederlassung Deutschland, Kunde (Privatbank Julius Bär, Hauptsitz Zürich), März 2026 – bis heute

• Konzeption und Verhandlung der Datenstrategie mit den wichtigsten Stakeholdern sowie Einholung des Sign-offs durch den Vorstand (strategische Beratung) – in diesem Rahmen regulatorische Beratung zur Datenregulierung in der EU und speziell für Deutschland. Die Datenstrategie umfasst: Data Lifecycle Management: data capture, data storage, data usage, data retention policy, data quality incident management
• Definition von Meilensteinen und der technischen Machbarkeit zur Implementierung von TOM für die Datenstrategie, Datenqualitätsprüfungen, Metriken und ein Metadateninventar, um die Compliance der Bank mit den Anforderungen von DORA, BCBS239 und MaRisk sicherzustellen.

Projekt Kerndatenänderung, Kunde: (ING Bank, Frankfurt am Main), März – bis Dezember 2025

• Konzeption und Solution Design für neue End-to-End-Prozesse inkl. technischer Schnittstellen
• Definition von Synchronisationslogiken und Datenflüssen zwischen Legacy- und Zielsystemen (Dekommissionierung von Legacy-Systemen)
• Analyse und Validierung von Datenmodellen
• Stakeholder-Kommunikation mit Produktverantwortlichen, Feature Engineers, UX Designern und operativen Einheiten zur Entscheidungsfindung
• Analytics und Impact-Einschätzungen, z. B. zur Bewertung von Folgeeffekten und regulatorischen Anforderungen
• Dokumentation und Kommentierung technischer und fachlicher Anforderungen zur Unterstützung der Umsetzung in agilen Squads

Projekt Digitalisierung einer Usergruppe, Kunde: (ING Bank, Frankfurt am Main), als Interim Product Owner, Jan. 2025 – bis heute

• Mitgestaltung von Grundlagenentscheidungen zur Datenarchitektur und Prozesslogik im Kontext von historisierten Daten und Login-Funktionalität für User
• Entwicklung fachlicher Lösungskonzepte für die Migration zum Zielsystem, inkl. Systemintegration und Datenflüsse
• Unterstützung bei Analytics und Impact-Analysen, insbesondere zur Auskunftsfähigkeit gegenüber Ermittlungsbehörden
• Aktive Abstimmung mit Stakeholdern aus verschiedenen Squads zur Entscheidungsfindung und Sicherstellung regulatorischer Anforderungen
• Erstellung von Testszenarien für operative Teams und Backend-Systeme im Bereich API-Management unter Verwendung von Postman und Bruno.

• Data Engineering: Konzeption und Implementierung skalierbarer Datenpipelines
• Legacy-Migrationen zu Microsoft Fabric (Lakehouse, Dataflows Gen2, Pipelines)
• BO-Universe-Migrationen zu MS Fabric / Semantic Models / Power BI
• Taskforce für datengetriebene Transformationsprojekte nach Azure Fabric / Oracle / MSSQL

Als unabhängiger BI-Berater für eine FinTech-SaaS-Plattform tätig, Aufbau und Wartung des gesamten Microsoft-Azure- und Fabric-Analytics-Stacks hinter einem mandantenfähigen Buchhaltungsprodukt, mit dem Geschäftsinhaber ihre eigene finanzielle Entwicklung verfolgen.

• Zusammenarbeit mit Finanz-Stakeholdern, um komplexe Buchhaltungsabläufe in Echtzeit-BI-Dashboards (P&L, Cash Flow, Balance Sheet) zu übersetzen und 2000+ Geschäftsinhabern zu ermöglichen, Cashflow und finanzielle Gesamtsituation einfach zu verfolgen.
• Entwicklung von 10+ interaktiven Dashboards, die jedem Geschäftsinhaber eine personalisierte Echtzeitübersicht über die eigene Vertriebsleistung, die Überfälligkeit von Forderungen und die Betriebskosten bieten.
• Sicherstellung einer strengen Data Governance durch die Implementierung dynamischer Row-Level Security (RLS) mit DAX, um die Daten jedes Geschäftsinhabers innerhalb des gemeinsamen mandantenfähigen Modells zu isolieren.
• Wartung und Erweiterung einer Azure-ELT-Pipeline (Azure Data Factory, Azure SQL Database, Azure Synapse) zur automatisierten Datenaufnahme und -transformation.
• Mitwirkung an der teamweiten Plattformmigration von Azure zu Microsoft Fabric zur Optimierung der Lizenzkosten für die Kapazität.
• Konzeption und Implementierung einer Microsoft-Fabric-ELT-Pipeline (Lakehouse, Pipelines, PySpark) zur automatisierten Datenaufnahme und -transformation als Ersatz für die vorherige Azure-Pipeline.
• Modellierung der bereinigten Daten in einem Star Schema innerhalb des Data Warehouse mit T-SQL als Grundlage für das Power BI Semantic Model.
• Einsatz von KI-Tools, einschließlich Copilot und Claude, als Entwicklungspartner entlang der gesamten ELT-Pipeline, von der Datenaufnahme bis zu KPI-Reporting und Visualisierung.
• Unterstützung agiler Bereitstellungsprozesse mit Jira zur Nachverfolgung von Entwicklungsaufgaben und Confluence zur Pflege technischer und projektbezogener Dokumentation.

• Leitung der Migration des bestehenden DWHs einschließlich HR-Daten, Bewerbungsprozessen, Projektgeschäft und Zeiterfassung von einer MS SQL Server-Umgebung zu Azure Databricks
• Überarbeitung der bestehenden Datenmodelle und ETL-Prozesse sowie Erweiterung um neue Objekte und Funktionalitäten
• Einsatz von Azure Databricks (Unity Catalog, Notebooks, Spark SQL, Databricks Dataflows) und Power BI
• Technologien: MS SQL Server 2019 (SSMS, SSIS), Power BI, Delta Lake, Azure Databricks

• Es handelt sich um ein Startup innerhalb von REWE, in dem wir ein neues Prognosesystem auf der Google Cloud Platform von Grund auf aufbauen müssen. Obwohl meine offizielle Rolle MLOps heißt, umfassen meine tatsächlichen Aufgaben auch die Entwicklung von Datenverarbeitungspipelines (Data Engineering) und Aufgaben eines Data Scientists wie Feature Engineering und Modelltraining.
• GCP: Terraform (tofu), Vertex AI (Kubeflow), Cloud Run, IAM, Google Cloud Storage, BigQuery, Artifact Registry
• Data Engineering: Snowflake als zentrales Data Warehouse, Terraform, DBT zur Implementierung von Datenmodellen
• CI/CD: GitLab. Wir haben eine CI/CD-Pipeline entwickelt, die die Bereitstellung neuer Releases bis in die Produktionsumgebung automatisiert.
• Entwicklung eines Feature Stores und Datensynchronisierung zwischen Umgebungen
• Data Science: Bewertung verschiedener Prognosemodelle, darunter CatBoost, Contextual Gamma und Random Forest; Implementierung von Trainingspipelines mit Kubeflow auf Vertex AI; Skalierung und Entwicklung einer ereignisgesteuerten Schnittstelle mit Kafka als Prognoseservice; Bewertung von MLFlow für Modellverfolgung und Modellregister
• Implementierung einer REST-API mit KeyCloak OAuth2 und OpenID (JWT)
• Monitoring: Implementierung von Dashboards mit Grafana, Prometheus, Mimir, Streamlit und Loki zur Überwachung von Prognosemetriken, GCP- und Snowflake-Kosten für Pipelines sowie Systemmetriken
• Entwicklung von Copilot Agent Skills

DWH für Kunden- und Finanzdaten

• Erweiterung DWH um neue Datenquellen
• Berichtsentwicklung
• Datenqualitätsmanagement

Vorgehensmodell: Scrum

Werkzeuge: Atlassian Confluence & Jira

Datenbanken: Microsoft SQL Server

Programmiersprachen: SQL, T-SQL

ETL: Microsoft SQL Server Integration Services (SSIS)

Frontend-Plattform: PowerBI, Microsoft Reporting Services

• Beratung zur Architektur der Databricks Lakehouse Platform
• Migration bestehender Datenservices für die Fertigung auf Databricks. Bestehende Services laufen auf verschiedenen Plattformen und Tools und werden auf der Zielplattform zusammengeführt
• Umsetzung neuer Data- & KI-Use-Cases auf der Databricks-Plattform (z. B. Anbindung neuer Systeme, Entwicklung von Prototypen für KI-Agents, …)

Tech Stack: Databricks, Azure, PySpark, Python

• Analyse der geschäftlichen Anforderungen
• Integration verschiedener Datenquellen wie ERP-Systeme, Produktionssysteme und externe Datenquellen
• Implementierung der Beladungsstrecken und Verarbeitungslogik mit MSSQL
• Datenmodellierung und Optimierung von Datenmodellen
• Aufsetzen eines Data Quality Managements inkl. Data Profiling mit dynamischer Programmierung
• Unterstützung bei der Konzipierung und Etablierung der Data Governance, insb. im Bereich Data Quality Management und Datenschutz
• Mithilfe bei der Entwicklung von BI-Lösungen mit Tableau zur Unterstützung von Entscheidungsprozessen

• Aufbau der Microsoft-Fabric-Plattform im Unternehmen als zentrales Data Warehouse- und Reporting-System.
• Das Unternehmen migrierte mehrere operative Systeme, darunter D365, auf eine neue Version. Das neue Data Warehouse basiert auf einer Fabric/Power BI-Architektur mit Azure-Cloud-Entra-Authentifizierung.

Ausgeführte Aufgaben:

• Vollständige administrative Verantwortung für die Fabric-Plattform mit F64- und F32-Kapazitäten sowie zwei F8-Kapazitäten für Entwicklung und Prototyping.
• Integration von Fabric mit Microsoft Entra.
• Datenmodellierung für die Bronze-, Silver- und Gold-Schichten des Data Warehouse mit Datenmodellierungswerkzeugen.
• Star-Schema sowie Entity-Relationship-Modellierung.
• Datenmodellierung für Data Marts und für dimensionales Modellieren sowie Power BI (Semantic Model).
• Design von Datenmodellen für Microsoft SSAS multidimensionale und tabulare OLAP-Cubes mit DAX und MDX.
• Definition von Design-Patterns für das ETL-Team zum Laden von OLAP-Cubes (Tabular und MD), Star Schemas und Data-Vault-Strukturen.
• Planung und Leitung eines Teams von 4 ETL- und Reporting-Entwicklern.
• Performance-Tuning von Power BI Reports, insbesondere der Semantic Layer, sowie der Fabric Notebooks.
• SQL-Performance-Tuning.
• DB-Design für Azure SQL.
• Direkte Berichterstattung an das Senior Management des Projekts.

Label: Power BI, Fabric, Analysis Services (multidimensional und tabular), D365, SSIS, Tabular Editor, SQL Server und Azure SQL, TOAD Data Modeler, DBSchema, Visual Studio Code, DAX Studio, SSMS, Visual Studio, Jira und Confluence.

KI-Assistenz und Zielbild für teilautonome Energieportfolio-Steuerung

Aufbau einer KI-Steuerungsschicht direkt auf dem tagesaktuellen Live-Portfolio eines großen Energieversorgers — nicht als isolierter Pilot, sondern als operative Erweiterung der bestehenden DB1- und Portfolio-Steuerung. Ziel ist die schrittweise Entwicklung von Assistenz über Monitoring/Alerting bis zu Analyse-Agenten mit Human-in-the-Loop-Freigaben, ergänzt um ein rollenspezifisches System of Engagement neben dem BI-System of Record. Parallel werden Business Case, Zielbild und Management-Pitch gegenüber statischem Monatsreporting erarbeitet.

• KI-Steuerungsschicht: Konzeption und Aufbau auf dem bestehenden Live-Portfolio-Datenprodukt (mehrere Mio. Verträge) — Ausbaustufen Assistenz → Monitoring/Alerting → Agenten mit Human-in-the-Loop-Freigaben.
• LLM-gestützte Datenanalyse: Semantische Abfragen, SQL-/Tool-Anbindung und ergänzende RAG-Komponenten auf Portfolio-, Plan-Ist- und Datenqualitätsdaten (Azure OpenAI, Snowflake) mit Drill-downs bis auf Einzelvertragsebene.
• Analyse-Agenten: Mehrstufige Agenten für Abweichungs- und Treiberanalysen zu Churn, Preisanpassungen, Mengen und Beschaffungskosten.
• Sichtenkonzept: Rollenspezifische Oberflächen für Fachbereich, Management und C-Level als System of Engagement neben dem BI-System of Record.
• Business Case & Pitch: Zielbild und Kosten-Nutzen-Argumentation gegenüber statischem Monatsreporting.
• LLM-Setup (Datenschutz & Security): Abstimmung mit IT-Security und Datenschutz — EU-Region, Datentrennung, Freigabeprozesse.
• Agenten-Architektur: Mehrstufige Agenten-Pipelines (Analyse → Validierung → Zusammenfassung) mit dokumentierten Datenquellen, Tool-Aufrufen, Prüfschritten und Quellenbezug je Aussage.
• Datenfundament: Aufsatz auf dem tagesaktuellen DB1-Datenprodukt (Snowflake, dbt) — Portfolio-, Plan-Ist- und Datenqualitätskennzahlen als gemeinsame Basis aller KI-Analysen.
• Guardrails & Evaluation: Evaluations- und Freigabeprozesse für LLM-Antworten bei steuerungsrelevanten Aussagen — Testsets, Metriken, Human-Review.
• Prototyping & Validierung: Iterative Validierung der Agenten-Antworten mit dem Fachbereich — Testfragen-Katalog, Feedback-Schleifen, Antwortqualität je Release.
• Roadmap & Ausbaustufen: Detaillierung der Stufen Assistenz → Monitoring/Alerting → teilautonome Steuerung inkl. Übergangskriterien und Governance je Stufe.
• Integration: Einbettung in die bestehende BI- und Datenlandschaft — BI bleibt System of Record, die KI-Schicht liefert interaktive Drill-down-Pfade als System of Engagement.
• Enablement: Befähigung der Anwender im Fachbereich — Prompting-Leitfäden, Schulungen und Betriebsmodell für den laufenden Einsatz.
• Steuerung: Koordination Fachbereich, Data Engineering, IT-Security & Datenschutz.
• Change Management: Kommunikation und Erwartungsmanagement gegenüber Fachbereich und Management entlang der Ausbaustufen.

Ergebnisse:

• Auf bestehendes tagesaktuelles Datenprodukt mit mehreren Millionen Verträgen aufgesetzt
• Mit Datenschutz und IT-Security abgestimmtes LLM-Setup in EU-Region mit Datentrennung und Freigaben etabliert
• Drei Ausbaustufen bis zur teilautonomen Steuerung definiert
• Rollenspezifische Sichten für Fachbereich, Management und C-Level konzipiert
• Business Case und Management-Pitch für die Ausbaustufen erarbeitet
• Iterativer Validierungsprozess für Antwortqualität mit dem Fachbereich etabliert
• Betriebsmodell für den Assistenzbetrieb konzipiert und in Validierung

Stack: Azure OpenAI, Azure AI Foundry, Snowflake, dbt, React, TypeScript, Entra ID, RAG, Agentic AI, Analyse-Agenten, Human-in-the-Loop, Prompt Engineering, LLM Evaluation, LLMOps, DSGVO / EU-Region, Azure DevOps, Python, SQL, Change Management

Ich habe eine KI-gestützte Multi-Tenant-Plattform auf Azure entworfen und entwickelt, die SAP-Prozessaufzeichnungen in technische Dokumentation, Präsentationen und automatisierte Tests umwandelt und dabei über 15.000 Prozessaufzeichnungen für Unternehmenskunden wie Würth verarbeitet. Ich war verantwortlich für die Architektur, die produktiven Releases und das DevOps-Setup. Außerdem habe ich ein Multi-Tenant-System mit SSO und rollenbasierter Zugriffskontrolle auf Azure entworfen. MCP Server mit dynamischer OAuth-Authentifizierung implementiert.

Hauptaufgaben:

• Sprint-Planung und Feature-Vorbereitung
• Design der Multi-Tenant-Plattform-Architektur (FastAPI, SQLAlchemy, PostgreSQL Row-Level Security für Tenant-Isolation)
• Entwicklung von KI-Pipelines mit Prefect für Transkription (Azure Speech API), Dokumentengenerierung und SAP-Screen-Recording-Analyse (Claude, gpt-4-mini)
• Design und Implementierung eines MCP-Servers, um Tenant-Wissen für LLM-Clients (Claude) bereitzustellen, mit asynchronem Retrieval und Reranking
• Implementierung von LLM-Kosten-Tracking, Rate Limiting und Client-Pooling für Anthropic/OpenAI/Azure-OpenAI-Endpunkte
• Einrichtung von CI/CD: Docker-Images in Azure Container Registry, GitHub Actions, Azure Static Web Apps, Alembic-Migrationen in Containern
• Verwaltung von Produktions-Deployments und Durchführung von Live-Datenmigrationen für Unternehmenskunden
• Definition von Engineering-Standards und Architekturmustern für das Team

Umgebung: Azure / Azure Foundry / Python / FastAPI / Prefect / React / PostgreSQL

• Konzeption einer zukunftsfähigen Mandantendatenbank für Marketingzwecke
• Analyse der Anforderungen, Konzeption und Modellierung eines Entitäts-Beziehungs-Modells
• Konsolidierung und Optimierung einer Mandantendatei aus verschiedenen Datenquellen zur gezielten Durchführung von Marketingkampagnen
• Enge Zusammenarbeit mit Marketing und IT in einem agilen Umfeld zur iterativen Entwicklung der Lösung
• Technologien und Methoden: MS Office (insb. Excel), MS Dynamics CRM, MS SharePoint