Azure Data Factory Experten

• Entwicklung eines KI-gestützten Projektorganisationstools für ein Tiefbauunternehmen, das Projekt-, Aufgaben-, Ausschreibungs-, Terminund Dokumentendaten intelligent über einen Knowledge-Graphenverknüpft.
• Implementation von KI-Funktionen zur Dokumentenanalyse, Informationsextraktion, kontextbezogenen Assistenz und sprachbasierten Datenerfassung auf Basis von Microsoft Azure AI, wodurch administrative Aufwände reduziert, Informationen schneller zugänglich gemacht und Projektteams bei Entscheidungen unterstützt werden.
• Technologie-Stack: Python, React, TypeScript, FastAPI, Claude Code, Codex, Graphify, PostgreSQL, Microsoft Azure AI Foundry, Azure OpenAI, Azure AI Speech, Azure AI Document Intelligence, Microsoft Graph, Microsoft Entra ID, Docker, Git, CI/CD.

Ich bin ein erfahrener Data Engineer mit Spezialisierung auf End-to-End Data Integration, Cloud-DWH-Architekturen und hochwertige, gesteuerte Datenprodukte.

Ich habe folgende Projekte und Einsätze als Freelancer umgesetzt.

• Data Migration des CRM-Systems für AL-FA Objekt Service Gmbh
• Microsoft Software Resales Partnership

Ich suche freiberufliche Rollen wie: Freelance Data Engineer Cloud Data Warehouse Architect Data Modeling & Architecture Consultant MDM & Data Governance Specialist BI & Analytics Developer

Technische Schwerpunkte

• Data Engineering & Integration: SQL Server/SSIS, Informatica PowerCenter/IDQ, Talend, Kafka, Azure Data Factory – Delta/CDC/ELT-Patterns, robuste Pipelines, Monitoring/Recovery, Data Lineage & Impact Analysis, Medallion Architecture mit Bronze/Silver/Gold-Layern
• DWH & Cloud: Azure SQL / Data Lake / Synapse, AWS Redshift/S3, on-prem SQL/Oracle – skalierbare Data Marts mit starkem Kosten-Nutzen-Fokus.
• Data Modeling: Atomic (Inmon) und Dimensional (Kimball), Data Vault (Linstedt), Domain-Driven Design, klare Herkunft & Verträge.
• MDM & Governance: Informatica MDM, IBM MDM, Stewardship-Prozesse, Data-Quality-Regeln, Survivorship/XREF, Katalog/Glossar, SIF/BES/REST-Publikation.
• Analytics/BI: Power BI, SSAS, Cognos – geschäftsreife, wartbare Datenprodukte.

• Leitete die Modernisierung des Enterprise-Reportings durch die Migration von Legacy-SSRS-Reporting-Lösungen nach Power BI und unterstützte dabei über 500 Anwender bei voller Einhaltung von GDPR/DSGVO.
• Entwarf und optimierte Power-BI- und Microsoft-Fabric-Semantikmodelle mit Star Schema, dimensionaler Modellierung, fortgeschrittenem DAX und Performance-Optimierungstechniken und reduzierte so die Abfrage-Latenz um 25 %.
• Lieferte über 20 Executive- und operative Dashboards mit KPI-Scorecards, Drill-through, Bookmarks und Row-Level Security und steigerte die Reporting-Effizienz um 20 %.
• Ermöglichte Self-Service-Analytics durch gesteuerte Power-BI-Datasets, Dataflows und Gateway-Architektur und erhöhte die Nutzung durch fachlich gesteuerte Reports um 35 %.
• Konfigurierte für ein Sales-Dataset mit über 50 Millionen Zeilen eine inkrementelle Aktualisierung und Query Folding und reduzierte die täglichen Refresh-Zeiten um 85 %.
• Implementierte automatisierte ETL/ELT-Pipelines mit Azure Data Factory, Microsoft Fabric und Snowflake und verkürzte die Bereitstellungszeiten für Reports durch Workflow-Automatisierung um 40 %.
• Trieb Initiativen zur Modernisierung der Analytics-Landschaft mit Microsoft Fabric voran, darunter Lakehouse-Architektur, OneLake-Integration und der Aufbau einer zentralen Datenplattform, wodurch sich die Datenlatenz von 2 Stunden auf 20 Minuten reduzierte.
• Übersetzte fachliche Anforderungen von über 15 Stakeholdern in skalierbare Power-BI-Semantikmodelle und Dashboards, verbesserte die Reporting-Konsistenz und reduzierte Ad-hoc-Reporting-Anfragen um 25 %.
• Setzte Microsoft Copilot und generative KI-Tools ein, um SQL-Entwicklung, DAX-Erstellung, technische Dokumentation und Testaktivitäten zu beschleunigen, und reduzierte den Entwicklungsaufwand um etwa 15 Stunden pro Woche.

• Private Cloud-Datenplattform auf VMware vSphere entworfen und implementiert, Greenplum MPP, Apache Kafka, Kubernetes und Apache Solr integriert und Echtzeit-Ingestion-Pipelines mit Kafka Connect und Schema Registry entwickelt.
• Migration von Oracle Exadata zu Greenplum geleitet, Datenmodelle neu architektonisch aufgebaut, Speicher optimiert, RabbitMQ mit Debezium für CDC implementiert und VectorDB für Generative AI eingeführt.
• PoC für Multi-Cloud-Migration über AWS, Azure und GCP entworfen und umgesetzt, KPIs für Durchsatz, Latenz und Kosteneffizienz definiert, Bulk-Datentransfers durchgeführt, Analytics- und Streaming-Workloads validiert und Architektur-Empfehlungen im großen Maßstab geliefert.
• Legacy-On-Premises-Infrastruktur bewertet und moderne cloud-native Datenplattformen mit Greenplum und containerisierten Microservices entworfen, mit Beratung zu Skalierbarkeit, Disaster Recovery und High Availability.

Architektur und Betrieb von Data Products für den Betrieb im Bereich erneuerbare Energien, einschließlich Windturbinen-, Netz-Mess- und Wetterdaten. Aufbau skalierbarer ETL/ELT-Pipelines in Azure Databricks mit Delta Lake (Bronze/Silver/Gold-Schichten) und Verarbeitung von Daten in verschiedenen Formaten, darunter strukturierte und semi-strukturierte Daten. Mitwirkung an einem Data-Quality-Framework mit Tabellen- und Spaltendokumentation, Ausreißererkennung und Vollständigkeitsmetriken für alle Datensätze innerhalb eines Data Products. Zusätzlich Implementierung eines DORA-KPI-Dashboards in Databricks, das für alle Data Products genutzt wird. Optimierung der CI/CD-Prozesse in Azure DevOps zur Vereinfachung der Bereitstellung über Entwicklungs-, Test- und Produktionsumgebungen hinweg.

Technology stack: Azure Databricks, PySpark, SQL, Delta Lake, Unity Catalog, Azure Data Lake, APIs, Dremio, Azure DevOps, YAML, Git, Databricks Workflows, Application Insights, Terraform, OpenAI API, Codex, LLM-assisted workflows

Ich habe eine KI-gestützte Multi-Tenant-Plattform auf Azure entworfen und entwickelt, die SAP-Prozessaufzeichnungen in technische Dokumentation, Präsentationen und automatisierte Tests umwandelt und dabei über 15.000 Prozessaufzeichnungen für Unternehmenskunden wie Würth verarbeitet. Ich war verantwortlich für die Architektur, die produktiven Releases und das DevOps-Setup. Außerdem habe ich ein Multi-Tenant-System mit SSO und rollenbasierter Zugriffskontrolle auf Azure entworfen. MCP Server mit dynamischer OAuth-Authentifizierung implementiert.

Hauptaufgaben:

• Sprint-Planung und Feature-Vorbereitung
• Design der Multi-Tenant-Plattform-Architektur (FastAPI, SQLAlchemy, PostgreSQL Row-Level Security für Tenant-Isolation)
• Entwicklung von KI-Pipelines mit Prefect für Transkription (Azure Speech API), Dokumentengenerierung und SAP-Screen-Recording-Analyse (Claude, gpt-4-mini)
• Design und Implementierung eines MCP-Servers, um Tenant-Wissen für LLM-Clients (Claude) bereitzustellen, mit asynchronem Retrieval und Reranking
• Implementierung von LLM-Kosten-Tracking, Rate Limiting und Client-Pooling für Anthropic/OpenAI/Azure-OpenAI-Endpunkte
• Einrichtung von CI/CD: Docker-Images in Azure Container Registry, GitHub Actions, Azure Static Web Apps, Alembic-Migrationen in Containern
• Verwaltung von Produktions-Deployments und Durchführung von Live-Datenmigrationen für Unternehmenskunden
• Definition von Engineering-Standards und Architekturmustern für das Team

Umgebung: Azure / Azure Foundry / Python / FastAPI / Prefect / React / PostgreSQL

• Entwickelte und pflegte analytische Reporting-Lösungen für Kunden, um Umsatztrends, Leistungsfaktoren, Risiken und Optimierungspotenziale zu identifizieren und datengetriebene Entscheidungen in Sales, Finance, Product, Data Engineering und Controlling zu unterstützen.
• Definierte und analysierte Kundentrends und Leistungskennzahlen, um Ursachen für Abweichungen, Anomalien und neue Risiken in verschiedenen Geschäftsbereichen zu identifizieren und umsetzbare Empfehlungen abzuleiten.
• Entwickelte und verantwortete analytische Datenmodelle und Reporting-Layer, um Skalierbarkeit, Performance und analytische Robustheit für Executive- und Operational-Reporting in verschiedenen Geschäftsbereichen sicherzustellen.
• Plante, verfolgte und setzte Projekte um und stellte dabei durch strenge Validierungs- und Abgleichsprozesse die Einhaltung von Zeitplänen, Datenqualität, Konsistenz, Lieferergebnissen, Zuverlässigkeit und Datenqualitätsstandards sicher.
• Erhöhte die analytische Reife durch die Formalisierung analytischer Workflows, die Dokumentation von Datenprozessen und Standard Operating Procedures (SOPs) sowie durch Schulungen zur Förderung von Self-Service-Analytics und zur Verankerung einer datengetriebenen Kultur in operativen und fachlichen Teams.
• Übernahm die Verantwortung für die End-to-End-Roadmap von der Anforderungserhebung und Datensammlung über Transformation und die Entwicklung robuster Business-Logiken bis hin zum Data Storytelling und zur Übergabe an Stakeholder.
• Übersetzte Komplexität in strukturierte Klarheit, indem Anforderungen und Geschäftsprozesse in analytische Empfehlungen überführt wurden, um die Abstimmung zwischen nicht-technischen und technischen Stakeholdern sicherzustellen.
• Führte fortgeschrittene SQL-basierte Analysen komplexer Geschäftsdaten durch, um Trends, Zusammenhänge und Möglichkeiten zur Leistungsverbesserung aufzudecken.
• Trieb Prozessautomatisierung und Effizienzsteigerungen voran, indem Python, SQL-Optimierung und KI-gestützte Tools genutzt wurden, um Verarbeitungszeiten zu reduzieren und die Zuverlässigkeit analytischer und operativer Workflows zu erhöhen.
• Standardisierte KPI-Definitionen und Reporting-Logiken, um Konsistenz und Vertrauen in Reporting-Lösungen sicherzustellen.
• Entwickelte Dashboards und Analysen zur Prozessüberwachung, um Ineffizienzen, Engpässe und Compliance-Abweichungen in End-to-End-Geschäftsprozessen zu identifizieren und umsetzbare Empfehlungen für Prozessverbesserung und Automatisierung abzuleiten.

Aufgaben: Design und Betrieb von End-to-End-Cloud-Datenplattformen für Enterprise-Kunden in Verlag und Finanzwesen, inkl. Infrastruktur-Automatisierung, Pipeline-Entwicklung, Monitoring und Datenqualität.

Tätigkeiten:

• Aufbau mehrschichtiger Datenarchitekturen auf Databricks (Apache Spark, Delta Lake), BigQuery und GCP
• Vollautomatisierung der Cloud-Infrastruktur mit Terraform über 3 Umgebungen (DEV/STG/PRD)
• Entwicklung automatisierter Datenpipelines mit Python, dbt und GCP-Services für verschiedene Datenquellen
• Aufbau von Monitoring- und Alerting-Systemen für die Echtzeit-Überwachung der Plattform
• Implementierung von Datenversionierung und Qualitätschecks auf jeder Schicht
• Design automatisierter Test- und Deployment-Pipelines in GitLab und Bitbucket

Erfolge:

• 2× Produktions-Datenverarbeitungskapazität, Spike-Reaktionszeit von Minuten auf ≤15 s reduziert, Serverfehler ≈ 0
• 3.000 Zeilen manuelle Konfiguration durch ein wiederverwendbares Automatisierungsmodul für 7 Kundendomains ersetzt, Konfigurationsfehler auf 0
• Vollständige Datenplattform end-to-end geliefert bei ~10 €/Monat Infrastrukturkosten
• 7 Datenbanktabellen migriert mit 0 nachgelagerten Problemen
• 100 % offengelegte Credentials entfernt, externe Vendor-Abhängigkeit eliminiert
• Integration von 3 Teams in 1 Sprint geliefert

• Leitete Design, Entwicklung und Bereitstellung von Datenlösungen zur Unterstützung einer großen Pharma-Übernahme für die Takeda Pharmaceutical Company und lieferte Transparenz-Reporting-Systeme auf den Plattformen Azure, Databricks (Python und Shell-Skripting).
• Verantwortete, entwarf und entwickelte skalierbare ELT-Pipelines, um Kunden- und Produktdaten mit Azure, komplexem SQL, Databricks und Shell-Skripting zu verarbeiten und so eine effiziente Datenintegration und -verarbeitung aus mehreren Quellen zu ermöglichen, einschließlich Job-Orchestrierung und Workflow-Automatisierung.
• Implementierte Performance-Optimierungstechniken (Query-Tuning, Parallelität, Workload-Optimierung) und verbesserte die Systemeffizienz sowie die Verarbeitungszeit.
• Setzte starke Analyse- und Problemlösungsfähigkeiten ein, um technische Lösungen zu bewerten und Geschäftsanforderungen für Compliance- und Transparenz-Reporting zu unterstützen.
• Entwarf skalierbare Datenfundamente für Downstream-Analysen und AI-Workloads.
• Leitete Data-Quality-Initiativen, indem mehrere Quelldaten geprüft, Qualitätsmetriken definiert und Prozesse für Monitoring und kontinuierliche Verbesserung etabliert wurden.

• Data Engineering

• Business Analyst

• Consulting

• 2025 – heute

Data Engineer & Architekt

• Azure Data Factory
• Azure Databricks (PySpark)
• PowerBI Service

Lead Developer für die Weiterentwicklung des Modern Data Warehouse sowie Power BI Berichte und Datenmodelle auf Basis der ERP-Systeme Amparex und EyeOffice. Schwerpunkt bei Themen für den Fachbereich Marketing mit Datenanbindung über API an Amplitude und Klaviyo mit Python

• 2024 – heute

Data Engineer & Architekt

• SQL Server (T-SQL)
• SSIS (ETL)
• SSAS Tabular
• PowerBI Report Server
• Atlassian Jira & Migration zu Azure DevOps mit GIT (KANBAN)

Entwicklung von Power BI Berichten und Datenmodellen auf Basis von Infor LN ERP-Daten nach Migration aus Baan einschließlich der zugrunde liegenden Datenstrukturen mit Microsoft SQL Server zur Weiterentwicklung des Data Warehouse

Beratung des Controlling für die Spezifizierung von fachlichen Anforderungen und Entwicklung von Reporting-Lösungen

• 2025 – 06.2025

Data Engineer & Architekt

• PowerBI Dataflows
• PowerBI Service

Cloud-Migration von Data Warehouse sowie Power BI Berichten und Datenmodellen von Microsoft Dynamics BC 2021 zu Microsoft Dynamics BC Cloud einschließlich der Migration der zugrunde liegenden Datenstrukturen von Microsoft SQL Server zu Power BI Dataflows

• 2022 – 06.2024 (weiterhin Support für Data Engineers)

Data Engineer & Architekt

• SQL Server (T-SQL)
• SSIS (ETL) & BIML
• SSAS Tabular
• Azure DevOps mit GIT (SCRUM)

Entwicklung von analytischen Modellen auf Basis von Microsoft Dynamics BC 2021 in Verbindung mit Daten aus der unternehmenseigenen MariaDB-Datenbank einschließlich dem Aufbau der zugrunde liegenden Datenstrukturen mit Microsoft SQL Server zum Aufbau eines Data Warehouse. Datenverschmelzung der ERP-Systeme BC 2021 und DATEV im Data Warehouse

Beratung der Fachanwender für die Spezifizierung von fachlichen Anforderungen und Coaching der Entwickler für die Entwicklung von Reporting-Lösungen

• 2022 – 08.2023

Business Analyst & Interim Manager

• PowerBI Service
• Azure Databricks (PySpark)
• Atlassian Jira (SCRUM)

Projektmanagement für Anforderungen von Reporting-Lösungen sowie Entwicklung von Power BI Berichten und Datenmodellen mit Daten aus Azure Databricks auf Basis von SAP R/3, Google Analytics, Webshop und CRM mit fachlichem Schwerpunkt auf die Bereiche Customer, Sales und Marketing

• 2022 – 05.2022

Power BI Spezialist

• PowerBI Service
• Azure DevOps mit GIT (SCRUM)

Entwicklung von Power BI Berichten und Datenmodellen auf Basis von Daten aus Exasol mit fachlichem Schwerpunkt auf Sortimentsmanagement im Bereich Einkauf

• 2021 – heute (laufende Bestandskundenbetreuung)

Power BI Spezialist & Data Engineer

• SQL Server (T-SQL)
• SSIS (ETL) & BIML
• PowerBI Service
• Azure DevOps mit GIT (KANBAN)
• Azure Functions (Python)

Entwicklung von Power BI Berichten und Datenmodellen auf Basis von abas ERP-Daten einschließlich dem Aufbau der zugrunde liegenden Datenstrukturen mit Microsoft SQL Server zum Aufbau eines Data Warehouse.

Synchronisierung von Kundendaten für Pipedrive CRM über Azure Functions mit Python.

Beratung des Controlling und Geschäftsleitung für agiles Projektmanagement, die Spezifizierung von fachlichen Anforderungen und Entwicklung von Reporting-Lösungen

• 2021 – heute (laufende Bestandskundenbetreuung)

Data Engineer & Architekt

• SQL Server (T-SQL)
• SSIS (ETL) & BIML
• SSAS Tabular
• Azure DevOps mit GIT (SCRUM)

Entwicklung von analytischen Modellen auf Basis von Microsoft Dynamics 365 FO, CS & CRM in Verbindung mit Microsoft Dynamics AX 2012 R3 einschließlich dem Aufbau der zugrunde liegenden Datenstrukturen mit Microsoft SQL Server zum Aufbau eines Data Warehouse

Konzeption der Migration des SQL Server basierten Data Warehouse zu Microsoft Fabric mit zukünftig geplanter Umsetzung und temporärer Nutzung einer hybriden Datenarchitektur zur Einführung von Power BI Service während der Migrationsphase

Beratung der Fachanwender für die Spezifizierung von fachlichen Anforderungen und Entwicklung von Reporting-Lösungen

Als freiberufliche IT-Lehrkraft und IT-Coach habe ich mich darauf spezialisiert, Menschen Themen wie Cloud Computing, Business Intelligence, Python-Programmierung und agile Frameworks zu vermitteln. Mein Ziel ist es, komplexe technische Inhalte in praktisches, umsetzbares Wissen zu übersetzen. Durch meine umfangreiche Erfahrung als IT-Berater in verschiedenen Branchen und Rollen weiß ich, wie wichtig IT-Schulungen sind - sowohl für Unternehmen als auch für Mitarbeitende.

• Entwurf, Entwicklung und Pflege vollständiger ETL-Pipelines für eine skalierbare und zuverlässige Datenintegration
• Unterstützung bei Datenqualitätsprüfungen, Tests und Migrationen
• Entwicklung und Pflege von dbt-Modellen für strukturierte, modulare und wiederverwendbare Datentransformationen
• Einsatz von KI-gestützter Entwicklung, um ETL-Jobs und die Codequalität zu verbessern
• Entwicklung von CI/CD-Pipelines für die automatisierte Bereitstellung

• End-to-end-Datenpipelines (Batch & Streaming) mit Python, SQL und Apache Spark sowie Databricks auf AWS entworfen und umgesetzt und dabei die ETL-Latenz um 40 % reduziert.
• Serverless, ereignisgesteuerte Ingestion-Pipelines mit AWS Lambda und SQS entwickelt und so die Echtzeitverfügbarkeit der Daten für nachgelagerte Analysen sichergestellt.
• Google Cloud Platform (GCP)-Services wie BigQuery und Dataflow genutzt, um Cloud-übergreifende Data-Warehousing- und Analytics-Integrationen zu steuern.
• Erfahrung mit DMS (CDC, Full Load) und Airflow für skalierbare Automatisierung und Orchestrierung von Datenpipelines.
• Datenpipelines mit Databricks und Airflow verwaltet und angepasst. Automatisierung mit Docker, Kubernetes und Terraform.
• Datenqualitätsprüfungen mit dbt automatisiert, um Transformationen zu modularisieren und eine produktionsreife Data Lineage sicherzustellen, wodurch die Zuverlässigkeit um 30 % verbessert wurde.
• Mit Compliance-Teams zusammengearbeitet, um die Einhaltung von GDPR und SOC2 sicherzustellen. Junior Engineers betreut und bei der Refaktorierung der Architektur für mehr Skalierbarkeit mitgewirkt.
• Dashboards in Power BI erstellt und gepflegt, um umsetzbare Einblicke zu liefern.