Apache Spark Experten

• Konzeption und Entwicklung einer produktionsreifen Data Platform auf Basis von Microsoft Fabric für ein E Commerce Unternehmen
• Aufbau einer skalierbaren Medallion Architektur (Bronze, Silver, Gold) mit Lakehouse und Delta Lake als Grundlage für Analytics und AI Anwendungen
• Entwicklung einer metadata driven ETL Plattform mit PySpark sowie eines generischen Incremental Loading Frameworks (SQL Server → Bronze → Silver → Gold)
• Entwicklung wiederverwendbarer Komponenten für Microsoft Fabric Notebooks zur Standardisierung von Datenintegration, Transformation und Validierung
• Implementierung automatisierter Data Pipelines inklusive Monitoring, Logging, Fehlerbehandlung und Delta MERGE Strategien für einen stabilen produktiven Betrieb
• Aufbau einer Business Layer Architektur für Reporting, Data Warehouse und wiederverwendbare Datenprodukte
• Integration heterogener Datenquellen über SQL Server, REST APIs, Amazon SP API und Google Analytics 4
• Enge Zusammenarbeit mit Fachbereichen zur Analyse fachlicher Anforderungen und Übersetzung in skalierbare Datenarchitekturen

Technologien: Microsoft Fabric, PySpark, Python, SQL Server, Delta Lake, Lakehouse, OneLake, Data Factory, Data Warehouse, REST APIs, Amazon SP-API, Google Analytics 4

• Optimierung der Datenarchitektur (Medallion) für eine bessere Entkopplung der Verarbeitungsschritte und bessere Transparenz und Reproduzierbarkeit

• Technische Qualitätssicherung der Datenverarbeitung in Databricks durch Einführung von Schema Enforcement, Datenqualitätschecks und strukturierter Datenarchitektur

• Pipeline-Orchestrierung mit Azure Data Factory

• Professionalisierung und Automatisierung des Entwicklungs- und Deploymentprozesses durch Integration von Git und GitHub Actions

• Fachliche Führung des Data Engineering Teams (3 Mitarbeitende)

• Leitung von Workshops zur Optimierung und Stabilisierung der Datenplattform und des Entwicklungsprozesses

• Aufnahme und Priorisierung neuer Anfragen, Pflege des Produktbacklogs

• Technologien: Microsoft Azure (Data Lake, Data Factory), Databricks, Apache Spark (PySpark), Python, SQL, Git, Confluence, Power BI, Power Apps, Dataverse, MS Sharepoint, Mural

Ich bin ein erfahrener Data Engineer mit Spezialisierung auf durchgängige Datenintegration, Cloud-DWH-Architekturen und hochwertige, gut gesteuerte Datenprodukte.

Als Freiberufler habe ich die folgenden Projekte und Aufträge umgesetzt.

• Datenmigration eines CRM-Systems für AL-FA Objekt Service Gmbh
• Partnerschaft für den Weiterverkauf von Microsoft-Software

Ich suche freiberufliche Aufgaben wie: Freelance Data Engineer Cloud Data Warehouse Architect Data Modeling & Architecture Consultant MDM & Data Governance Specialist BI & Analytics Developer

Technische Schwerpunkte

• Data Engineering & Integration: SQL Server/SSIS, Informatica PowerCenter/IDQ, Talend, Kafka, Azure Data Factory – Delta/CDC/ELT-Muster, robuste Pipelines, Überwachung/Wiederherstellung, Datenherkunft und Auswirkungsanalyse, Medallion-Architektur mit Bronze/Silver/Gold-Schichten
• DWH & Cloud: Azure SQL / Data Lake / Synapse, AWS Redshift/S3, On-Premises SQL/Oracle – skalierbare Data Marts mit starkem Fokus auf Kosten und Nutzen.
• Datenmodellierung: Atomare (Inmon-) und dimensionale (Kimball-)Modelle, Data Vault (Linstedt), Domain-Driven Design, klare Datenherkunft und Verträge.
• MDM & Governance: Informatica MDM, IBM MDM, Stewardship-Prozesse, Datenqualitätsregeln, Survivorship/XREF, Katalog/Glossar, SIF/BES/REST-Veröffentlichung.
• Analytics/BI: Power BI, SSAS, Cognos – businessfähige und wartbare Datenprodukte.

• Machine Learning, BI und Big Data für Master-Studierende unterrichtet.

Technologien: Python, Power BI, SQL, ML, SnowflakeDB, databricks, MS Fabric, MongoDB, LLM

Projekt: Defekterzeugung auf Prüfstandsbildern von Metalloberflächen Umfeld: Automatisierte Sichtprüfung (AVI), Metallurgie & Fertigung

• Ziel & Umsetzung: Konzeption, Architektur und Training Generativer Adversarial Networks (Pix2PixHD / SPADE) zur Bild-zu-Bild-Transformation. Gezielte Generierung synthetischer Materialfehler (z. B. Risse, Einschlüsse, Zunder) auf rauen Metalloberflächen unter realen Prüfstands-Lichtverhältnissen zur datenschutzkonformen und effizienten Datensatz-Erweiterung (Data Augmentation).
• Technisches Design: Implementierung robuster Generative-AI- und Computer-Vision-Pipelines in Python und PyTorch. Nutzung von Semantic-Segmentation-Ansätzen zur maskengesteuerten Defektsynthese und nachgelagerter Evaluierung mittels EfficientDet-Objekterkennungs-Modellen.
• Business Impact: Massives Dataset-Upscaling (Faktor 10x) ohne zeit- und kostenintensive physische Prüfstandsläufe bei gleichzeitig drastisch gesteigerter Erkennungsleistung automatisierter Inspektionssysteme.

Eingesetzte Technologien & Skills: Python | PyTorch | SPADE | Pix2PixHD | EfficientDet | Machine Learning | Semantic Segmentation | Computer Vision

Stabilisierung einer Azure-/.NET-Landschaft im laufenden Betrieb.

• Architektur, DevOps und Betriebsfähigkeit; technische Entscheidungen unter Zeitdruck
• Azure DevOps, Monitoring, ETL/ELT, Cloud Security, FinOps und Data-Mesh-nahe Themen

Technologien: Azure DevOps, .NET, CI/CD, Monitoring, FinOps

Entwicklung Python-basierter KI-Microservices und Integrationen für eine AEC/VR-SaaS-App auf Unity-Basis, mit Schwerpunkt auf LLM/VLM-Funktionen, retrievalgestützten Systemen, RESTful APIs, containerisierter Bereitstellung und einem Automatisierungs-Microservice für die CAD-zu-Unity-Pipeline.

• Entwicklung eines eigenen, auf Hybrid A* basierenden Algorithmus in C#, um Krankenhausszenarien zu simulieren, Konflikte in frühen Entwurfsphasen anhand von Kollisions- und Raumdaten zu erkennen und strukturierte Berichte zu erstellen.
• Lösung und Automatisierung des zeitaufwendigen Problems, CAD-Dateien in nutzbare Unity-Umgebungen umzuwandeln – mit einer speziell entwickelten Echtzeit-Pipeline und einer ZeroMQ-basierten Kommunikationsschicht zur Verteilung von Aufgaben auf mehrere Prozesse und für Echtzeit-Performance.
• Entwicklung einer Docker-basierten FastAPI-Pipeline zur Automatisierung von CAD-zu-Unity-Prozessen, die visuelles Objekt-Matching, Bild-Embeddings und vorab berechnete Metadaten kombiniert, um CAD-Objekte automatisch Unity-Verhaltensskripten zuzuordnen, Eigenschaften zuzuweisen und wiederholte KI-Inferenzaufrufe zu reduzieren.
• Erstellung von Dokumentationen und Beispielen, damit technische Nutzer die KI-Automatisierungspipeline verstehen, konfigurieren und erweitern können.

• Unterstützung des Projekts Internationaler Webauftritt der BA (IntWeb) im Bereich Qualitätsmanagement mit dem Ziel die Verantwortung für die Qualität der Prozesse und Projektergebnisse unter Berücksichtigung der BA-Standards zu übernehmen. Kernziele des Projekts lauten: den Fachkräften im Ausland einen schnellen Überblick über ihre Chancen für den Weg nach Deutschland zu geben und sie durch den Zugang zu Dienstleistungen in die Lage zu versetzen, die dafür notwendigen Schritte konsequent & digital unterstützt gehen zu können.

• Vorgaben der grundsätzlichen Richtlinien mit dem QS-Handbuch

• Zusammenfassen der Prüfergebnisse in QS-Berichten für PLA

• Analyse der Projektergebnisse auf Verbesserungsmöglichkeiten

• Qualitätsmanagement der Anforderungsanalyse (insbesondere Prozesse, Methoden und Werkzeuge)

• Sicherstellung der Einhaltung der SERA-Vorgaben

• Erstellung eines Projektübergreifenden Testkonzepts

• Vereinbarung von Sprintabschlussberichte

• Formales Review von Arbeitsergebnissen gemäß Vorgaben und/oder Projektplan

• Ansprechpartner für Innenrevision, externe Audits durch Wirtschaftsprüfer oder BRH (Bundesrechnungshof)

• Technologien: JIRA, Confluence, MS Office, GitLab, Kubernetes

• Architektur und Bereitstellung einer privaten Cloud-Datenplattform auf VMware vSphere mit Integration von Greenplum MPP, Apache Kafka, Kubernetes und Apache Solr sowie Entwicklung von Echtzeit-Ingestion-Pipelines mit Kafka Connect und Schema Registry.
• Leitung der Migration von Oracle Exadata zu Greenplum, Neugestaltung von Datenmodellen, Optimierung der Speicherung, Implementierung von RabbitMQ mit Debezium für CDC und Bereitstellung einer VectorDB für Generative AI.
• Entwicklung und Durchführung eines Multi-Cloud-Migrations-PoC über AWS, Azure und GCP, Definition von KPIs für Durchsatz, Latenz und Kosteneffizienz, Durchführung umfangreicher Datentransfers, Validierung von Analyse- und Streaming-Workloads sowie Erstellung umfassender Architektur-Empfehlungen.
• Bewertung bestehender On-Premises-Infrastrukturen und Entwicklung moderner cloudnativer Datenplattformen mit Greenplum und containerisierten Microservices sowie Beratung zu Skalierbarkeit, Disaster Recovery und Hochverfügbarkeit.

• Entwicklung eines KI-gestützten Projektorganisationstools für ein Tiefbauunternehmen, das Projekt-, Aufgaben-, Ausschreibungs-, Terminund Dokumentendaten intelligent über einen Knowledge-Graphenverknüpft.
• Implementation von KI-Funktionen zur Dokumentenanalyse, Informationsextraktion, kontextbezogenen Assistenz und sprachbasierten Datenerfassung auf Basis von Microsoft Azure AI, wodurch administrative Aufwände reduziert, Informationen schneller zugänglich gemacht und Projektteams bei Entscheidungen unterstützt werden.
• Technologie-Stack: Python, React, TypeScript, FastAPI, Claude Code, Codex, Graphify, PostgreSQL, Microsoft Azure AI Foundry, Azure OpenAI, Azure AI Speech, Azure AI Document Intelligence, Microsoft Graph, Microsoft Entra ID, Docker, Git, CI/CD.

Echtzeit-Erkennung von AWS-Bedrohungen mithilfe von LLMs, UEBA und Vektoranalysen

• UEBA-Engine entwickelt, die Millionen von CloudTrail/GuardDuty-Ereignissen verarbeitet, um Verhaltensanomalien in Echtzeit zu erkennen.
• Amazon Bedrock LLMs für die narrative Bedrohungsanalyse und die strukturierte, automatisierte Zusammenfassung von Vorfällen integriert.
• Pipeline für Vektor-Embeddings (MongoDB Atlas) zum Vergleich des Verhaltens von Entitäten und zur Erkennung semantischer Anomalien entwickelt.

Technologien: Python, FastAPI, AWS, MongoDB Atlas, Amazon Bedrock, Pydantic, Motor (Async).

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

• Leitung der Discovery-Phase und des POC für die Migration von Shopware zu Shopify Plus in den EMEA-Märkten, einschließlich Bewertung der Plattformtauglichkeit, der technischen Architektur sowie der Multi-Brand- und Multi-Country-Funktionen anhand der Geschäftsanforderungen.
• Entwicklung einer Referenzarchitektur für die Shopify-Plus-Implementierung mit Headless-Frontend-Patterns (Vue.js, Nuxt.js), CMS-Integration (Magnolia) und Azure-Middleware (APIM, Functions, Logic Apps, Service Bus) für 11 EMEA-Märkte.
• Definition der Migrationsstrategie durch Analyse des Datenmappings, des Cutover-Ansatzes und von Deployment-Patterns ohne Ausfallzeit mit Varnish-Caching, GitOps-Pipelines und CI/CD-Orchestrierung über sechs Anbieter-Teams hinweg.
• Entwicklung eines Multi-Tenant-Governance-Modells für Shopify Plus mit zentraler Administration, lokaler Anpassung der Storefronts und Compliance-Kontrollen (GDPR, Datenresidenz).
• Entwicklung eines Prototyps für KI-gestützte Suchoptimierung (LLM.txt, JSON-LD), um die Auffindbarkeit von Produkten in Google-AI-Ergebnissen zu verbessern und Chancen für die Performance nach dem Launch aufzuzeigen.
• Definition der EMEA-Expansions-Roadmap für 15+ Märkte durch strategische Workshops mit dem C-Level, einschließlich Identifikation des schrittweisen Rollouts, marktspezifischer Konfigurationen und des Ressourcenbedarfs.
• Tech Stack: React, Nuxt.js, Vue.js, Magnolia CMS, Shopware, Shopify Plus, Azure (APIM, Functions, Logic Apps, Service Bus, Front Door), Varnish, SAP, MS Dynamics, Docker, Kubernetes, GitHub Actions, PostgreSQL, Kafka

Eigenverantwortlicher Aufbau einer Datenplattform mit systemübergreifendem Prozessmonitoring.

• Konzeption der Bronze/Silver/Gold-Architektur und Python-basierte Pipelines für heterogene operative Quellen.
• Bereinigung, Harmonisierung und Validierung der Daten; Verarbeitung und Ablage im Parquet-Format.
• Historisierung von Datenständen und Aufbau fachlicher Fakten- und Dimensionsmodelle für nachvollziehbare Auswertungen.
• Automatisierte Datenbereitstellung mit Python und Power Automate (Desktop und Cloud); SharePoint für Archivierung und Datenzugriff.
• Entwicklung der Power-BI-Lösung von der Datenaufbereitung bis zur Visualisierung von Prozesszuständen, Bearbeitungsständen und Abweichungen.

Technologien: Python, SQL, Parquet, Power BI, Power Query, Power Automate, SharePoint, Copilot