Apache Spark Experten in Deutschland

Digitalisierung realer Orte mit 3D-/LiDAR-Scans, um räumliche Daten für KI-Anwendungen nutzbar zu machen und daraus konkrete Use Cases sowie Prototypen abzuleiten.

• Digitale Erfassung realer Orte als Grundlage für schnellere Planung und Analyse
• Browserbasierter Zugriff auf 3D-Daten für eine einfachere Nutzung und Abstimmung
• Überführung räumlicher Daten in konkrete Use Cases, Prototypen und KI-Trainingsszenarien
• Planungsgrundlage für Stadtentwicklung und weitere digitale Zukunftsanwendungen

Schlagworte: LiDAR, 3D-Scan, KI, Use Cases, KI-Training, Prototyping, Python, Webentwicklung, Datenmodelle, Architektur

Ich bin ein erfahrener Data Engineer mit Spezialisierung auf End-to-End Data Integration, Cloud-DWH-Architekturen und hochwertige, gesteuerte Datenprodukte.

Ich habe folgende Projekte und Einsätze als Freelancer umgesetzt.

• Data Migration des CRM-Systems für AL-FA Objekt Service Gmbh
• Microsoft Software Resales Partnership

Ich suche freiberufliche Rollen wie: Freelance Data Engineer Cloud Data Warehouse Architect Data Modeling & Architecture Consultant MDM & Data Governance Specialist BI & Analytics Developer

Technische Schwerpunkte

• Data Engineering & Integration: SQL Server/SSIS, Informatica PowerCenter/IDQ, Talend, Kafka, Azure Data Factory – Delta/CDC/ELT-Patterns, robuste Pipelines, Monitoring/Recovery, Data Lineage & Impact Analysis, Medallion Architecture mit Bronze/Silver/Gold-Layern
• DWH & Cloud: Azure SQL / Data Lake / Synapse, AWS Redshift/S3, on-prem SQL/Oracle – skalierbare Data Marts mit starkem Kosten-Nutzen-Fokus.
• Data Modeling: Atomic (Inmon) und Dimensional (Kimball), Data Vault (Linstedt), Domain-Driven Design, klare Herkunft & Verträge.
• MDM & Governance: Informatica MDM, IBM MDM, Stewardship-Prozesse, Data-Quality-Regeln, Survivorship/XREF, Katalog/Glossar, SIF/BES/REST-Publikation.
• Analytics/BI: Power BI, SSAS, Cognos – geschäftsreife, wartbare Datenprodukte.

• Entwicklung und operative Umsetzung effektiver Pre-Sales-Aktivitäten zur Neukundengewinnung
• Operative Entwicklung und Umsetzung von Best-Practice-Gesprächsstrategien
• Prozessentwicklung und Prozessoptimierung
• Kennzahlenmessung, Regelkommunikation
• Coaching der beteiligten Vertriebsmitarbeiter und Führungskräfte
• Telefontrainings on the job mit „Vormachen" in Kundengesprächen
• Sales Coaching on the job für Sales mit „Vormachen" in Kundengesprächen
• Change-Management der Pre-Sales-Aktivitäten

• Private Cloud-Datenplattform auf VMware vSphere entworfen und implementiert, Greenplum MPP, Apache Kafka, Kubernetes und Apache Solr integriert und Echtzeit-Ingestion-Pipelines mit Kafka Connect und Schema Registry entwickelt.
• Migration von Oracle Exadata zu Greenplum geleitet, Datenmodelle neu architektonisch aufgebaut, Speicher optimiert, RabbitMQ mit Debezium für CDC implementiert und VectorDB für Generative AI eingeführt.
• PoC für Multi-Cloud-Migration über AWS, Azure und GCP entworfen und umgesetzt, KPIs für Durchsatz, Latenz und Kosteneffizienz definiert, Bulk-Datentransfers durchgeführt, Analytics- und Streaming-Workloads validiert und Architektur-Empfehlungen im großen Maßstab geliefert.
• Legacy-On-Premises-Infrastruktur bewertet und moderne cloud-native Datenplattformen mit Greenplum und containerisierten Microservices entworfen, mit Beratung zu Skalierbarkeit, Disaster Recovery und High Availability.

• Entwicklung des Audit-Logging-Frameworks
• Implementierung von APIs, die Entwickler in ihre Codebasen integrieren können
• Implementierung der Ingestion-Pipeline, der Datenbank-Abfrageschicht und der UI zum Durchsuchen der Audit-Events
• Verbesserung der Stabilität und Zuverlässigkeit des Backend-Systems

• Aufbau, Implementierung und Vertrieb von automatisierten Data-Science-Lösungen wie Scorecard Factory und Prognose Factory
• Implementierung automatisierter End-to-End-Cloud-Prozesse
• Entwicklung von LLM- und NLP-Modellen
• Erstellung interaktiver Reports
• Betreuung nationaler und internationaler Großkonzerne sowie mittelständischer Firmen bei der Implementierung von ML-Projekten

• Leitete die Discovery-Phase und den POC für die Migration von Shopware zu Shopify Plus in EMEA-Märkten und bewertete die Eignung der Plattform, die technische Architektur sowie Multi-Brand-/Multi-Country-Funktionen anhand der Business-Anforderungen.
• Entwarf die Referenzarchitektur für die Shopify-Plus-Implementierung mit Headless-Frontend-Patterns (Vue.js, Nuxt.js), CMS-Integration (Magnolia) und Azure-Middleware (APIM, Functions, Logic Apps, Service Bus) für 11 EMEA-Märkte.
• Definierte die Migrationsstrategie mit Analyse von Data Mapping, Cutover-Ansatz und Zero-Downtime-Deployment-Patterns unter Einsatz von Varnish-Cache, GitOps-Pipelines und CI/CD-Orchestrierung über sechs Vendor-Teams hinweg.
• Entwickelte ein Multi-Tenant-Governance-Modell für Shopify Plus mit zentraler Administration, lokaler Storefront-Anpassung und Compliance-Kontrollen (GDPR, Datenresidenz).
• Prototypte KI-gestützte Suchoptimierung (LLM.txt, JSON-LD) für die Auffindbarkeit von Produkten in Google-AI-Ergebnissen und zeigte damit Potenziale für die Performance nach dem Go-live auf.
• Definierte mit C-Level-Strategie-Workshops die EMEA-Expansions-Roadmap für 15+ Märkte, einschließlich gestaffeltem Rollout, marktspezifischen Konfigurationen und Ressourcenbedarf.
• Tech Stack: React, Nuxt.js, Vue.js, Magnolia CMS, Shopware, Shopify Plus, Azure (APIM, Functions, Logic Apps, Service Bus, Front Door), Varnish, SAP, MS Dynamics, Docker, Kubernetes, GitHub Actions, PostgreSQL, Kafka

Ich habe eine KI-gestützte Multi-Tenant-Plattform auf Azure entworfen und entwickelt, die SAP-Prozessaufzeichnungen in technische Dokumentation, Präsentationen und automatisierte Tests umwandelt und dabei über 15.000 Prozessaufzeichnungen für Unternehmenskunden wie Würth verarbeitet. Ich war verantwortlich für die Architektur, die produktiven Releases und das DevOps-Setup. Außerdem habe ich ein Multi-Tenant-System mit SSO und rollenbasierter Zugriffskontrolle auf Azure entworfen. MCP Server mit dynamischer OAuth-Authentifizierung implementiert.

Hauptaufgaben:

• Sprint-Planung und Feature-Vorbereitung
• Design der Multi-Tenant-Plattform-Architektur (FastAPI, SQLAlchemy, PostgreSQL Row-Level Security für Tenant-Isolation)
• Entwicklung von KI-Pipelines mit Prefect für Transkription (Azure Speech API), Dokumentengenerierung und SAP-Screen-Recording-Analyse (Claude, gpt-4-mini)
• Design und Implementierung eines MCP-Servers, um Tenant-Wissen für LLM-Clients (Claude) bereitzustellen, mit asynchronem Retrieval und Reranking
• Implementierung von LLM-Kosten-Tracking, Rate Limiting und Client-Pooling für Anthropic/OpenAI/Azure-OpenAI-Endpunkte
• Einrichtung von CI/CD: Docker-Images in Azure Container Registry, GitHub Actions, Azure Static Web Apps, Alembic-Migrationen in Containern
• Verwaltung von Produktions-Deployments und Durchführung von Live-Datenmigrationen für Unternehmenskunden
• Definition von Engineering-Standards und Architekturmustern für das Team

Umgebung: Azure / Azure Foundry / Python / FastAPI / Prefect / React / PostgreSQL

• Automatische Erkennung von Inhalten auf verschiedenen Dokumenten
• Recommendation Engine
• Dynamic Pricing

• Leitung der strategischen Softwareentwicklung von Fusionsalgorithmen für präzises Objekt-Tracking, Trajektorienvorhersage und Umgebungsmodellierung auf Basis multimodaler Sensordaten (u. a. Kamera, LiDAR, Radar, GNSS, IMU)
• Entwicklung und Implementierung von Navigationsalgorithmen für autonome Fahrzeuge, einschließlich Pfadplanung, Hindernisvermeidung und Sensorfusion aus visuellen, inertialen und distanzbasierten Sensorquellen
• Automatisierung des Extraktions- und Trainingsprozesses mit CI/CD
• Entwicklung und Optimierung von Datenpipelines und -prozessen in Microsoft Azure mithilfe von Apache Spark, Databricks und PySpark
• Entwicklung und Optimierung von Embedded-Software für automotive Steuergeräte
• Entwicklung von latenzkritischer Software für Echtzeitsteuerungen in robotischen Systemen mit RTOS (freeRTOS, SAFERTOS)
• Verwendung der Vector-Toolchain (CANdela, Davinci, CANoe) für Konfiguration und Diagnose
• Optimierung bestehender Datenpipelines und -prozesse (ETL, Data Warehouse, SQL)
• Entwicklung und Training von Machine-Learning-Modellen mithilfe von PyTorch
• Entwicklung Deep-Learning-basierter Objekterkennungs- und VisualSLAM-Algorithmen, trainiert auf kombinierten Daten aus Kamera-, LiDAR- und IMU-Sensorik
• Implementierung von Computer-Vision-Algorithmen zur Objekterkennung und -klassifikation in Robotersystemen auf Basis von OpenCV und YOLO unter Nutzung synchronisierter Bild- und Tiefendaten
• Implementierung verhaltensbasierter Steuerungssysteme für autonome Roboter mittels ROS2 Behavior Trees
• Durchführung von Tests, Freigabe und Einführung der Sensorfusionsalgorithmen in die Produktionsprogramme der Automobilbranche
• Einhaltung geeigneter Softwareentwicklungsprozesse und Sicherheitsstandards zur Gewährleistung hoher Datenqualität (MISRA, ISO 26262, ASPICE)

Großes Versicherungsunternehmen – Consultant Wiesbaden: Beratungsunterstützung bei der Einführung eines integrierten Planungs- und Performance-Management-Frameworks (operativ, finanziell, Kunde) zur Verbesserung der kundenzentrierten Transparenz, der Entscheidungsqualität und der Steuerungsfähigkeit über alle Geschäftsbereiche innerhalb eines Versicherungsunternehmens:

• Analyse bestehender Prozesse, Reports, KPIs und Methoden zur KPI-Berechnung
• Konzeption und Einführung neuer, standardisierter Kunden-KPIs (brutto/netto) sowie zentraler Steuerungskennzahlen mit konsistenter Verknüpfung über alle Geschäftsbereiche hinweg
• Neuberechnung, Validierung und Plausibilitätsprüfungen von KPIs auf Basis bestehender und neu integrierter Datenquellen
• Konzeptionelle Unterstützung beim Aufbau eines integrierten Reporting- und Performance-Management-Setups
• Durchführung von Customer-Insights-Analysen zur Identifikation von Mustern und Auffälligkeiten in Kunden-Datenclustern

Großes Handelsunternehmen – Consultant in Karlsruhe: Beratungsleistungen für den Aufbau und die schrittweise Implementierung einer international einsetzbaren RELEX-Lösung im Umfeld des Supply-Chain-Managements:

• Beratung der Gesamt- und Teilprojektleitung bei Methodik, Projektaufsetzung und Steuerung (z. B. agiler Ansatz, Jira-Konfiguration, RELEX-Phasen, Jira Structure PPM)
• Strategisch-operative Beratung bei der Einführung von RELEX einschließlich Best Practices
• Unterstützung bei der Definition übergeordneter Ziele und Anforderungen (2-Jahres-Zielbild)
• Begleitung bei der Eingrenzung eines relevanten Supply-Chain-Netzwerksegments für das Projekt
• Entwicklung einer Roadmap für den iterativen, inkrementellen RELEX-Aufbau und Rollout
• Bewertung von Projektabhängigkeiten (Schnittstellen, Konfigurationen etc.)
• Beratung zur priorisierten Umsetzung von fachlichen Anforderungen und Datenschnittstellen
• Unterstützung bei der Testplanung (Datenvalidierung, Systemtest, UAT)
• Beratung zu Internationalisierung, Change Management, Training und Wissenstransfer
• Stakeholder-Beratung und Abstimmung zwischen Kunde, Implementierungspartner und RELEX

Versicherungsunternehmen – Management Consultant in München: Analyse, Beratung und Unterstützung bei der Optimierung einer groß angelegten Business- und IT-Transformation. Fokus auf strategisch wichtige Programme und Modernisierungsprojekte im Bereich Managed Services Operations und Prozesse:

• Prüfung von Projektplänen und Deliverables; Analyse von Programmen und Projekten (z. B. Cloud-Ansatz, Prozessstandardisierung, Systemintegration, Roadmaps)
• Identifikation technischer, fachlicher und personeller Risiken und Herausforderungen; Entwicklung inhaltlicher Maßnahmen und Alternativen
• Vorschläge zur Qualitätsverbesserung für Programm- und Modernisierungsmaßnahmen
• Sparringspartner sowie fachliche, technische, strukturelle und organisatorische Beratung für Projekt- und Programmmanagement

Großer Handelskonzern – Management Consultant & Stream Lead in Köln: Beratung, Prozess-, Projekt- und Produktmanagement für die Einführung und Umsetzung eines großen strategischen Programms im Bereich Advanced Analytics, Sortiment und Flächenmanagement:

• Aufbau, Test und Rollout eines neuen Flächenplanungs-, Automatisierungs- und Optimierungsprodukts auf Basis des bestehenden clusterbasierten Merchandising-Ansatzes
• Definition und Aufbau neuer Prozesse sowie Transformations- und Change-Management-Maßnahmen für den neuen filialspezifischen Merchandising-Ansatz
• Zusammenarbeit mit Advanced Analytics und IT (intern und extern) bei Softwareeinführungen, Automatisierungen, Erweiterungen und Schnittstellen
• MVP-Ansatz und Pilotierung in Phasen mit schrittweisem Rollout (Pilot mit 80 Filialen, Region mit 500 Filialen, nationale Ebene mit 4000 Filialen)

Großes Handelsunternehmen – Agile Coach & Change Agent in Köln: Agile Coach, OKR Master und Facilitator für die Einführung des OKR-Ansatzes in einem großen strategischen Digitalisierungsprogramm für Einzelhandelsfilialen:

• Coaching des Kernteams mit Themenverantwortlichen und Teamleitern
• Einführung in das OKR-Thema und Aufbau des OKR-Zyklus
• Etablierung des OKR-Ansatzes in den Teams und auf bereichsübergreifender Ebene

Dienstleistungs- und Logistikunternehmen – Management Consultant in Großbritannien: Beratung und Coaching bei der Umstrukturierung der Data-Analytics-Abteilung:

• Analyse der aktuellen Herausforderungen
• Definition übergeordneter Ziele
• Entwicklung eines Vorschlags für eine neue Teamstruktur
• Identifikation benötigter Kompetenzen, Fähigkeiten und Verantwortlichkeiten
• Beratung und Abstimmung zur Kommunikations- und Change-Management-Strategie

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

• Entwickelte ein JTBD-basiertes Priorisierungs-Framework für über 3.000 gesammelte Feature-Anfragen, identifizierte 27 Makler-Jobs, validierte 8 davon in 25 Nutzerinterviews und nutzte die daraus resultierende Job-Map als Live-Priorisierungsfilter für alle Eingangskanäle (Upvoty, CSAT, Beratungstickets).
• Verantwortlich für die Scout24-Lighthouse-Initiative: Document Intelligence mit vollständiger RAG-Architektur (semantisches Chunking, bge-m3 Embeddings, pgvector, BM25+Dense Hybrid-Retrieval).
• Reduzierte die Durchlaufzeit von Kunden-Feature-Anfragen auf 3,1 Tage durch Code-Analyse, Ticket-Spezifikation und eigenständige Implementierung mithilfe eines Coding-Agenten (Codex).
• Entwickelte einen LLM-basierten Support-Agenten (GPT-4o mini, Codex-generierte Merge Requests), der Eskalationen auf 3rd-Level von 40 % auf 5 % aller monatlichen Tickets reduzierte.
• Integrierte sechs Partner durch technische Koordination, Spezifikation, Backlog- und Release-Management und führte sieben Full-Stack-Entwickler.
• Beseitigte innerhalb von sechs Wochen regulatorische Risiken für Makler durch Risikoanalyse (BGH-Urteil zum Fernabsatz/GDPR), neue Audit-Funktionen und Koordination mit Rechts- und Datenschutzbeauftragten.

• Mitbegründer von Prinkipia und Leitung des Teamausbaus
• Definition und Entwicklung der strategischen Ausrichtung des Unternehmens
• Leitung der Engineering-Teams in verschiedenen Projekten als leitender Softwarearchitekt
• Gestaltung der technischen Vision und Entscheidungsfindung zur Sicherstellung qualitativ hochwertiger Ergebnisse
• Aufbau der Unternehmenskultur und Schaffung der Grundlagen für Engineering-Prinzipien und Best Practices
• Führung der technischen Leitung und Softwarearchitektur des Flaggschiffprodukts Agentic AI von Prinkipia