Qwen-Experten in Deutschland

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

• Beratung und Projektleitung zur Erstellung einer Automatisierungsplattform für Marktdatenanalyse KI-basiert
• Finanzdaten automatisiert testen
• Marktdaten-Automation mit Python und N8N
• KI/AI-Datenintegration und KI-Learning
• Einsatz von Ollama und Qwen
• Datenorganisation und Datenbankmanagement

• Generative-KI- und LLM-Modelle (OpenAI, DeepSeek, Qwen-2.5) mit PyTorch und Hugging Face feinabgestimmt und bereitgestellt, wodurch die Genauigkeit der ERP-Automatisierung um 25 % gesteigert wurde.
• Einen sicheren RAG-basierten KI-Chatbot zur Erstellung kundenspezifischer Rechnungen und Angebote entwickelt und implementiert, wodurch sich die Antwortzeiten um 40 % verkürzten.
• Cloudnative KI/ML-Pipelines auf AWS und GCP mit Docker und Kubernetes für skalierbares Modelltraining, Bereitstellung und Monitoring entworfen.
• Einen API-basierten KI-Chatbot (Telegram) entwickelt und in ERP-Systeme integriert, wodurch die Geschwindigkeit der Dokumentenverarbeitung um 30 % gesteigert wurde.
• KI-Agenten für Chatbots entwickelt, um mehrstufiges Schlussfolgern, intelligente Aufgabenausführung und kontextbezogene Interaktionen zu ermöglichen.
• ML- und NLP-Techniken für intelligentes Dokumentenverständnis, Workflow-Automatisierung und datengestützte Geschäftsentscheidungen eingesetzt.

• Idee, Design und erste Implementierung eines Dienstes, der öffentlich verfügbare Daten aggregiert, um Preise für bestimmte Objektarten zu schätzen
• Sammlung von Daten aus verschiedenen Quellen und deren Normalisierung. Einbettung der Daten mit SentenceTransformer und Training von Gradient-Boosting-Modellen
• Implementierung eines Webdienstes, der
• beliebigen Text von Benutzern einliest
• ihn ergänzt, wenn Teile der Daten fehlen
• ein lokales LLM-Modell verwendet, um die Daten für die Vorhersage aufzubereiten
• die Daten einbettet und eine Vorhersage vom Gradient-Boosting-Modell abruft
• ein LLM-Modell verwendet, um einen Bericht zur Benutzeranfrage einschließlich Erklärungen zu erstellen
• Stack: BigQuery, Vertex AI, Cloud Run (GCP), Python, Terraform, DBT, SentenceTransformer, Qwen
• Kleinere SEO-Optimierungen
• Weitere Entwicklungen folgen...

Freelance-Arbeit für ein großes deutsches Family Office

Aufbau und Weiterentwicklung einer modularen B2B-SaaS-Plattform für professionelles Wealth Management und Family Offices sowie freiberufliche Umsetzung produktionsreifer KI-, Datenmanagement- und Automatisierungslösungen für die Wealth-Management-Branche.

• Entwicklung eines KI-Governance-Frameworks für regulierte Finanz- und Asset-Management-Workflows, abgestimmt auf DORA, BaFin-nahe Governance-Anforderungen und Datenschutzvorgaben, inklusive Rollen, Zugriffsrechten und Entscheidungsregeln.
• Konzeption eines agentischen Systems mit lokal betriebenem Open-Source-Sprachmodell, inklusive Qwen2.5 über Ollama, für sichere Abfragen einer Asset-Datenbank mittels Text-to-SQL-to-Text-Workflows.
• Aufbau KI-gestützter Analyse- und Reporting-Funktionen, die strukturierte Antworten, Tabellen und Charts aus Asset-Daten erzeugen, mit fachlicher Validierung über Resolver-Logik und RAG-Elemente.
• Entwicklung produktionsreifer Datenimport-Workflows für Daten von Finanzdienstleistern aus CSV-, PDF- und API-Quellen, inklusive Validierung, Plausibilitätsprüfungen und Abgleich mit bestehenden Asset-Daten.
• Lösung des Asset-Matching-Problems ohne systemübergreifenden Primary Key durch mehrstufige Validierungsregeln und Freigaben im Human-in-the-Loop.

Ergebnisse:

• 250.000 EUR SaaS-Umsatz im Jahr 2024 gesichert und den Forecast um 20 % übertroffen.
• Family-Office-Kunden mit 1,6 Mrd. EUR Assets under Management gewonnen.
• Manuellen Aufwand für den größten Kunden um ca. 3 Tage pro Monat durch automatisierte Datenimport- und Abgleichsprozesse reduziert.
• Operatives Fehlerrisiko durch strukturierte Datenvalidierung, mehrstufiges Asset-Matching und Human-in-the-Loop-Freigaben reduziert.

• Berater für Systemarchitektur, KI-Agenten & Integration, Coach für Daten- & Prozesslogik, Graph-RAG-Ansätze, Sicherheit und Datenschutz.
• On-Premise-KI-Lösungen mit hohen Compliance- & Performanceanforderungen.
• Architekturentscheidungen, operativer Aufbau, strategische Priorisierung & Deployment.
• Technologien: LiveKit JS SDK, LiveKit Agents, Web Audio API, JS, AudioWorklet, Loki, vLLM, Zscaler, Docker, Neo4j, MySQL, Python.
• Modelle: GPT-OSS 20B, Whisper large v3 turbo, Qwen3-TTS.

• Ausgangssituation: Wachsender Bedarf an datenschutzkonformen KI-Lösungen für Mandanten im KRITIS- und Mittelstandsumfeld, die sensible Medieninhalte (Audio, Video, Dokumente) analysieren müssen, ohne Daten an Public-Cloud-LLMs weiterzugeben.

• Aufgabe: Konzeption, Aufbau und sicherer Betrieb einer vollständig self-hosted AI-Infrastruktur inklusive eigenentwickelter Digital-Management-Plattform zur automatisierten Medienanalyse.

• Maßnahme: Architektur und Implementierung einer Multi-Tier-Plattform auf gehärteter Proxmox-Infrastruktur mit Frontend (Nuxt 3, Vue 3, TypeScript, Tailwind 4), Backend (Laravel 13, PHP 8.4, Sanctum), Datenhaltung (PostgreSQL 16, MongoDB 7), Caching/Queuing (Redis 7, Laravel Queue), AI-Worker (Python 3.11, Whisper, DeepFace, Librosa), Scheduling (Laravel Scheduler/Cron) und lokalen LLMs (Gemma, DeepSeek, Qwen, Mistral, LLaMA, Phi) über OpenWebUI mit segmentiertem Netzwerkzugriff, API-Hardening und Audit-Logging nach BSI-Empfehlungen.

• Ergebnis: Vollständig DSGVO-konforme, on-premises betriebene AI-Plattform ohne Datenabfluss an Dritte.

• Aufgabe: Gesamtverantwortung als externer Head of Cyber Security / CISO-as-a-Service für Konzeption, Implementierung und kontinuierliche Verbesserung von ISMS nach ISO 27001, BSI-Grundschutz und NIS2.

• Maßnahme: Aufbau und Steuerung von Cyber Defense Centern (CDC) mit SOC-Operations, Integration von SIEM-Lösungen (Splunk, Graylog), Etablierung eines Risk-Based Vulnerability Managements (Qualys, Nessus, OpenVAS) und Durchführung regelmäßiger Infrastruktur-, Applikations- und physischer Penetrationstests.

• Ergebnis: Audit-Ready ISMS bei mehreren Mandanten und Reduktion kritischer Schwachstellen um 60 % innerhalb von 90 Tagen.

• Aufgabe: Konzeption und Durchführung von NIS2-Assessments und operative Umsetzungsfahrpläne für KRITIS-Betreiber.

• Maßnahme: Entwicklung eines Online-Assessment-Tools zur automatisierten Ermittlung individueller Schwächeprofile, operative Umsetzung von ISMS-Optimierung, Penetrationstests, Awareness-Programmen und GRC-Suite-Implementierung sowie C-Level-Präsentationen.

• Ergebnis: Beschleunigung des Beratungsprozesses um 50 % und erfolgreiche NIS2-Konformitätsvorbereitung mehrerer Mandanten.

• Aufgabe: Incident Commander für Krisenreaktion, Forensik und Business Recovery bei Ransomware-Angriffen und APT-Kampagnen.

• Maßnahme: Koordination mit LKA und BKA, forensische Analysen (OSForensics, Wireshark, Kali Linux), Umsetzung von Disaster-Recovery- und BCM-Strategien, Entwicklung von Reaktionsstrategien bei BTC-Erpressung.

• Ergebnis: 100 % Wiederherstellungsrate innerhalb definierter RTO-Fenster und nachhaltige Post-Incident-Sicherheitsarchitekturen.

• Maßnahme: Planung, Aufbau und Betrieb einer gehärteten Multi-VM-Infrastruktur (Proxmox, 15+ VMs) mit Web- und Mailservern, Graylog, OPNsense-Firewalls, CRM/ERP und LLM-Instanzen, Netzwerksegmentierung, DDoS-Mitigation, automatisiertem Patch-Management und Backup-Strategien.

• Ergebnis: > 99,5 % Verfügbarkeit über 20+ Jahre und null Kompromittierungen.

• Maßnahme: Konzeption koordinierter Phishing-Kampagnen in fünf Härtegraden, abgeleitete E-Learnings und Webinare im PDCA-Zyklus, Aufbau und Leitung von Red- und Blue-Teams.

• Ergebnis: Reduktion der Phishing-Klickrate von 35 % auf unter 5 % innerhalb von drei Kampagnenzyklen.

KI-gestützte Automatisierung der Einkäufe auf einer Druckerei-Website mit Auswahl von Lieferzeiten, Bestelloptionen, Bestellung, Bezahlung und Hochladen der Druckdaten aus der Lumiz-Cloud.

• Modelle für Chatbots, NLP und LLMs (z. B. Llama, Qwen, OpenAI) erforschen und entwickeln
• Chatbots mit RAG und In-Context Learning verbessern
• Supervised Fine-Tuning (PEFT, LoRA), Huggingface oder Unsloth
• Fortgeschrittene Trainingsmethoden: Test-Time Training, (transduktives) Active Learning, Reinforcement Learning
• Serving mit hohem Durchsatz mit vLLM
• Embedding-Modelle anwenden (z. B. SentenceTransformers), Similarity-/Vektorsuche oder Vektor-DB oder Ranking (z. B. LlamaIndex, Faiss, LangChain)
• Synthetische Daten erzeugen und filtern, Clustering
• Halluzinationen erkennen
• Chatbot-Modelle bewerten (Rouge, BLEU, F1-Score, Recall, Precision)
• Visualisierung von Experimenten (matplotlib)

• Beratung und Interimsmanagement in der Automobilindustrie, im Gesundheitswesen und anderen Branchen mit Fokus auf Programmmanagement, Produktionsanläufen, Werksleitung, Lieferantenentwicklung, Kostenreduktion, Prozessoptimierung, KI-Einführung und KI-getriebener Prozessautomatisierung.

• Zentrale Projekte:

• Konzept zur Leistungsdokumentation einer Schmerztherapie-Abteilung mit interdisziplinären Inputs und Abgleich mit dem OPS-Katalog (Feb 2026).

• Vollständiges Abrechnungssystem für eine Ärztepraxis mit Mandantenfähigkeit, Zustandsautomaten-Workflow, ZUGFeRD/EN16931-konformer Rechnungsgenerierung, OpenEMR-Integration; umgesetzt mit ca. 4.200 LOC Python, ca. 1.700 LOC SQL, über 30 Endpunkten, 13 DB-Migrationen (Dez 2025 — Feb 2026).

• Klinisches Entscheidungshilfesystem für stationäre Schmerztherapie inklusive automatischer Verarbeitung von Schmerzfragebögen, KI-generierten Therapieempfehlungen und Langzeitanalysen; Stack: FastAPI, Ollama, PyMuPDF, React + TypeScript, PostgreSQL, Docker (Sep 2025 — Mär 2026).

• End-to-End KI-gestützte Transkriptions- und Dokumentations-Pipeline für Arzt-Patienten-Gespräche mit WhisperX-Transkription, fünfstufiger LLM-Pipeline, Review-UI und selbst gehosteter Infrastruktur; Stack: FastAPI, WhisperX, Ollama, React + TypeScript, Docker (Aug 2025 — Feb 2026).

• KI-gestützte Pipeline zur Dokumentenerkennung und automatischen Bankabstimmung mit über 3.000 Transaktionen und über 4.000 Dokumenten, Multi-Model-OCR, LLM-basierter Dokumententrennung, Web-UI und loop-basierter Prompt-Versionierung; Infrastruktur: Docker Compose, PostgreSQL, Ollama LLM-Server (Aug 2025 — heute).

• Lieferantenentwicklung für Fahrwerkskomponenten inklusive Änderungen, Neuanläufen, Verlagerungen und Engpassmanagement für KTM (Mai 2023 — Nov 2024).

• Leitung der Übertragung von 150 Serienproduktionsartikeln nach Werkschließung des Lieferanten für KTM (Jul 2022 — Jan 2024).

• Lean- und Prozessberatung für einen Schweizer Hersteller von Elektrokomponenten bei Von Roll Schweiz AG (Jun 2018 — Nov 2018).

• Laufende Backoffice-Unterstützung und Prozessoptimierung für eine private Schmerztherapie- & TCM-Praxis inklusive Anästhesie-Protokollen, Website-Einrichtung, Digitalisierung und Prozessoptimierung (Mai 2018 — Mai 2025).

• Stellvertretender Werksleiter für Innenausstattungsteile in Ungarn mit Fokus auf Stabilisierung, Werkzeugoptimierung, Personalabbau und Abbau von Rückständen bei MAO Automotive GmbH & Co (Feb 2018 — Jun 2018).

• Start-up-Beratung und Coaching für eine private Schmerztherapie- & TCM-Praxis inklusive Konzept, Businessplan, Finanzierung, Bau, Einrichtung und SOP-Implementierung (Mai 2017 — Apr 2018).

• Programmmanager für kritische Lieferanten DAG BR238 Türverkleidung mit Lieferantenqualifizierung, Bemusterung, PPAP/EMPB-Tracking und Prozessfreigaben bei Megatech Industries Deutschland GmbH (Jul 2016 — Okt 2017).

• Interim-COO und stellvertretender Werksleiter in einem Automobilzulieferer für Aluminiumprofilverarbeitung mit 350 Mitarbeitern und 80 Mio. € Umsatz, Leitung der Expansion in der Slowakei bei PWG Profilrollen-Werkzeugbau GmbH (Sep 2015 — Mai 2016).

• Leitung eines Programms zur Arbeits- und Materialeffizienz in der Dachhimmelproduktion mit Fokus auf Prozess-, Material-, Arbeits- und Lieferantenkostensenkung bei Motus Headliner GmbH (Jan 2015 — Aug 2015).

• Leitung des Entwicklungsprogramms für Innenverkleidungen DAG C292 inklusive Launch-Phase vor Ort in MS & AL bei Toyota Boshoku America (Sep 2012 — Jan 2015).

• Leitung des Kostenreduzierungsteams für DAG C218 Türverkleidungen bei Toyota Boshoku Europe NV (Mär 2012 — Aug 2012).

• Beratung zur Sonnenblenden-Entwicklung für das Projektteam in der Türkei inklusive Optimierung, Marktanalyse und Design-Reviews bei MARTUR FOMPAK (Jan 2012 — Dez 2014).

• Leitung der Übertragung von Spritzgießwerkzeugen zu neuen Lieferanten inklusive Bemusterung, Montageversuchen und PPAP/EMPB-Koordination bei Toyota Boshoku Europe NV (Jan 2012 — Aug 2012).

• Programmmanager für BMW-Sonnenblenden der L7-Plattform mit Produktionsübertragung und Neuentwicklung der F30-Sonnenblende bei Magna (Jul 2010 — Dez 2011).

• Bewertet und analysiert ein kamerabasiertes Verkehrslicht- und Verkehrsschild-Erkennungssystem in verschiedenen auf LLM basierenden autonomen Fahrsystemen (LMDrive, BEVDriver)
• Implementiert eine VLM-basierte Einheit zur Generierung von Verkehrshinweisen für ein geschlossenes autonomes Fahrsystem, die den Fahrer bei unvorhergesehenen Vorfällen warnt
• Entwickelt einen eigenständigen, LLM-basierten lokalen Chatbot mit Llama, DeepSeek und Qwen inklusive MLflow-Evaluierungsframework

• Weiterbildung zu Snowflake und Google Looker
• Beschäftigung mit LLMs: lokale Modelle (Llama, Mistral, Gemma, Phi, Qwen, DeepSeek, Bitnet, Flux, Whisper), OpenAI API, Frontends (ollama, openwebui, loacalai)
• Inferenzmethoden: llama.cpp, vLLM, transformer
• Quantisierung, Benchmarking, Prompting
• LLM Agents (Tool/Function Calling, LangChain, LangGraph, MCP)
• Themen Attention, Reasoning, Chain of Thoughts, RAG, GraphRAG, mlflow
• Cloud Hosted: ChatGPT, Claude, Gemini

• Hybride semantische und schlüsselwortbasierte Suche sowie LLM-basierte Anforderungs­extraktion aus Konversationsanfragen entwickelt, die Suchgenauigkeit um 85 % gesteigert, Suchen ohne Treffer um 70 % und die Suchzeit um 60 % reduziert.
• Produktionsreife API mit Monitoring-Dashboards für über 100.000 Produkte bereitgestellt, Antwortzeiten unter 2 s gehalten und die Zeit von Suche bis Kauf um 40 % verkürzt.
• Technologien: Python, BGE-M3, Qwen2.5, FastAPI, Qdrant, Meilisearch, Docker, Prometheus, vLLM.

• Leitung der technischen Umsetzung mehrerer KI-Produkte für Unternehmen, einschließlich der Definition der Softwarearchitektur, der Leitung verteilter Entwicklungsteams aus ML- und Software-Ingenieuren sowie der Koordination der Umsetzung mit Führungskräften.
• Entwicklung und Umsetzung von 5+ produktionsreifen KI-Produkten in den Bereichen Maschinelle Übersetzung, Sprach-KI, Dokumenten-KI, Conversational AI und KI-Qualitätsbewertung.
• Aufbau einer mehrsprachigen Plattform für maschinelle Übersetzung mit über 550 produktionsreifen Modellen zur automatisierten Übersetzung von Dokumenten und Geschäftsinhalten in mehr als 40 Sprachen.
• Aufbau produktionsreifer Conversational-AI-Plattformen unter Verwendung selbst gehosteter Large Language Models (Qwen) mit RAG-Pipelines, Prompt Engineering, Tool Calling und sicheren Enterprise-Deployments für interne Wissensassistenten und kundenorientierte Chatbots.
• Entwicklung von KI-Orchestrierungsframeworks zur dynamischen Auswahl von Foundation Models sowie zur Optimierung von Qualität, Latenz, Robustheit und Kosten produktiver KI-Systeme.
• Entwicklung automatisierter Evaluierungs- und Monitoring-Pipelines zur kontinuierlichen Qualitätsbewertung von Conversational-AI-Systemen, Sprach-KI und Large Language Models.