Large Language Model Experten in Stuttgart

• Task Engineering: Bewertung von Coding Agents.
• Asset-Erstellung: Aufbau realistischer Aufgabenumgebungen mit Datensätzen und Dateien auf Deutsch. Entscheidend ist dabei, dass diese Assets in der Zielsprache bleiben, um den Umgang mit mehreren Sprachen wirklich zu messen.
• Prompting & Translation: Finden von Fehlerstellen, an denen die KI nicht funktioniert, auf Deutsch.
• Implementierung & Verifikation: Unterstützung bei der Entwicklung robuster Lösungen (Referenzimplementierungen) und Schreiben sehr zuverlässiger, deterministischer Verifizierungs-Skripte (mit rubric-basierten Bewertungen nur dann, wenn es unbedingt nötig ist).
• Kalibrierung & Ausführung: Auswertung von Ausführungslogs und Kalibrierung des Aufgabenschwierigkeitsgrads (Easy bis Very Hard) mit Standard-Terminal-Bench-Run-Konfigurationen gegen verschiedene Modellstufen (Haiku, Opus).
• Qualitätssicherung: Mitarbeit in einem strengen, 4-stufigen menschlichen Qualitätskontrollprozess (Erstellung, menschliche Prüfung, Kalibrierungsprüfung und Audit) zusammen mit automatisierten LLM-basierten Checks, um Fairness, grammatikalische Korrektheit und Benchmark-Integrität sicherzustellen.
• Linguistische Prüfung: Überprüfung von KI-Benchmark-Aufgaben in Hindi, Arabisch, Japanisch, Chinesisch, Tschechisch und Türkisch.

Methodik: Agiles Projektmanagement

Ziel: Digitalisierung und Umsetzung der Anforderungen der CCD2 innerhalb der Consumer-Finance-Systeme.

Analyse, Identifikation und Bewertung von Fachanforderungen sowie deren Überführung in technische Umsetzungsanforderungen. Koordinierung und Statusreporting der unterschiedlichen Anforderungen. Dokumentation und Prozessmanagement anhand von UML und BPMN. Funktionsübergreifendes Stakeholder-Management, UAT-Tests, Datenmanagement, API-Architekturmanagement.

Tools: Jira, Confluence, Visual Code, Sql Developer, Enterprise Architect, MsOffice, Bruno, ALM, Camunda, Figma

Entwurf und Entwicklung einer KI-gestützten Automatisierungsplattform mit n8n, um Social-Media-Nischen zu analysieren, Zielgruppen zu erkennen und die Generierung von Marketingstrategien zu automatisieren. Die Lösung kombinierte KI-Agenten, Workflow-Orchestrierung und Datenanalyse, um Rechercheprozesse zu automatisieren und datenbasierte Erkenntnisse zu erzeugen.

• Komplexe Automatisierungs-Workflows mit n8n entworfen und umgesetzt
• KI-gestützte Analyse-Agenten für Markt- und Zielgruppenrecherche entwickelt
• Mehrere APIs und KI-Services in automatisierte Workflows integriert
• Automatisierte Analyse-Pipelines für Markt, Wettbewerber und Zielgruppen aufgebaut
• Large Language Models (LLMs) für Zusammenfassung, Klassifizierung und Priorisierung von Informationen genutzt
• Plattform mit Docker containerisiert und bereitgestellt

Technologien: n8n, AI Agents, OpenAI APIs, Prompt Engineering, LLMs, Docker, Linux, REST APIs, Webhooks

• Go-to-Market und Kampagnen für SAP-nahe Softwarelösungen von der Positionierung bis zur Umsetzung.
• Buyer’s Guides und Vertriebstools,
• DACH und UK inklusive Tracking und Attribution,
• Auswahl und Steuerung der Performance-Agentur,
• Inhaltskonzept Messeauftritt DSAG-Jahreskongress,
• fachliche Qualitätssicherung SAP-naher Inhalte.
• Evaluierung zweier Marketingplattformen als Entscheidungsvorlage der Geschäftsführung, Umsetzung in HubSpot.

Zwei sich ergänzende Stränge: (a) Aufbau eigener AI-Produkte und Open-Source-Tools unter der Marke Neckarshore AI, Schwerpunkt KI-gestützte Multi-Agent-Entwicklungsprozesse und Dokumentations-Automatisierung; (b) freiberufliche Unterstützung von Industrie-, Logistik- und Finanzunternehmen in IT-nahen Transformationsprojekten.

Aktuelles Produkt-Portfolio unter der Marke Neckarshore AI:

• Omnopsis Documenter — AI-gestützte Dokumentations-Engine: generiert Compliance-, Technik- und Release-Dokumentation aus Git, Jira und Confluence. 500+ automatisierte Tests, 100+ API-Endpoints, RBAC, Monitoring-Stack.
• TrustScope — Trust-Analyse für öffentliche GitHub-Repos: deterministischer Drei-Säulen-Report (Security & Supply Chain, Governance, Community) auf Basis des OpenSSF Scorecard, mit konstruktiven Fix-Vorschlägen statt eines einzelnen irreführenden Scores.
• md-viewer — Dependency-freier Markdown-Viewer für macOS (Finder Quick Action) und Web, Split-View aus gerendertem Dokument und Rohtext.
• Obsidian Vault Autopilot — KI-gestützte Vault-Automatisierung für Obsidian × Claude Code: sortiert Inbox, benennt Notizen, reichert Frontmatter an.
• Phonesis Voice Bank — Stimmenarchiv für Familien, Hospize und Kulturarchive (geführte Aufnahmen, vererbbares Archiv, optionales Voice-Cloning); aktuell in der GDPR-Compliance-Phase (Art. 9, biometrische Daten).
• Multi-Agent-Entwicklungsprozess — 12+ spezialisierte Agenten (Architektur, Implementation, Security, Refactoring, Marketing) mit strukturiertem Handoff-Protokoll, paralleler Ausführung und automatisierter Qualitätssicherung — trägt die gesamte Produktentwicklung.
• Freiberufliche Beratung: Technical Product Ownership für Produktions-, Logistik- und Compliance-/AML-Systeme; Steuerung internationaler Rollouts inkl. Test-, Cutover- und Change-Management.

Stack: NestJS, TypeScript, PostgreSQL, Redis/BullMQ, Next.js, Claude Code (Opus), Docker, GitHub Actions, Vercel

• Ausgangssituation: Wachsender Bedarf an datenschutzkonformen KI-Lösungen für Mandanten im KRITIS- und Mittelstandsumfeld, die sensible Medieninhalte (Audio, Video, Dokumente) analysieren müssen, ohne Daten an Public-Cloud-LLMs weiterzugeben.

• Aufgabe: Konzeption, Aufbau und sicherer Betrieb einer vollständig self-hosted AI-Infrastruktur inklusive eigenentwickelter Digital-Management-Plattform zur automatisierten Medienanalyse.

• Maßnahme: Architektur und Implementierung einer Multi-Tier-Plattform auf gehärteter Proxmox-Infrastruktur mit Frontend (Nuxt 3, Vue 3, TypeScript, Tailwind 4), Backend (Laravel 13, PHP 8.4, Sanctum), Datenhaltung (PostgreSQL 16, MongoDB 7), Caching/Queuing (Redis 7, Laravel Queue), AI-Worker (Python 3.11, Whisper, DeepFace, Librosa), Scheduling (Laravel Scheduler/Cron) und lokalen LLMs (Gemma, DeepSeek, Qwen, Mistral, LLaMA, Phi) über OpenWebUI mit segmentiertem Netzwerkzugriff, API-Hardening und Audit-Logging nach BSI-Empfehlungen.

• Ergebnis: Vollständig DSGVO-konforme, on-premises betriebene AI-Plattform ohne Datenabfluss an Dritte.

• Aufgabe: Gesamtverantwortung als externer Head of Cyber Security / CISO-as-a-Service für Konzeption, Implementierung und kontinuierliche Verbesserung von ISMS nach ISO 27001, BSI-Grundschutz und NIS2.

• Maßnahme: Aufbau und Steuerung von Cyber Defense Centern (CDC) mit SOC-Operations, Integration von SIEM-Lösungen (Splunk, Graylog), Etablierung eines Risk-Based Vulnerability Managements (Qualys, Nessus, OpenVAS) und Durchführung regelmäßiger Infrastruktur-, Applikations- und physischer Penetrationstests.

• Ergebnis: Audit-Ready ISMS bei mehreren Mandanten und Reduktion kritischer Schwachstellen um 60 % innerhalb von 90 Tagen.

• Aufgabe: Konzeption und Durchführung von NIS2-Assessments und operative Umsetzungsfahrpläne für KRITIS-Betreiber.

• Maßnahme: Entwicklung eines Online-Assessment-Tools zur automatisierten Ermittlung individueller Schwächeprofile, operative Umsetzung von ISMS-Optimierung, Penetrationstests, Awareness-Programmen und GRC-Suite-Implementierung sowie C-Level-Präsentationen.

• Ergebnis: Beschleunigung des Beratungsprozesses um 50 % und erfolgreiche NIS2-Konformitätsvorbereitung mehrerer Mandanten.

• Aufgabe: Incident Commander für Krisenreaktion, Forensik und Business Recovery bei Ransomware-Angriffen und APT-Kampagnen.

• Maßnahme: Koordination mit LKA und BKA, forensische Analysen (OSForensics, Wireshark, Kali Linux), Umsetzung von Disaster-Recovery- und BCM-Strategien, Entwicklung von Reaktionsstrategien bei BTC-Erpressung.

• Ergebnis: 100 % Wiederherstellungsrate innerhalb definierter RTO-Fenster und nachhaltige Post-Incident-Sicherheitsarchitekturen.

• Maßnahme: Planung, Aufbau und Betrieb einer gehärteten Multi-VM-Infrastruktur (Proxmox, 15+ VMs) mit Web- und Mailservern, Graylog, OPNsense-Firewalls, CRM/ERP und LLM-Instanzen, Netzwerksegmentierung, DDoS-Mitigation, automatisiertem Patch-Management und Backup-Strategien.

• Ergebnis: > 99,5 % Verfügbarkeit über 20+ Jahre und null Kompromittierungen.

• Maßnahme: Konzeption koordinierter Phishing-Kampagnen in fünf Härtegraden, abgeleitete E-Learnings und Webinare im PDCA-Zyklus, Aufbau und Leitung von Red- und Blue-Teams.

• Ergebnis: Reduktion der Phishing-Klickrate von 35 % auf unter 5 % innerhalb von drei Kampagnenzyklen.

• Entwicklung von NLP und LLM-POCs für den Einsatz in Produktionsunternehmen
• Anwendung fortschrittlicher Machine-Learning-Algorithmen zur Analyse von Produktionsdaten und zur Entwicklung maßgeschneiderter Datenpipelines für die Qualitätssicherung
• Konzeption und Leitung des IAO-Grundlagenseminars zu KI in der Industrie, inklusive praxisorientierter Trainingsmodule

• Entwicklung und Bereitstellung eines Deep-Learning-Modells zur automatisierten Erkennung von Schlüsselpunkten in Lichtverteilungen von Scheinwerfern.
• Vorbereitung und Verarbeitung von Datensätzen sowie Auswahl von VGG16 nach dem Benchmarking von CNN-Architekturen im Hinblick auf das beste Verhältnis zwischen Genauigkeit und Effizienz.
• Bereitstellung einer Flask-REST-API, containerisiert mit Docker, und Integration der Lösung in ein bestehendes internes System zur automatisierten und effizienten Bewertung von Scheinwerferdesigns.

• Lead Product Owner für 4 Entwicklungsteams
• Leitung und Koordination eines Greenfield-Projekts mit paralleler Implementierung der Kernkomponenten durch unabhängige Teams; Management von Abhängigkeiten und Ressourcen
• Etablierung eines Data-Lakehouse-Ansatzes inklusive Analyse des Mengengerüsts und zukünftiger Anforderungen im Rahmen einer Cloud-Migration (Best-of-Breed-Ansatz)
• Verantwortung für die Anforderungsanalyse, Auswahl und Pilotierung eines LIMS/ELN-Systems, unterstützt durch Beratung der Entscheidungsträger und Management der externen Dienstleister
• Einführung und Management eines OpenWeb UI- und Azure Open AI-basierten RAG-Systems zur Unterstützung der Wissensgewinnung und datengetriebenen Analysen
• Einrichtung, Konfiguration und Management von Jira-Projekten sowie Entwicklung projektbezogener Workflows und Automatisierungen
• Implementierung klassischer Scrum-Prozesse mit allen Zeremonien und Übernahme der Scrum-Master-Rolle für alle beteiligten Teams
• Unterstützung bei der Personalauswahl durch Interviews und Assessments aus der Perspektive eines Product Owners
• Entscheidungsfindung in zentralen Architekturfragen, darunter die Auswahl der Plattform für das Data-Lakehouse (Databricks) und die strategische Integration von LIMS und Analyseplattformen

• Latence gegründet, um Runtime-Sicherheitsmuster aus HALO als einsatzbereites Produkt zu kommerzialisieren.
• End-to-End-Aufbau als einziger technischer Gründer mit Open-Source-Stack im NVIDIA-Ökosystem.
• TRACE entwickelt: Echtzeit-Sicherheitslayer für Knowledge Agents und RAG-Pipelines mit Groundedness-Bewertung, Prompt-Angriffserkennung, DSGVO-konformer Datenlöschung, Kontextkompression und revisionssicheren Traces.
• vLLM Factory entwickelt: Produktions-Inferenz-Framework auf Basis von vLLM mit maßgeschneiderten Triton-Kernels und 12 paritätsgeprüften Plugin-Modellen, das bis zu 11,7× höhere Durchsatzraten als vanilla PyTorch erzielt.
• ColSearch entwickelt: Single-Node-Multi-Vektor-Late-Interaction-Retrieval-Engine mit Rust SIMD und fusionierten CUDA-Kernels, erreicht das 3,12× FastPlaid-Geomean-QPS auf BEIR-8 und verfügt über eine 1,58-Bit-quantisierte Lane, die 6,4× kleiner ist als FP16.
• llm-opt entwickelt: Forschungsframework zur LLM-Kompression mit hierarchischer Relevanzbewertung, strukturiertem Pruning, Tabu-Suche und Wissensdistillation.

• Product Owner und Executive Sponsor für einen KI-Assistenten, der mit einer Wissensbasis aus früheren Lösungsentwürfen, RFP-Dokumenten und aktueller Produktdokumentation trainiert wurde
• Von fast 100 globalen Architekten und Ingenieuren im Pre-Sales und Post-Sales eingesetzt
• Erstellt vollständige Lösungsdokumente mit anforderungsgesteuerten Architekturentscheidungen, Lösungsübersicht, Diagrammen, Stücklisten, Rollen- und Verantwortlichkeitsmatrix
• Technologien: KI, LLM, Chatbot, RAG, Agentische KI, Vektordatenbanken, Public Cloud

• Unterricht in deutscher Literatur und Linguistik

• Beratung zu Lean, Logistik, KI-Anwendungen und Prozessoptimierung
• Maßgeschneiderte Konzepte für Digitalisierung, Veränderung & Transformation
• Adaptive Schulungen und Workshops für Fach- und Führungskräfte

• Bewertet und analysiert ein kamerabasiertes Verkehrslicht- und Verkehrsschild-Erkennungssystem in verschiedenen auf LLM basierenden autonomen Fahrsystemen (LMDrive, BEVDriver)
• Implementiert eine VLM-basierte Einheit zur Generierung von Verkehrshinweisen für ein geschlossenes autonomes Fahrsystem, die den Fahrer bei unvorhergesehenen Vorfällen warnt
• Entwickelt einen eigenständigen, LLM-basierten lokalen Chatbot mit Llama, DeepSeek und Qwen inklusive MLflow-Evaluierungsframework