Large Language Model Experten in Stuttgart

• Ausgangssituation: Wachsender Bedarf an datenschutzkonformen KI-Lösungen für Mandanten im KRITIS- und Mittelstandsumfeld, die sensible Medieninhalte (Audio, Video, Dokumente) analysieren müssen, ohne Daten an Public-Cloud-LLMs weiterzugeben.

• Aufgabe: Konzeption, Aufbau und sicherer Betrieb einer vollständig self-hosted AI-Infrastruktur inklusive eigenentwickelter Digital-Management-Plattform zur automatisierten Medienanalyse.

• Maßnahme: Architektur und Implementierung einer Multi-Tier-Plattform auf gehärteter Proxmox-Infrastruktur mit Frontend (Nuxt 3, Vue 3, TypeScript, Tailwind 4), Backend (Laravel 13, PHP 8.4, Sanctum), Datenhaltung (PostgreSQL 16, MongoDB 7), Caching/Queuing (Redis 7, Laravel Queue), AI-Worker (Python 3.11, Whisper, DeepFace, Librosa), Scheduling (Laravel Scheduler/Cron) und lokalen LLMs (Gemma, DeepSeek, Qwen, Mistral, LLaMA, Phi) über OpenWebUI mit segmentiertem Netzwerkzugriff, API-Hardening und Audit-Logging nach BSI-Empfehlungen.

• Ergebnis: Vollständig DSGVO-konforme, on-premises betriebene AI-Plattform ohne Datenabfluss an Dritte.

• Aufgabe: Gesamtverantwortung als externer Head of Cyber Security / CISO-as-a-Service für Konzeption, Implementierung und kontinuierliche Verbesserung von ISMS nach ISO 27001, BSI-Grundschutz und NIS2.

• Maßnahme: Aufbau und Steuerung von Cyber Defense Centern (CDC) mit SOC-Operations, Integration von SIEM-Lösungen (Splunk, Graylog), Etablierung eines Risk-Based Vulnerability Managements (Qualys, Nessus, OpenVAS) und Durchführung regelmäßiger Infrastruktur-, Applikations- und physischer Penetrationstests.

• Ergebnis: Audit-Ready ISMS bei mehreren Mandanten und Reduktion kritischer Schwachstellen um 60 % innerhalb von 90 Tagen.

• Aufgabe: Konzeption und Durchführung von NIS2-Assessments und operative Umsetzungsfahrpläne für KRITIS-Betreiber.

• Maßnahme: Entwicklung eines Online-Assessment-Tools zur automatisierten Ermittlung individueller Schwächeprofile, operative Umsetzung von ISMS-Optimierung, Penetrationstests, Awareness-Programmen und GRC-Suite-Implementierung sowie C-Level-Präsentationen.

• Ergebnis: Beschleunigung des Beratungsprozesses um 50 % und erfolgreiche NIS2-Konformitätsvorbereitung mehrerer Mandanten.

• Aufgabe: Incident Commander für Krisenreaktion, Forensik und Business Recovery bei Ransomware-Angriffen und APT-Kampagnen.

• Maßnahme: Koordination mit LKA und BKA, forensische Analysen (OSForensics, Wireshark, Kali Linux), Umsetzung von Disaster-Recovery- und BCM-Strategien, Entwicklung von Reaktionsstrategien bei BTC-Erpressung.

• Ergebnis: 100 % Wiederherstellungsrate innerhalb definierter RTO-Fenster und nachhaltige Post-Incident-Sicherheitsarchitekturen.

• Maßnahme: Planung, Aufbau und Betrieb einer gehärteten Multi-VM-Infrastruktur (Proxmox, 15+ VMs) mit Web- und Mailservern, Graylog, OPNsense-Firewalls, CRM/ERP und LLM-Instanzen, Netzwerksegmentierung, DDoS-Mitigation, automatisiertem Patch-Management und Backup-Strategien.

• Ergebnis: > 99,5 % Verfügbarkeit über 20+ Jahre und null Kompromittierungen.

• Maßnahme: Konzeption koordinierter Phishing-Kampagnen in fünf Härtegraden, abgeleitete E-Learnings und Webinare im PDCA-Zyklus, Aufbau und Leitung von Red- und Blue-Teams.

• Ergebnis: Reduktion der Phishing-Klickrate von 35 % auf unter 5 % innerhalb von drei Kampagnenzyklen.

Entwurf und Entwicklung einer KI-gestützten Automatisierungsplattform mit n8n, um Social-Media-Nischen zu analysieren, Zielgruppen zu erkennen und die Generierung von Marketingstrategien zu automatisieren. Die Lösung kombinierte KI-Agenten, Workflow-Orchestrierung und Datenanalyse, um Rechercheprozesse zu automatisieren und datenbasierte Erkenntnisse zu erzeugen.

• Komplexe Automatisierungs-Workflows mit n8n entworfen und umgesetzt
• KI-gestützte Analyse-Agenten für Markt- und Zielgruppenrecherche entwickelt
• Mehrere APIs und KI-Services in automatisierte Workflows integriert
• Automatisierte Analyse-Pipelines für Markt, Wettbewerber und Zielgruppen aufgebaut
• Large Language Models (LLMs) für Zusammenfassung, Klassifizierung und Priorisierung von Informationen genutzt
• Plattform mit Docker containerisiert und bereitgestellt

Technologien: n8n, AI Agents, OpenAI APIs, Prompt Engineering, LLMs, Docker, Linux, REST APIs, Webhooks

• Go-to-Market und Kampagnen für SAP-nahe Softwarelösungen von der Positionierung bis zur Umsetzung.
• Buyer’s Guides und Vertriebstools,
• DACH und UK inklusive Tracking und Attribution,
• Auswahl und Steuerung der Performance-Agentur,
• Inhaltskonzept Messeauftritt DSAG-Jahreskongress,
• fachliche Qualitätssicherung SAP-naher Inhalte.
• Evaluierung zweier Marketingplattformen als Entscheidungsvorlage der Geschäftsführung, Umsetzung in HubSpot.

• Latence gegründet, um Runtime-Sicherheitsmuster aus HALO als einsatzbereites Produkt zu kommerzialisieren.
• End-to-End-Aufbau als einziger technischer Gründer mit Open-Source-Stack im NVIDIA-Ökosystem.
• TRACE entwickelt: Echtzeit-Sicherheitslayer für Knowledge Agents und RAG-Pipelines mit Groundedness-Bewertung, Prompt-Angriffserkennung, DSGVO-konformer Datenlöschung, Kontextkompression und revisionssicheren Traces.
• vLLM Factory entwickelt: Produktions-Inferenz-Framework auf Basis von vLLM mit maßgeschneiderten Triton-Kernels und 12 paritätsgeprüften Plugin-Modellen, das bis zu 11,7× höhere Durchsatzraten als vanilla PyTorch erzielt.
• ColSearch entwickelt: Single-Node-Multi-Vektor-Late-Interaction-Retrieval-Engine mit Rust SIMD und fusionierten CUDA-Kernels, erreicht das 3,12× FastPlaid-Geomean-QPS auf BEIR-8 und verfügt über eine 1,58-Bit-quantisierte Lane, die 6,4× kleiner ist als FP16.
• llm-opt entwickelt: Forschungsframework zur LLM-Kompression mit hierarchischer Relevanzbewertung, strukturiertem Pruning, Tabu-Suche und Wissensdistillation.

Zwei sich ergänzende Stränge: (a) Aufbau eigener AI-Produkte und Open-Source-Tools unter der Marke Neckarshore AI, Schwerpunkt KI-gestützte Multi-Agent-Entwicklungsprozesse und Dokumentations-Automatisierung; (b) freiberufliche Unterstützung von Industrie-, Logistik- und Finanzunternehmen in IT-nahen Transformationsprojekten.

Aktuelles Produkt-Portfolio unter der Marke Neckarshore AI:

• Omnopsis Documenter — AI-gestützte Dokumentations-Engine: generiert Compliance-, Technik- und Release-Dokumentation aus Git, Jira und Confluence. 500+ automatisierte Tests, 100+ API-Endpoints, RBAC, Monitoring-Stack.
• TrustScope — Trust-Analyse für öffentliche GitHub-Repos: deterministischer Drei-Säulen-Report (Security & Supply Chain, Governance, Community) auf Basis des OpenSSF Scorecard, mit konstruktiven Fix-Vorschlägen statt eines einzelnen irreführenden Scores.
• md-viewer — Dependency-freier Markdown-Viewer für macOS (Finder Quick Action) und Web, Split-View aus gerendertem Dokument und Rohtext.
• Obsidian Vault Autopilot — KI-gestützte Vault-Automatisierung für Obsidian × Claude Code: sortiert Inbox, benennt Notizen, reichert Frontmatter an.
• Phonesis Voice Bank — Stimmenarchiv für Familien, Hospize und Kulturarchive (geführte Aufnahmen, vererbbares Archiv, optionales Voice-Cloning); aktuell in der GDPR-Compliance-Phase (Art. 9, biometrische Daten).
• Multi-Agent-Entwicklungsprozess — 12+ spezialisierte Agenten (Architektur, Implementation, Security, Refactoring, Marketing) mit strukturiertem Handoff-Protokoll, paralleler Ausführung und automatisierter Qualitätssicherung — trägt die gesamte Produktentwicklung.
• Freiberufliche Beratung: Technical Product Ownership für Produktions-, Logistik- und Compliance-/AML-Systeme; Steuerung internationaler Rollouts inkl. Test-, Cutover- und Change-Management.

Stack: NestJS, TypeScript, PostgreSQL, Redis/BullMQ, Next.js, Claude Code (Opus), Docker, GitHub Actions, Vercel

• Beratung, Konzeption, Analyse, Softwarearchitektur und Entwicklung
• Konzeption, Entwicklung, Gestaltung sowie Implementierung einer Pimcore Umgebung und Anbindung mehrerer externer API-Systeme in Kubernetes Umgebung sowie diverse PIM- und ERP-Systeme
• Technologien: Unix Umgebung, Konzeption, Entwicklung Symfony, Konzeption, PHP 8+, Softwarearchitektur, MySQL/SQL, Shell Script, Git Dev Ops Aufgaben, KI-Coding Unterstützung, Pimcore 12, Shopware 6
• Team Größe: >10 Personen

• Lead Product Owner für 4 Entwicklungsteams
• Leitung und Koordination eines Greenfield-Projekts mit paralleler Implementierung der Kernkomponenten durch unabhängige Teams; Management von Abhängigkeiten und Ressourcen
• Etablierung eines Data-Lakehouse-Ansatzes inklusive Analyse des Mengengerüsts und zukünftiger Anforderungen im Rahmen einer Cloud-Migration (Best-of-Breed-Ansatz)
• Verantwortung für die Anforderungsanalyse, Auswahl und Pilotierung eines LIMS/ELN-Systems, unterstützt durch Beratung der Entscheidungsträger und Management der externen Dienstleister
• Einführung und Management eines OpenWeb UI- und Azure Open AI-basierten RAG-Systems zur Unterstützung der Wissensgewinnung und datengetriebenen Analysen
• Einrichtung, Konfiguration und Management von Jira-Projekten sowie Entwicklung projektbezogener Workflows und Automatisierungen
• Implementierung klassischer Scrum-Prozesse mit allen Zeremonien und Übernahme der Scrum-Master-Rolle für alle beteiligten Teams
• Unterstützung bei der Personalauswahl durch Interviews und Assessments aus der Perspektive eines Product Owners
• Entscheidungsfindung in zentralen Architekturfragen, darunter die Auswahl der Plattform für das Data-Lakehouse (Databricks) und die strategische Integration von LIMS und Analyseplattformen

• Entwicklung mehrerer Webauftritte für Kleinunternehmen (6)
• SEO/SEM
• Unternehmensberatung (Einführung von ERP-Systemen (Fresha / MS Dynamics))
• KI-Tooling, Prompting & Programmierung
• GenAI-Chatbot (GPT 4.0)
• Erstellung eines Telefonagenten (NLP-Services, Twilio, Python, Azure Services)
• Python-Programmierung, Berichterstellung und Dashboard-Erstellung
• Stakeholdermanagement und Beratung im gesamten Projektlebenszyklus

Weiterbildung und Zertifizierungen im KI-Bereich:

• Microsoft Azure AI Fundamentals
• Develop Gen AI Solutions with Azure Open AI Service
• Designing and Implementing a Microsoft Azure AI Solution
• Artificial Intelligence for the Business Professional
• Generative AI for the Business Professional
• Certified Artificial Intelligence Practitioner

• Product Owner und Executive Sponsor für einen KI-Assistenten, der mit einer Wissensbasis aus früheren Lösungsentwürfen, RFP-Dokumenten und aktueller Produktdokumentation trainiert wurde
• Von fast 100 globalen Architekten und Ingenieuren im Pre-Sales und Post-Sales eingesetzt
• Erstellt vollständige Lösungsdokumente mit anforderungsgesteuerten Architekturentscheidungen, Lösungsübersicht, Diagrammen, Stücklisten, Rollen- und Verantwortlichkeitsmatrix
• Technologien: KI, LLM, Chatbot, RAG, Agentische KI, Vektordatenbanken, Public Cloud

• Beratung zu Lean, Logistik, KI-Anwendungen und Prozessoptimierung
• Maßgeschneiderte Konzepte für Digitalisierung, Veränderung & Transformation
• Adaptive Schulungen und Workshops für Fach- und Führungskräfte

• Bewertet und analysiert ein kamerabasiertes Verkehrslicht- und Verkehrsschild-Erkennungssystem in verschiedenen auf LLM basierenden autonomen Fahrsystemen (LMDrive, BEVDriver)
• Implementiert eine VLM-basierte Einheit zur Generierung von Verkehrshinweisen für ein geschlossenes autonomes Fahrsystem, die den Fahrer bei unvorhergesehenen Vorfällen warnt
• Entwickelt einen eigenständigen, LLM-basierten lokalen Chatbot mit Llama, DeepSeek und Qwen inklusive MLflow-Evaluierungsframework

• Entwicklung von NLP und LLM-POCs für den Einsatz in Produktionsunternehmen
• Anwendung fortschrittlicher Machine-Learning-Algorithmen zur Analyse von Produktionsdaten und zur Entwicklung maßgeschneiderter Datenpipelines für die Qualitätssicherung
• Konzeption und Leitung des IAO-Grundlagenseminars zu KI in der Industrie, inklusive praxisorientierter Trainingsmodule

• NocTime Zeiterfassung, Werkstattplaner, Mahlzeitenlieferservice-App
• LLM-basierter Chat-Bot zur Steuerung des NocTime-Zeiterfassungssystems per Spracheingabe
• Neu- und Weiterentwicklung von Kundenlösungen basierend auf dem Noctica SAS App-Framework
• Technologien: Java 17, Spring Boot, JPA, Hibernate, JavaScript, TypeScript, Angular 20, Angular Material, React, C#, Docker, Bash, Git, GitLab, RedMine, SQL, DBeaver, MariaDB, PostgreSQL, Python, Tensorflow, Ollama, diverse LLMs

• Geschäftsanforderungen analysiert und mit Stakeholdern zusammengearbeitet, um diese in technische Anforderungen und User Stories zu übersetzen, die die Entwicklung von KI-Lösungen in agilen Scrum-Teams leiteten.
• Skalierbare LLM-Lösungen entworfen, entwickelt und bereitgestellt, die digitale Transformationsinitiativen unterstützen, mit Fokus auf Kundenanforderungen und ergebnisorientierter Bereitstellung.
• Retrieval-Augmented Generation (RAG)-Pipelines mit Vektordatenbanken implementiert und so Wissensdienste zur Unterstützung von Geschäftsentscheidungen verbessert.
• Eng mit bereichsübergreifenden Teams, darunter Data Scientists, Produktmanager und Business-Analysten, zusammengearbeitet, um die Ausrichtung der KI-Lösungen an den Unternehmenszielen sicherzustellen.
• Ganzheitlichen Kundensupport bereitgestellt, um eine reibungslose Einführung zu ermöglichen und operative Probleme in Produktionsumgebungen zu beheben.
• Kontinuierliche Fortbildungen und Schulungen absolviert, um Beratungs- und agiles Projektmanagement-Know-how zu verbessern.
• Testfälle geplant und erstellt sowie manuelle und automatisierte Tests mit Selenium und Jira für Unternehmensanwendungen durchgeführt.
• Testergebnisse dokumentiert und mit Entwicklungsteams zusammengearbeitet, um eine hochwertige Softwareauslieferung sicherzustellen.