Open WebUI Experten in Deutschland

• Ausgangssituation: Wachsender Bedarf an datenschutzkonformen KI-Lösungen für Mandanten im KRITIS- und Mittelstandsumfeld, die sensible Medieninhalte (Audio, Video, Dokumente) analysieren müssen, ohne Daten an Public-Cloud-LLMs weiterzugeben.

• Aufgabe: Konzeption, Aufbau und sicherer Betrieb einer vollständig self-hosted AI-Infrastruktur inklusive eigenentwickelter Digital-Management-Plattform zur automatisierten Medienanalyse.

• Maßnahme: Architektur und Implementierung einer Multi-Tier-Plattform auf gehärteter Proxmox-Infrastruktur mit Frontend (Nuxt 3, Vue 3, TypeScript, Tailwind 4), Backend (Laravel 13, PHP 8.4, Sanctum), Datenhaltung (PostgreSQL 16, MongoDB 7), Caching/Queuing (Redis 7, Laravel Queue), AI-Worker (Python 3.11, Whisper, DeepFace, Librosa), Scheduling (Laravel Scheduler/Cron) und lokalen LLMs (Gemma, DeepSeek, Qwen, Mistral, LLaMA, Phi) über OpenWebUI mit segmentiertem Netzwerkzugriff, API-Hardening und Audit-Logging nach BSI-Empfehlungen.

• Ergebnis: Vollständig DSGVO-konforme, on-premises betriebene AI-Plattform ohne Datenabfluss an Dritte.

• Aufgabe: Gesamtverantwortung als externer Head of Cyber Security / CISO-as-a-Service für Konzeption, Implementierung und kontinuierliche Verbesserung von ISMS nach ISO 27001, BSI-Grundschutz und NIS2.

• Maßnahme: Aufbau und Steuerung von Cyber Defense Centern (CDC) mit SOC-Operations, Integration von SIEM-Lösungen (Splunk, Graylog), Etablierung eines Risk-Based Vulnerability Managements (Qualys, Nessus, OpenVAS) und Durchführung regelmäßiger Infrastruktur-, Applikations- und physischer Penetrationstests.

• Ergebnis: Audit-Ready ISMS bei mehreren Mandanten und Reduktion kritischer Schwachstellen um 60 % innerhalb von 90 Tagen.

• Aufgabe: Konzeption und Durchführung von NIS2-Assessments und operative Umsetzungsfahrpläne für KRITIS-Betreiber.

• Maßnahme: Entwicklung eines Online-Assessment-Tools zur automatisierten Ermittlung individueller Schwächeprofile, operative Umsetzung von ISMS-Optimierung, Penetrationstests, Awareness-Programmen und GRC-Suite-Implementierung sowie C-Level-Präsentationen.

• Ergebnis: Beschleunigung des Beratungsprozesses um 50 % und erfolgreiche NIS2-Konformitätsvorbereitung mehrerer Mandanten.

• Aufgabe: Incident Commander für Krisenreaktion, Forensik und Business Recovery bei Ransomware-Angriffen und APT-Kampagnen.

• Maßnahme: Koordination mit LKA und BKA, forensische Analysen (OSForensics, Wireshark, Kali Linux), Umsetzung von Disaster-Recovery- und BCM-Strategien, Entwicklung von Reaktionsstrategien bei BTC-Erpressung.

• Ergebnis: 100 % Wiederherstellungsrate innerhalb definierter RTO-Fenster und nachhaltige Post-Incident-Sicherheitsarchitekturen.

• Maßnahme: Planung, Aufbau und Betrieb einer gehärteten Multi-VM-Infrastruktur (Proxmox, 15+ VMs) mit Web- und Mailservern, Graylog, OPNsense-Firewalls, CRM/ERP und LLM-Instanzen, Netzwerksegmentierung, DDoS-Mitigation, automatisiertem Patch-Management und Backup-Strategien.

• Ergebnis: > 99,5 % Verfügbarkeit über 20+ Jahre und null Kompromittierungen.

• Maßnahme: Konzeption koordinierter Phishing-Kampagnen in fünf Härtegraden, abgeleitete E-Learnings und Webinare im PDCA-Zyklus, Aufbau und Leitung von Red- und Blue-Teams.

• Ergebnis: Reduktion der Phishing-Klickrate von 35 % auf unter 5 % innerhalb von drei Kampagnenzyklen.

Technologien: n8n, Notion, OpenAI API, Claude, MS AI Foundry, MS CoPilot Studio, MS CoPilot, LLM, Node.js, Vercel, LangGraph, PostgreSQL, pgEdge, pgvector, Docker, LangChain, Ollama, Open WebUI

• Kontinuierliche Bewertung und Priorisierung eigener Automatisierungsbedarfe
• ~20 KI-Agenten im aktiven Einsatz: Recherche, Content-Pipelines, Dokumentenverarbeitung
• 5 n8n-Workflows für automatisierte Daten- und Prozesssteuerung
• Architektur nach denselben Prinzipien wie in Kundenprojekten: State Management, event-driven Orchestrierung, API-Integration
• Kontinuierlicher Betrieb und Weiterentwicklung

• Agierte als technischer Berater zur Optimierung von mehrschichtigen Ensemble-Modellen, die ResNet, CNN-BiGRU-Attention und XGBoost kombinierten.
• Begleitete die Umsetzung eines Logistic-Regression-Meta-Lerners zur Lösung von Klassenungleichgewichten und erreichte 92,86 % Genauigkeit und einen AUC-Wert von 0,9644 auf den Datensätzen PTB-XL und Chapman-Shaoxing.

KI-gestützte Automatisierung der Einkäufe auf einer Druckerei-Website mit Auswahl von Lieferzeiten, Bestelloptionen, Bestellung, Bezahlung und Hochladen der Druckdaten aus der Lumiz-Cloud.

• Bereitstellung von Kubernetes-Infrastruktur auf Azure, GCP oder Bare-Metal beim Hosting-Provider
• Konzeption und Implementierung von REST- und GraphQL-APIs
• Cloud-Governance (Kosten, Compliance, Sicherheit)
• Infrastructure-as-Code und CI/CD als Code (Terraform, Ansible)
• Container-Technologien (Docker, Helm)
• Pflege und Verbesserung von CI/CD-Pipelines (GitLab CI, GitHub Actions), Argo CD
• Deployment, Skalierung und Monitoring von Microservices
• Verteiltes Event-Streaming (Kafka)
• Message Broker RabbitMQ, MQTT
• Softwareentwicklung von Grund auf oder Weiterentwicklung bestehender Projekte mit PHP, Python, Go, C# und Bash

• Vram.run: Rust, TypeScript, HF-Inference-API mit 19 Anbietern, über 220 Hardware-Konfigurationen und mehr als 30 Cloud-GPUs. Suche nach einem Modell, um zu sehen, welche API-Anbieter es bereitstellen, welche GPUs es lokal ausführen können (und wie schnell) und was ein Cloud-Leasing kosten würde. Oder suche nach deiner Hardware und finde die passende. Beinhaltet auch ein Rust-CLI.
• Psychotron: JavaScript, Web Audio API, AudioWorklet, Canvas 2D. Frontend für Flash-Fiction-Hörbuch mit einer Web-Audio-DSP-Kette mit Pitch-Shifting, 12-stimmigem Chor, Flanger, 13-Band-EQ und Convolver-Hall. Beinhaltet eine 2D-Canvas-Effekt-Morphing-Engine und einen synchronisierten Teleprompter.
• RecentWork: Swift, macOS, FSEvents, launchd. macOS-Daemon, der Projektverzeichnisse überwacht und einen flachen Ordner mit Symlinks auf kürzlich geänderte Dateien pflegt. Über Homebrew installierbar.
• Mini-llm: Bash, macOS, launchd, Ollama, llama.cpp, MLX, Open WebUI. Ein einzelner Befehl verwandelt einen Mac Mini in einen Headless-KI-Server.
• ThatSlop: JavaScript. Chrome-/Firefox-Erweiterung zur KI-Inhaltserkennung auf LinkedIn und Twitter.
• Smux: Bash, tmux. Benutzerfreundlicher tmux-Wrapper, der über Homebrew installierbar ist.
• Learn Rust Course: Rust. Kurs zum Rust-Speichermodell für C++-Programmierer, geschrieben aus der Erfahrung des Übergangs von C++ zu Rust bei Irreducible.

• Pionierarbeit in personalisierter KI: Entwicklung eines Frameworks für “Interaktiven Content” (RAG) für Romane, Vorlesungen, Expert Debriefings
• Erfolgreicher Start von Einbug, dem Pantopia-Chatbot, mit medialer Resonanz (SZ-Interview)
• Realisierung überzeugender KI-Persönlichkeiten: KI-Blog ([link]) 100% personalisierte Lernumgebungen, Perry Rhodan u. a.

• Pilotierung lokaler KI-Umgebungen zur Erkundung lokaler KI-Einsatzmöglichkeiten und Erkundung cloudbasierter KI-Lösungen
• Bewertung von KI-Tools und Techniken
• Einsatz lokaler KI-Tools mit eigener Datenhoheit
• Durchführung von Prompt Engineering
• Erstellung von Beispiel-Umgebungen für Speech-to-Text, Text-to-Speech, Text-to-Image, Text-to-Video und Image-to-Video

Tools: Grok, Perplexity, ChatGPT, Elevenlabs, Github, Ollama, HuggingFace, Open WebUI, Faster Whisper, LibreTranslate, WSL, Docker Desktop, Shotcut, Audacity, Sound eXchange, Ffmpeg, Coqui TTS, Pinokio, Stable Diffusion Web UI, ComfyUI, OWL, Void Editor

• Konzeption und Umsetzung einer Lösung zur Verwaltung von Projekten, Materialien und Assets im Außeneinsatz
• Entwicklung einer modernen Webanwendung (Blazor) für Projektleiter zur Bestandsführung, Bedarfsplanung und Erteilung von Transport- und Bestellaufträgen
• Bereitstellung einer mobilen MAUI-App für Außendienstmitarbeiter zur Ein- und Auslagerung von Material mit standortbezogener Fotodokumentation in Kartenansichten
• Steuerung der gesamten Business-Logik über eine zentrale API
• Technologie-Stack: .NET 9, C#, WebAPI, Blazor, MAUI, REST, PostgreSQL, Entity Framework, Docker, Docker Compose, Ansible, Keycloak, Aspire
• Identity- und Access-Management mit Keycloak
• Deployment und Orchestrierung über Docker Compose und Ansible
• Projekt in Erprobungs- und Evaluierungsphase

• Weiterbildung zu Snowflake und Google Looker
• Beschäftigung mit LLMs: lokale Modelle (Llama, Mistral, Gemma, Phi, Qwen, DeepSeek, Bitnet, Flux, Whisper), OpenAI API, Frontends (ollama, openwebui, loacalai)
• Inferenzmethoden: llama.cpp, vLLM, transformer
• Quantisierung, Benchmarking, Prompting
• LLM Agents (Tool/Function Calling, LangChain, LangGraph, MCP)
• Themen Attention, Reasoning, Chain of Thoughts, RAG, GraphRAG, mlflow
• Cloud Hosted: ChatGPT, Claude, Gemini