PEFT Experten in Deutschland

Predapp ist ein Sovereign-AI- und Infrastrukturunternehmen, das KI-Systeme baut, die Organisationen auf ihre Weise besitzen, kontrollieren und einsetzen können, mit voller Datensouveränität. Seit 2015 als CTO und Investor leite ich die Entwicklung der Sovereign AI Platform sowie eine Beratungspraxis für KI-Strategie für Unternehmen, Fractional-CTO-Einsätze und technische Due Diligence für VCs, PE und Family Offices.

• Die Sovereign AI Platform von Grund auf entwickelt und die technische Vision, das Infrastruktursdesign und die Engineering-Roadmap verantwortet; aktuell im Einsatz in einem europäischen Krankenhaus, bei einem Automobilkunden in Deutschland und bei zwei US-Startups, mit aktiven kommerziellen Gesprächen mit zwei führenden europäischen Hosting-Anbietern
• Dubai Health Authority (DHA / Nabidh): KI-Symptomprüfer und Triage-System für die nationale Initiative 'Doctor for Every Citizen' unter HH Sheikh Mohammed bin Rashid Al Maktoum entworfen und trainiert
• Emirates Airlines: KI-Agent für Bodenpersonal entworfen und ausgerollt, um Schulungen zu beschleunigen, die Bearbeitung von Problemen zu verbessern und die Kosten für die temporäre Belegschaft zu senken
• Erklärbares KI-Triage-System entwickelt und an der Universität Heidelberg und im Famagusta Hospital (Zypern) pilotiert; Wartezeiten für Patienten um bis zu 15 % reduziert (Validierung läuft)
• Produktionsplanungs-Engine für ein US-Industrial-AI-Startup gebaut: RL + Monte-Carlo-Tree-Search, wodurch die Planung von Stunden auf Sekunden verkürzt wurde
• Semantische Suchmaschinen mit RAG + Wissensgraphen entworfen und geleitet; Agentic-Text-to-SQL-Lösung für Citizen Data Scientists entwickelt
• Beratung zu KI-Strategie und Reifegradanalysen für Unternehmenskunden, einschließlich Architektur-Reviews, Reifegradbewertungen und Entwicklung von KI-Roadmaps

• Agierte als technischer Berater zur Optimierung von mehrschichtigen Ensemble-Modellen, die ResNet, CNN-BiGRU-Attention und XGBoost kombinierten.
• Begleitete die Umsetzung eines Logistic-Regression-Meta-Lerners zur Lösung von Klassenungleichgewichten und erreichte 92,86 % Genauigkeit und einen AUC-Wert von 0,9644 auf den Datensätzen PTB-XL und Chapman-Shaoxing.

• Entwarf und implementierte ein produktionsreifes GraphRAG-System mit Neo4j, Embeddings und Multi-Hop-Reasoning für über 120 Mio. Knoten, steigerte die Antwortgenauigkeit um 32 %, verringerte Halluzinationen um 41 % und senkte die Abruflatenz um 38 %.
• Entwickelte und implementierte ein Enterprise-Agenten-Ökosystem mit Model Context Protocol (MCP), das interne APIs, Datenbanken und Services als sichere aufrufbare Tools für autonome Workflows und Systemintegration bereitstellt.
• Konzipierte und setzte einen produktionsreifen E-Mail-Routing-Agenten auf LLM-Basis mit Microsoft Graph API, MCP und Azure OpenAI ein, erreichte 96 % Routing-Genauigkeit, senkte den manuellen Triage-Aufwand um 65 % und verkürzte die Reaktionszeiten von 18 Stunden auf unter 4 Stunden.
• Implementierte Selbstkorrektur-Pipelines für autonome Agenten mittels iterativer Feedback-Schleifen (Ralph Wiggum), was eine zuverlässige Fehlererkennung, automatisierte Behebung und produktionssichere Ausführung ermöglicht.
• Entwickelte eine multimodale semantische Suchplattform mit multimodalen LLMs und Vektor-Embeddings, ermöglichte semantisches Auffinden von über 250 000 Bild- und Video-Assets und verbesserte die Trefferquote um 48 %.

• Klärung von Projektzielen, Umfang und fachlichem Zielbild für den Aufbau der KI-basierten Wissensdatenbank.
• Ableitung der initialen Architektur- und Umsetzungsstrategie für den Zasterbot-Chatbot inklusive Abgrenzung von minimal funktionsfähigem Produkt (MVP) und Ausbaustufen.
• Erarbeitung eines fachlichen Zielbilds für den Aufbau einer strukturierten Wissensdatenbank und die Integration eines zukünftigen Chatbots.
• Ableitung und Priorisierung von Anwendungsfällen für die Informationsbeschaffung und -bereitstellung durch den Chatbot.
• Modellierung von Datenstrukturen und -flüssen zur effektiven Organisation der Wissensdatenbank auf der Base44-Plattform.
• Konzeption und Implementierung der Datenmodelle zur Speicherung und Verknüpfung relevanter Informationen.
• Entwicklung von Prozessen zur Extraktion, Analyse und Aufbereitung von Rohdaten für die Wissensdatenbank.
• Sicherstellung der Datenkonsistenz und -qualität als Grundlage für den zukünftigen Chatbot.
• Planung der Integration großer Sprachmodelle (LLMs) und Retrieval-Augmented Generation (RAG) für präzise und kontextbezogene Antworten.
• Implementierung von Funktionen zur Analyse und Darstellung von Daten aus der Wissensdatenbank.
• Nutzung der Base44-Plattform mit JSON-Schema-basierten Entitäten und flexiblem Berechtigungskonzept.
• Implementierung von Deno-Funktionen für Backend-Logik, Eventverarbeitung und Anbindung externer APIs.
• Integration von OpenAI-Services für die initiale Datenanalyse.

• Führung eines funktionsübergreifenden Squads aus Backend-, Frontend- und ML/Data-Ingenieuren, dabei Balance zwischen operativer Mitarbeit (Architektur, Codierung, Reviews) und Teamführung (Mentoring, Priorisierung des Backlogs, Abstimmung der Roadmap).
• Konzeption und Umsetzung von ML-basierten Such- und Discovery-Funktionen, darunter Learning-to-Rank (LTR), Query Expansion und Vektor-Suche, was die Relevanz der Ergebnisse und das Nutzerengagement verbesserte.
• Implementierung von Personalisierungs- und Empfehlungspipelines unter Nutzung von Verhaltensdaten und Segmentierung zur Steigerung der Kundenbindung und des Customer Lifetime Value.
• Einführung datengetriebener Prozesse und Aufbau von A/B-Testing- und Experimentier-Workflows (Odyn, MLflow), um die Auswirkungen von Features auf CTR, NDCG und Conversion zu messen.
• Verantwortung für die Architektur und Roadmap des Squads, Modernisierung der Services durch cloud-native Microservices und eventgesteuerte Systeme (AWS, Pulumi, Terraform) zur Steigerung von Skalierbarkeit und Zuverlässigkeit.
• Erhöhte Zuverlässigkeit und operative Exzellenz durch Einführung von Observability (Prometheus, Grafana, NewRelic), Incident Management und Post-Mortems, die Ausfallzeiten bei Kundendienstleistungen verringerten.
• Mentoring und Unterstützung von Ingenieuren, Förderung des technischen Wachstums, der Zusammenarbeit und einer kundenorientierten Denkweise durch regelmäßiges Feedback, Coaching und Code Reviews.
• Enge Zusammenarbeit mit Produktmanagern, Forschern und Stakeholdern, um Kunden-Insights in technische Lösungen umzusetzen, die Discovery, Engagement und Kundenbindung verbesserten.
• Untersuchung von Anwendungsfällen für Generative AI/LLM (GPT-4, LangChain, RAG), Prototyping intelligenter Assistenten und personalisierter Discovery-Workflows, die die Nutzerzufriedenheit steigerten.
• Erzielt greifbare Ergebnisse: Steigerung des Engagements durch Personalisierung, Beitrag zum Umsatzwachstum und Verringerung von Vorfällen durch Integration von Resilienz und Observability.

• Erforsche und entwickle Modelle für Chatbots, NLP und LLMs (z. B. Llama, Qwen, OpenAI)
• Verbessere Chatbots mit RAG und In-Context-Learning
• Überwachtes Fine-Tuning (PEFT, LoRA) mit Huggingface oder Unsloth
• Fortgeschrittene Trainingsmethoden: Test-Time-Training, (transduktives) aktives Lernen, verstärkendes Lernen
• High-Throughput-Serving mit vLLM
• Anwenden von Embedding-Modellen (z. B. SentenceTransformers), Ähnlichkeits-/Vektorsuche, Vektor-Datenbanken oder Ranking (z. B. LlamaIndex, Faiss, LangChain)
• Generieren und Filtern synthetischer Daten, Clustering
• Erkennen von Halluzinationen
• Evaluierung von Chatbot-Modellen (ROUGE, BLEU, F1-Score, Recall, Precision)
• Visualisierung von Experimenten (matplotlib)

• Leitung multidisziplinärer Engineering-Teams bei der Entwicklung von Medizinprodukten der nächsten Generation
• Steuerung von Forschungsinitiativen und Technologieroadmaps zur Bereitstellung innovativer medizinischer Lösungen
• Überwachung des F&E-Budgets und Management von Projektportfolios von der Konzepterstellung bis zur Markteinführung
• Aufbau strategischer Kooperationen mit klinischen Partnern zur Technologievalidierung

• Bewertete 45+ KI-Anwendungsfälle und entwickelte einen Priorisierungsrahmen für die interne KI-Roadmap von Siemens.
• Testete interne Tools wie DRIM, SiemensGPT und Microsoft Copilot; präsentierte die Evaluationsergebnisse den Stakeholdern.
• Identifizierte Leistungslücken und steigerte die Tool-Akzeptanz um 65 %.
• Unterstützte Wissensaustauschinitiativen zu KI, leitete Onboarding-Sessions für Tools und verbesserte die KI-Kompetenz im Team.
• Arbeitete mit den Abteilungen Engineering, Einkauf und Digital zusammen, um Feedback zu Tools zu sammeln und die Strategie abzustimmen.

• Fokus auf die Erforschung der Schnittstelle zwischen Musik und KI.

• Leiter der technischen Gesamtintegration NSC (National Secure Cloud, Projekt mit ca. 60 Mitarbeitern).

• Technische Integration aller Subprojekte in ein Produkt, Definition von Schnittstellen, Basiskomponenten einer Cloud inklusive Hardware, technische Architektur der Basis IABG.

• Entwicklung einer Cloud-Management-Plattform (CMP), die in der Lage ist, Private/Mixed-Cloud beliebiger Komplexität anhand einer textuellen Beschreibung per Klick oder interaktiv zu erstellen.

• CMP beinhaltet auch den kompletten Zyklus des Hardware-Managements.

• Als Basis werden Kubernetes, OpenStack und Hadoop eingesetzt.

• Die Managementschicht umfasst Harbor, Gitea, Longhorn, Keycloak, Rancher und Jenkins, die automatisch konfiguriert sind.

• Private Cloud kann beliebige Workloads von Kunden ausführen, darunter die komplette Hadoop-Schicht mit HDFS, Spark, MapReduce, Mesos, HBase und ca. 20 weiteren ML-/DL-Technologien.

• Hadoop-Worker-Cluster können auch ohne Kubernetes auf Bare Metal oder Standardhardware automatisch installiert werden.

• OpenStack mit Nova, Neutron, Ironic, Swift, Cinder und Ceph.

• Entwicklung einer Java-Anwendung Rudi: SOAP, REST, Container, DB.

• Technologien: Kubernetes (K3s, Rke2, Minikube, Harbor, Gitea, Jenkins, Longhorn, Keycloak, Rancher), OpenStack (Nova, Neutron, Keystone, Swift, Ceph, Cinder, Sahara, Magnum, Kayobe, Kolla, Bigrost, Ironic), Hadoop (HDFS, Ambari, Solr, Livy, Ranger, YARN, Tez, HBase, Kafka, Hive, Zookeeper, MapReduce, Spark, Oozie, Flink), Virtualisierung (Kubernetes (K3s), VMware, Oracle), Skripting (Ansible, Puppet, Juju, Shell, Groovy, Gradle, Maven).