Vector Database Experten in München

• Erstellte ein multi-agentisches System, unterstützt von einem Wissensgraphen, um das Verfassen von Forschungsarbeiten zu automatisieren
• Setzte mehrere Experten (OpenAI-Modelle) ein, die beim Verfassen zusammenarbeiteten
• Extrahierte nützliche Informationen aus dem Wissensgraphen
• Technologien: LangChain, LangGraph, Smolagents, LlamaIndex, dspy
• Infrastruktur: Terraform und GitHub Actions (CI/CD) auf AWS
• Stellte die erste Anwendung als Streamlit-App bereit

• Governed Multi-Agent-Orchestrierung für regulierte, in der EU ansässige Unternehmen – selbst hostbar, EU-AI-Act- und DSGVO-konform („by design“), BYOM (eigene Modelle/GPU).
• Zwei-Gate-Governance: Agenten-Deliberation + verpflichtende menschliche Freigabe, vollständiger signierter Audit-Trail; Graduated-Autonomy-Modell („intern → autonom pro Skill“).
• Verifizierter Wissensgraph („Company Brain“) mit Quellenbeleg pro Antwort; eigenes Orchestrierungs-Framework (Virtual Team Framework).
• Branchenlösungen für Financial Services: Compliance-Monitoring, Rechnungs- und Vertragsprüfung; praktische Entwicklung mit LLMs (u.a. Anthropic/Claude), agentischen Workflows, RAG.
• Aufbau der governance-orientierten Multi-Agenten-Plattform TeamIntel (siehe KI-Referenzprojekte).

KI-gestützte Automatisierung der Einkäufe auf einer Druckerei-Website mit Auswahl von Lieferzeiten, Bestelloptionen, Bestellung, Bezahlung und Hochladen der Druckdaten aus der Lumiz-Cloud.

• Integration der LangChain-Middleware zwischen AEM und SAP-PIM-System
• Entwicklung einer FastAPI-Schnittstelle für die Systemkommunikation
• Implementierung von Vektor-Embeddings für die semantische Produktsuche
• Evaluation von LLM-Modellen (Vertex AI/Gemini, LM Studio, Hugging Face, OpenAI) für Produktanalysen
• Entwicklung einer AEM-Komponente zur Anzeige von Produktempfehlungen und Integration der Empfehlungs-API in den AEM-Authoring-Prozess
• Konzeption und Implementierung einer Pinecone-Vektordatenbank für Produkt-Embeddings
• Optimierung von Antwortzeiten und Caching-Strategien
• Evaluation von Vertex AI Studio für LLM-Tests und Prompt-Workflows
• Umsetzung sicherer API-Routing- und Zugriffskontrollen für KI-Komponenten per FastAPI und Gateway-Validierung

• Absolvierte ein intensives AI-Engineering-Programm mit Fokus auf LLM-Bewertung, Retrieval, Agenten-Orchestrierung und multimodalen Workflows.
• Entwarf Retrieval-Pipelines mit Dokumentenaufnahme, semantischer Suche und zitatbewussten Ausgaben unter Verwendung von LangChain und ChromaDB.
• Erstellte agentenbasierte Workflows auf Basis von LangGraph mit Statusverwaltung, Klärungsschleifen und Freigabeschritten mit Mensch-in-der-Schleife.
• Setzte Prompt-Engineering und Evaluationsmuster ein, einschließlich Scoring-Logik und Guardrails, um die Ausgabequalität und Zuverlässigkeit zu verbessern.
• Arbeitete intensiv mit Python, FastAPI, OpenAI-APIs, LangChain, LangGraph und ChromaDB in End-to-End-Implementierungen.

• Architektur und Aufbau eines GenAI-basierten Tools zur automatisierten Asset-Erstellung für Social-Media-Kampagnen mit Nano Banana und Python. Es verarbeitet Kampagnenbriefing, Zielgruppe und zwei Produkte als Eingabe, generiert optimierte Prompts für Bild- und Textproduktion und nutzt Funktionen für Textpositionierung, ansprechende Overlays, Größenanpassung und strukturiertes Hochladen in AWS S3.
• Entwicklung und Aufbau einer Multi-Agenten-News-Intelligence-Plattform mit spezialisierten Rollen, darunter Retriever-Agenten (Tavily-Web-Scraping), Synthese-Agenten und Claude als Kurator/Orchestrator, und Entwurf autonomer Agentenzusammenarbeitsmuster mithilfe von LangChain und RAG.
• Aufbau eines autonomen Kundendienst-Agenten mit n8n und LLMs, der End-to-End-Support-Automatisierung mit nachvollziehbarer Argumentation, Governance-Kontrollen und skalierbarer Workflow-Orchestrierung mittels Python und Vektordatenbanken bietet.
• Entwicklung einer Finanzvalidierungs-Engine mit ML-gestützter Anomalieerkennung zur Plausibilitätsprüfung von Rechnungen, Compliance-Automatisierung und Risikominderung unter Verwendung von TensorFlow und SQL.
• Erstellung einer Kosteneinsparungsanwendung mittels OCR, KI, Pandas und NumPy für Datenanalyse, um Optimierungspotenziale zu identifizieren.

• Mitgegründet ein KI-Startup mit Fokus auf die Entwicklung produktionsreifer LLM-Anwendungen und Agentensysteme
• Entworfen und implementiert Multi-Agent-KI-Workflows für Finanz- und Handelsanwendungen
• Entwickelt LLM-basierte Copilot-Architekturen für Portfolioanalyse, Handelsverwaltung und personalisiertes Nutzercoaching
• Entwickelt On-Device- und Edge-Inferenzanwendungen, optimierte Modelle für geringe Latenz, Datenschutz und ressourcenbeschränkte Umgebungen
• Geleitet Architekturentscheidungen zur Modellauswahl, Orchestrierung, Zustandsverwaltung und Bereitstellung

• Erforsche und entwickle Modelle für Chatbots, NLP und LLMs (z. B. Llama, Qwen, OpenAI)
• Verbessere Chatbots mit RAG und In-Context-Learning
• Überwachtes Fine-Tuning (PEFT, LoRA) mit Huggingface oder Unsloth
• Fortgeschrittene Trainingsmethoden: Test-Time-Training, (transduktives) aktives Lernen, verstärkendes Lernen
• High-Throughput-Serving mit vLLM
• Anwenden von Embedding-Modellen (z. B. SentenceTransformers), Ähnlichkeits-/Vektorsuche, Vektor-Datenbanken oder Ranking (z. B. LlamaIndex, Faiss, LangChain)
• Generieren und Filtern synthetischer Daten, Clustering
• Erkennen von Halluzinationen
• Evaluierung von Chatbot-Modellen (ROUGE, BLEU, F1-Score, Recall, Precision)
• Visualisierung von Experimenten (matplotlib)

• Konzipierte und implementierte eine Enterprise-KI-Agentenplattform auf Basis einer Retrieval Augmented Generation (RAG)-Architektur, um Einblicke in klinische Daten zu verbessern.
• Errichtete robuste CI/CD-Pipelines für LLM-Anwendungen mit CDK und Jenkins und verkürzte dadurch die Bereitstellungszeiten deutlich.
• Führte umfassende Observability-Lösungen ein, die die Zuverlässigkeit der Agenten in pharmazeutischen Umgebungen steigerten.
• Entwickelte skalierbare KI-Workflows mit fortschrittlicher Orchestrierung, die das Kontextmanagement für Unternehmensdatenquellen optimierten.
• Technologien: KI-Agenten (LangChain, LangGraph, Bedrock, Smolagents, Streamlit); LLM-Betrieb (Tracing, Testing, Evaluation, LangSmith, LangFuse); Infrastructure-as-Code (AWS CDK, Terraform, Typescript, Jenkins); Vektoren, Einbettungen, RAG (OpenSearch, pgvector, PDF-Extraktion)

• Führte Stakeholder-Interviews und Marktanalysen durch, um Herausforderungen bei der sicheren Nutzung genetischer Daten zu identifizieren, und übersetzte die Erkenntnisse in ein Produktkonzept und einen KI-Graph-RAG-Prototyp.

• Leiter der technischen Gesamtintegration NSC (National Secure Cloud, Projekt mit ca. 60 Mitarbeitern).

• Technische Integration aller Subprojekte in ein Produkt, Definition von Schnittstellen, Basiskomponenten einer Cloud inklusive Hardware, technische Architektur der Basis IABG.

• Entwicklung einer Cloud-Management-Plattform (CMP), die in der Lage ist, Private/Mixed-Cloud beliebiger Komplexität anhand einer textuellen Beschreibung per Klick oder interaktiv zu erstellen.

• CMP beinhaltet auch den kompletten Zyklus des Hardware-Managements.

• Als Basis werden Kubernetes, OpenStack und Hadoop eingesetzt.

• Die Managementschicht umfasst Harbor, Gitea, Longhorn, Keycloak, Rancher und Jenkins, die automatisch konfiguriert sind.

• Private Cloud kann beliebige Workloads von Kunden ausführen, darunter die komplette Hadoop-Schicht mit HDFS, Spark, MapReduce, Mesos, HBase und ca. 20 weiteren ML-/DL-Technologien.

• Hadoop-Worker-Cluster können auch ohne Kubernetes auf Bare Metal oder Standardhardware automatisch installiert werden.

• OpenStack mit Nova, Neutron, Ironic, Swift, Cinder und Ceph.

• Entwicklung einer Java-Anwendung Rudi: SOAP, REST, Container, DB.

• Technologien: Kubernetes (K3s, Rke2, Minikube, Harbor, Gitea, Jenkins, Longhorn, Keycloak, Rancher), OpenStack (Nova, Neutron, Keystone, Swift, Ceph, Cinder, Sahara, Magnum, Kayobe, Kolla, Bigrost, Ironic), Hadoop (HDFS, Ambari, Solr, Livy, Ranger, YARN, Tez, HBase, Kafka, Hive, Zookeeper, MapReduce, Spark, Oozie, Flink), Virtualisierung (Kubernetes (K3s), VMware, Oracle), Skripting (Ansible, Puppet, Juju, Shell, Groovy, Gradle, Maven).

• Entwarf und entwickelte End-to-End-Web- und Mobilprodukte als Full-Stack-Entwickler, arbeitete mit Python/FastAPI-Backends, Datenbanken und React/React Native-Frontends.
• Erstellte LLM- und agentenbasierte KI-Systeme mit LangChain, LangGraph, CrewAI, Langfuse und Vektordatenbanken, mit Fokus auf Zuverlässigkeit, Beobachtbarkeit und saubere Abstraktionen.
• Entwickelte einen Text-zu-SQL-Assistenten für das Marketingteam, der nicht-technischen Nutzern ermöglicht, natürliche Sprachabfragen an ein großes Datenset aus dem Einzelhandel zu stellen und klare Analysen sowie Kampagnen-Erkenntnisse zurückliefert.
• Trug dazu bei, ad-hoc-SQL/Reporting-Anfragen an die Entwicklung um 60 % zu reduzieren und die Zeit bis zur Auswertung gängiger Marketinganfragen von Stunden auf Minuten zu verkürzen.
• Erstellte eine Full-Stack-Mobile-App, in der Apple Health-Daten verarbeitet und in ein LLM eingespeist werden, um personalisiertes, auf VO2max basierendes Gesundheitscoaching und Erkenntnisse zu generieren. Verantwortete die Architektur von Frontend über Backend bis hin zur Authentifizierung.