FAISS-Experten in Deutschland

Remote-Freiberuflerrolle mit Fokus auf Agentic-AI-Strategie, sicheren Anwendungsmustern und wiederverwendbaren agentischen Workflows für eine Regierungsbehörde.

• Entwicklung und Umsetzung einer Open-Source-Agentic-AI-Strategie für eine Regierungsbehörde mit Fokus auf DSGVO, Sicherheit und selbst gehostete Lösungen
• Entwicklung wiederverwendbarer agentischer Workflows und Mini-Anwendungen, die es nicht-technischen Mitarbeitenden ermöglichen, Geschäftsprobleme selbstständig zu lösen
• Umsetzung interner Geschäftsanwendungen mit Single Sign On (SSO) und Azure-PostgreSQL-Integration auf Hetzner-Linux-Servern
• Umsetzung von neun Mini-Anwendungen mit Single Sign On (SSO) und Azure-PostgreSQL-Integration auf Hetzner-Linux-Servern
• Techstack: Python, Nextjs, Typescript, Streamlit, Anthropic SDK (Claude), Azure, Linux Ubuntu, PostgreSQL, MS SQL, Angular, Authentik

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

• TrendReel, Produktions-LLM-Agenten- und RAG-System (Python, LangChain, OpenAI, Groq/Llama 3, Claude, FastAPI, Kubernetes, PostgreSQL).
• Entwarf und baute ein produktives mehrstufiges LLM-Agentensystem: einen Script-Generierungs-Agenten mit einer plattformbezogenen Psychologie-Datenbank, 7 viralen Narrativ-Frameworks und strukturierter Qualitätsbewertung, der in Echtzeit je nach Ausgabemetriken zwischen Claude- und Groq-Backends wechselte.
• Implementierte Multi-Provider-LLM-Routing (Claude primär, Groq/Llama 3 Fallback) mit Priority-Chain-Failover und qualitätsbasiertem Provider-Wechsel und erreichte dabei eine Senkung der Inferenzkosten um 95 %, während messbare Qualitätsgrenzen eingehalten wurden.
• Aufbau einer fortschrittlichen RAG-artigen Retrieval-Pipeline mit Wissensbasen pro Plattform, semantischem Content-Matching und strukturierter Ausgabeevaluation über 7 Entscheidungs-Frameworks, direkt vergleichbar mit kontextbasiertem Reasoning in Multi-Tenant-Enterprise-Dokumenten-Workflows.
• BrainyAI, adaptive KI-Lernplattform (Python, LangChain, Groq Llama 3.3-70B, OpenAI, Next.js, Supabase, Redis).
• Integrierte Groq Llama 3.3-70B mit einem auf Bildungsniveau abgestimmten Prompting, wobei Wortschatz-Tiefe, Zitierkomplexität und Denkstil dynamisch über vier Leistungsstufen von Lernenden angepasst wurden.
• Nexus Prime, Multi-Tenant-SaaS-Plattform für Marketing- und Wachstumsautomatisierung (25 Module, 99 Backend-Router, 153 Frontend-Dateien).
• Aufbau einer 25-Modul-, 99-Router-Multi-Tenant-SaaS-Plattform für Ad-Remix, Affiliates, WhatsApp-Inbox, E-Mail und Warenkorbwiederherstellung, die vier Abo-Stufen von $199 bis $1,999 pro Monat mit integrierter Stripe-, Paystack- und Flutterwave-Abrechnung bedient.
• KI-Videoüberwachungsplattform, Multi-Tenant-Edge- und Cloud-Computer-Vision-System derzeit aktiv im Kundengespräch.
• Entwarf eine Multi-Tenant-KI-Videoüberwachungsplattform, die Edge-YOLO26-Inferenz auf NVIDIA Jetson Orin NX Boxen mit einer zentralen GKE-Cloud-Schicht (Postgres, Pub/Sub, ClickHouse, R2, Keycloak) für Ereignisspeicherung, Dashboards, Alarme und Multi-Tenancy kombiniert.

Manufacturing-Intelligence-Plattform mit Enterprise-Workflows, RAG, Echtzeit-Funktionen für AI-Assistenten und Backend-Architektur über mehrere Repositories.

• Entwickelte und erweiterte produktive AI-/Backend-Services mit Django, DRF, FastAPI, GraphQL, Celery, PostgreSQL, MySQL, Redis und WebSockets über eine modulare Plattform mit mehreren Repositories.
• Mitgewirkt an ARIS V2, einem Echtzeit-AI-Assistenten für die Fertigung mit LangChain, LangGraph, MCP-Tool-Orchestrierung, Planungs-/Ausführungs-Workflows, OpenAI, AWS Bedrock, Qdrant sowie Retrieval auf Basis von Elasticsearch/OpenSearch.
• Unterstützte die Rollout-Erweiterung von ARIS V1 in 4 von 17 Kunden-Produktionswerken auf ARIS V2, das aktuell in 13 von 17 Werken aktiv ist, und steigerte so die reale Abdeckung auf mehr als 50 % der Kundenumgebung.
• Arbeitete an dokumentengestützter RAG-Funktionalität inklusive Ingestion, OCR, Chunking, Embeddings, Indexing, Retrieval, Reranking und geerdeter Antwortgenerierung für industrielle Workflows.

Stack: Python, Django, DRF, FastAPI, LangChain, LangGraph, GraphQL, Celery, WebSockets, OpenAI, AWS Bedrock, Qdrant, Elasticsearch/OpenSearch, PostgreSQL, MySQL, Redis, Docker.

• Die End-to-End-Auslieferung von Enterprise-Full-Stack-Webanwendungen geleitet, indem ich Anforderungsanalyse, Lösungsdesign, Frontend- und Backend-Entwicklung, Datenbankdesign, API-Integration, Code-Reviews, Teamkoordination, Agile Umsetzung, CI/CD-Deployments, Produktionssupport, Performance-Optimierung, Sicherheitsimplementierung und die Zusammenarbeit mit Stakeholdern gesteuert habe, um skalierbare, hochwertige Softwarelösungen zu liefern.

• Gesamtverantwortung für den Projektlebenszyklus von der Umfangsdefinition bis zum Abschluss
• Enge Zusammenarbeit mit Plattform-Teams, IT-Führungskräften und externen Dienstleistern
• Anwendung von SAFe-Prinzipien und strukturierte Sprint-Arbeit
• Erstellung eines Migrationsfahrplans mit klaren Meilensteinen
• Überwachung des Lifecycles: Onboarding, Repository-Migration, Replikation von Berechtigungen und Systemtests
• Visualisierung der Architektur mit PlantUML und Gliffy sowie Dokumentation in Confluence
• Regelmäßige Statusberichte und Durchführung von Wissenstransfer-Sessions

• Leitung der Integration eines maßgeschneiderten Transformer-basierten Encoders in die AFFGANwriting-Pipeline und Ersetzung der alten VGG19-Architektur, um reichhaltigere, hochqualitative Schreibstil-Repräsentationen zu gewinnen.
• Steigerung der Auswahlrate in Nutzerstudien um 40 %, was einen deutlichen Sprung in der wahrgenommenen Qualität und dem Realismus der generierten Handschriften im Vergleich zum Basismodell zeigte.
• Verbesserung der OCR-Leistung um 20 % durch Implementierung eines Teacher-Student-Frameworks, das ein TrOCR-Benchmarkmodell für ergänzende Trainingsabstimmung nutzte.

• KI- und Data-Science-Lösungen geliefert, darunter LLM-basierte Chatbots und Datenpipelines, wodurch die operative Effizienz verbessert wurde.
• An Produktfunktionen mitgearbeitet, messbare Wirkung erzielt und starke Kundenbeziehungen gepflegt.

• Entwickelte einen maßgeschneiderten KI-Chatbot für einen E-Commerce-Kunden mit GPT-4 und LangChain inklusive RAG, wodurch das Volumen der Support-Tickets um 45 % sank und die Antwortgenauigkeit auf 92 % stieg.
• Entwarf und stellte ein System zur intelligenten Dokumentenverarbeitung mit LlamaIndex, Pinecone und FastAPI für ein FinTech-Startup bereit, das semantische Suche über mehr als 100.000 Finanzdokumente ermöglicht.
• Entwickelte Multi-Agenten-KI-Workflows mit CrewAI und LangGraph für eine Marketingagentur, automatisierte Lead-Recherche, Inhaltserstellung und Kontaktaufnahme — und sparte so über 20 Stunden manueller Arbeit pro Woche.
• Erstellte KI-gestützte Automatisierungspipelines mit n8n, Make und Zapier, integriert in CRMs (GoHighLevel, HubSpot), wodurch für ein Immobilienunternehmen die manuelle Dateneingabe um 80 % reduziert wurde.
• Beriet mehrere Kunden im Prompt-Engineering und bei der Feinabstimmung von LLMs, um KI-Modellausgaben für den Kundenservice, die Inhaltserstellung und die Datenextraktion zu optimieren.
• Erstellte produktionsreife REST-APIs mit Python und FastAPI zur Bereitstellung von KI-Modellen auf AWS und GCP und bewältigte dabei über 10.000 tägliche Anfragen mit 99,9 % Verfügbarkeit.

• Agierte als technischer Berater zur Optimierung von mehrschichtigen Ensemble-Modellen, die ResNet, CNN-BiGRU-Attention und XGBoost kombinierten.
• Begleitete die Umsetzung eines Logistic-Regression-Meta-Lerners zur Lösung von Klassenungleichgewichten und erreichte 92,86 % Genauigkeit und einen AUC-Wert von 0,9644 auf den Datensätzen PTB-XL und Chapman-Shaoxing.

• Modelle für Chatbots, NLP und LLMs (z. B. Llama, Qwen, OpenAI) erforschen und entwickeln
• Chatbots mit RAG und In-Context Learning verbessern
• Supervised Fine-Tuning (PEFT, LoRA), Huggingface oder Unsloth
• Fortgeschrittene Trainingsmethoden: Test-Time Training, (transduktives) Active Learning, Reinforcement Learning
• Serving mit hohem Durchsatz mit vLLM
• Embedding-Modelle anwenden (z. B. SentenceTransformers), Similarity-/Vektorsuche oder Vektor-DB oder Ranking (z. B. LlamaIndex, Faiss, LangChain)
• Synthetische Daten erzeugen und filtern, Clustering
• Halluzinationen erkennen
• Chatbot-Modelle bewerten (Rouge, BLEU, F1-Score, Recall, Precision)
• Visualisierung von Experimenten (matplotlib)

• Integration der LangChain-Middleware zwischen AEM und SAP-PIM-System
• Entwicklung einer FastAPI-Schnittstelle für die Systemkommunikation
• Implementierung von Vektor-Embeddings für die semantische Produktsuche
• Evaluation von LLM-Modellen (Vertex AI/Gemini, LM Studio, Hugging Face, OpenAI) für Produktanalysen
• Entwicklung einer AEM-Komponente zur Anzeige von Produktempfehlungen und Integration der Empfehlungs-API in den AEM-Authoring-Prozess
• Konzeption und Implementierung einer Pinecone-Vektordatenbank für Produkt-Embeddings
• Optimierung von Antwortzeiten und Caching-Strategien
• Evaluation von Vertex AI Studio für LLM-Tests und Prompt-Workflows
• Umsetzung sicherer API-Routing- und Zugriffskontrollen für KI-Komponenten per FastAPI und Gateway-Validierung

• Pionierarbeit bei der ersten Enterprise-KI-SAP-Integration bei ALDI SÜD, Einführung KI-gesteuerter Automatisierung in einem der größten SAP S/4HANA-Programme im Einzelhandel, wodurch 50 % der manuellen Pre-Cycle-Validierungen entfallen sind und ein reproduzierbares Automatisierungs-Framework in 11 Ländern geschaffen wurde
• Verantwortlich für das gesamte SAP-Projekt-Lifecycle-Management für Implementierungen in SAP S/4HANA und Manhattan Systems, Unterstützung von über 7.300 ALDI SÜD-Filialen in Europa und Australien
• Hauptansprechpartner für C-Level-Stakeholder in 11 Ländern für strategische SAP-Transformationsprogramme
• Orchestrierung von Automatisierungs-, Performance- und Volumentests für kritische Releases mit 99,9 % SLA-Einhaltung während der umsatzstärksten Phasen
• Führung funktionsübergreifender internationaler Teams mit über 15 Spezialisten, Lieferung von Projekten 20 % schneller als Branchendurchschnitt
• Standardisierung von SAP-Prozessen in 11 Ländern als Teil einer der größten SAP-Einführungen im Einzelhandel
• Direkte Verwaltung eines Budgets von 2 Mio. € mit einer Budgettreue von 98 % über 12 gleichzeitige Projekte
• Reduzierung der SAP S/4HANA-Migrationskosten um 18 % durch strategische Vertragsnachverhandlungen und Optimierung

• Strategischer Übergang in KI-Engineering durch intensives Mentoring und Projektdurchführung.

• Entwicklung von MASX AI, einer agentischen KI-Plattform, die LangGraph, AutoGen und RAG für geopolitische Prognosen und Echtzeit-ETL integriert.

• Entwurf und Bereitstellung funktionsfähiger KI-Prototypen für potenzielle Kunden, die angewandte Expertise in Multi-Agenten-Systemen, Echtzeit-Datenpipelines und LLM-Integrationen demonstrieren.