pgvector Experten in Deutschland

Produkt:

• Eine produktionsreife KI-Plattform entwickelt, die anhand von Produktdaten, Nutzeranforderungen und hochgeladenen Medien markengerechte Marketingbilder und -videos erstellt.
• Verantwortlich für Plattformarchitektur, technische Roadmap, API-Design, Sicherheit, Deployment-Abläufe, betriebliche Zuverlässigkeit und Strategie für Modellanbieter.
• Die Kernplattform mit .NET entwickelt und unterstützende KI- und Workflow-Prototypen in Python erstellt. Dabei sprachunabhängige API-Verträge und strukturierte Schnittstellen zwischen Services und Modellanbietern eingesetzt.
• Zuverlässige Hintergrundverarbeitung mit RabbitMQ, gespeichertem Workflow-Zustand, idempotenter Verarbeitung, Wiederholungsversuchen, Fehlerbehebung, Logging, sicherer Speicherung, Autorisierung und Abrechnung von Credits umgesetzt.
• Pragmatische Entscheidungen zu Eigenentwicklung oder Zukauf sowie zum Routing von Modellen getroffen, basierend auf Zuverlässigkeit, Latenz, Kosten und Wartbarkeit statt auf Neuheit.

Agenten-Orchestrierung & RAG-Systeme

• Agenten-Workflows mit Microsoft Agent Framework, LangGraph und LangChain entwickelt und verglichen, darunter Tool-Nutzung, bedingte Weiterleitung, Klärungsschritte, Zustandsverwaltung und Übergaben zwischen Agenten.
• Wiederverwendbare .NET-Komponenten für Agenten, Prompts, Tools, Modellanbieter, strukturierte Antworten und Retrieval mit pyvector implementiert. So lassen sich KI-Anbieter einfacher wechseln, ohne den Kern-Workflow neu zu schreiben.

• Claude-Code-Subagenten, MCP, Pydantic V2, pytest, bandit

• 3 spezialisierte Agenten entwickelt und produktiv eingesetzt, die die Arbeit entlang einer Kette weitergeben: Ein Forschungsagent erstellt eine zitierte Implementierungsspezifikation, ein Coding-Agent entwickelt den modularen Code und seine Tests, und ein Review-Agent bewertet die Ergebnisse nach Schweregrad und setzt die Korrekturen um. Jede Übergabe erfolgt als strukturiertes Dokument, sodass keine Phase vom Kontextfenster eines anderen Agenten abhängt.

• Den Forschungsagenten mit einem MCP-Server für akademische Recherche verbunden (Semantic Scholar, ArXiv, Hugging Face Hub, Zitationsverfolgung), sodass jede Referenz auf ein Tool-Ergebnis und nicht auf das Modell zurückgeht. Commits hinter ruff, mypy, pytest und bandit abgesichert, menschliche Freigabe vor Installationen und Commits verlangt und den Sitzungsstatus auf der Festplatte gespeichert, damit lange Läufe einen Kontext-Reset überstehen.

• Planung und Entwicklung einer CPU-Überwachungsanwendung zur Überwachung der Systemleistung und Ressourcennutzung.
• Entwicklung und Implementierung eines Spring-Boot-Backends mit REST-API zur Verarbeitung und Bereitstellung von Überwachungsdaten.
• Entwicklung des React-Frontends zur übersichtlichen und benutzerfreundlichen Darstellung der Überwachungsinformationen.
• Integration von PostgreSQL zur dauerhaften Speicherung und Verwaltung der Anwendungsdaten.
• Containerisierung der Anwendung und ihrer Dienste mit Docker Compose.
• Automatisierung der Bereitstellung und des Deployments der Infrastruktur mit Terraform auf AWS.
• Strukturierung der Anwendung als modernes, wartbares System mit REST-basierter Kommunikation zwischen Frontend und Backend.
• Entwicklung einer sicheren, skalierbaren CPU-Überwachungsarchitektur (cpu-watcher) mit einer eigenen Collector-Anwendung, die Überwachungsdaten an das Backend überträgt und dadurch den direkten Zugriff auf Systemressourcen reduziert.
• Entwicklung einer sicheren Cloud-Infrastruktur mit isolierter Datenbank in einem privaten Netzwerk und OIDC-basierter Authentifizierung.
• Implementierung von Infrastructure as Code mit Terraform und Integration versionskontrollierter CI/CD-Pipelines zur Automatisierung von Tests, Infrastrukturänderungen und Anwendungsbereitstellungen.
• Entwicklung und Implementierung der Architektur zur Frontend-Bereitstellung mit AWS CloudFront.

Stack: Spring Boot · React · PostgreSQL · REST API · Docker Compose · Terraform · AWS

Auf Evidenz basierende Health-Intelligence-Plattform, die veröffentlichte Forschung in persönliche Gesundheitsprotokolle übersetzt. Sie bewertet 430 Gewohnheiten, Lebensmittel und Supplements anhand der Studien dahinter und passt den Score an, wenn sich die Evidenz ändert. Allein aufgebaut.

• Die tägliche Ingest-Pipeline über PubMed, bioRxiv und medRxiv aufgebaut: 43.000+ Papers aus 3.400+ Journals verarbeitet zu 230.000+ typisierten Evidenz-Claims, jeder einzelne zurückverfolgbar bis zur Studie, aus der er stammt.
• Das sechs Faktoren umfassende Evidenz-Scoring-Modell und das öffentliche Changelog dahinter entworfen, damit keine Empfehlung ohne die zugrunde liegenden Papers erscheint. Bis heute 23.000+ Score-Änderungen erfasst und erklärt.
• Das Entity-Informationsmodell aufgebaut, das jede Intervention mit ihren Mechanismen, Biomarkern und Outcomes verbindet: 118 Biomarker mit regionsspezifischen Referenzbereichen, 77 Mechanismen, 32 bewertete Outcomes.
• Die Personalisierungsschicht gebaut: Ingestion von Blutwerten, die Labor-PDFs mit einem Vision-Modell ausliest und Ergebnisse anhand der Aufwachzeit des Nutzers korrigiert, plus Integration von Oura, WHOOP und Withings für den täglichen Readiness-Kontext.
• Elf spezialisierte Review-Agents über Korpus und Codebase betrieben, für Paper-Kuration, Retrieval-Qualität, Health-Claim-Compliance über EU- und US-Regime hinweg sowie Security.
• Den Evidence Assistant ausgeliefert, einen RAG-Assistenten, der aus der Claim-Datenbank antwortet und die zugrunde liegenden Papers zitiert, plus eine B2B-Practitioner-Stufe, eine Expo React Native App und Lokalisierung in 3 Sprachen und 7 Märkten.

Stack: Next.js 16, TypeScript, Supabase, pgvector, Anthropic Claude, Vercel, DeepInfra.

Multi-Agenten-Plattform zur Dokumentenerstellung

Problem:

Aus einem einzelnen Prompt ein gut recherchiertes, strukturiertes und mit Quellen belegtes Dokument erstellen und dabei die Kontrolle beim Nutzer belassen: Jeder Schritt kann geprüft, korrigiert oder erneut aufgerufen werden, bevor das System fortfährt.

Architektur:

Ein Multi-Agenten-System, das von einer zentralen Steuerung koordiniert wird. Mehr als 20 spezialisierte pydantic-ai-Subagenten (Verstehen, Strukturieren, Planen, Recherchieren, Schreiben, Zusammenstellen, Querverweise prüfen, Glossar, Zitate, Referenztabelle und mehr) geben Ergebnisse anhand eines gemeinsamen, in Postgres gespeicherten Plans (asyncpg) weiter. Eine Runner-Schicht weist jede Aufgabe anhand ihres Namens einem Agenten zu. Mechanische Schritte wie Formatierung, Inhaltsverzeichnis und Abbildungsverzeichnis werden durch deterministischen Code statt durch LLM-Aufrufe erledigt. Der Anbieter (Anthropic oder OpenAI) wird über eine Konfiguration festgelegt, und Antworten werden über Server-Sent Events gestreamt.

Hosting & Infrastruktur:

Ein zustandsloser Container läuft als Scaleway Serverless Container in einem privaten Netzwerk mit verwaltetem PostgreSQL, Objektspeicher für fertige Dokumente und Assets sowie zentraler Protokollübertragung (Loki / Scaleway Cockpit). Bereitstellung mit OpenTofu-Modulen und Deployment über GitLab CI; die Nutzung wird pro API-Schlüssel abgerechnet.

Mein Beitrag und wichtige Entscheidungen:

• Zentrale Entscheidungssteuerung: Ein Zufriedenheitsklassifikator wandelt die Freitext-Rückmeldung des Nutzers in eine Entscheidung um (weiterarbeiten, fortfahren, abbrechen oder eine frühere Aufgabe überarbeiten). Eine Middleware wendet sie auf den Plan an. Der Plan kann zu früheren Aufgaben zurückspringen und die darauffolgenden Schritte erneut ausführen.
• Parallele Recherche und Texterstellung: Die Planung erstellt einen Plan, aus dem ein Recherche-Design-Agent einzelne Rechercheaufgaben und ein Schreib-Design-Agent einzelne Schreibaufgaben erstellt, die jeweils mit der benötigten Recherche verknüpft sind. Jede Aufgabe wird in einem eigenen Agenten mit eigenem Gesprächsverlauf ausgeführt.
• Selbstprüfung und Einbindung des Menschen: Nach jedem Schritt prüft ein Agent für kritisches Denken das Ergebnis. Bevor der Plan fortgesetzt wird, kann der Nutzer eine Kritik annehmen, überarbeiten oder Fragen dazu stellen.
• MCP-Integrationen: Zwei entfernte MCP-Server für die Websuche und die interne Dokumentensuche sind über pydantic-ai angebunden, mit Wiederholungsversuchen und Timeouts für lang laufende Tool-Aufrufe. Klassifikator-Agenten entscheiden für jede Aufgabe, ob eine Websuche nötig ist. Ein kleines Modell fasst rohe Suchergebnisse zu strukturierten Erkenntnissen zusammen, bevor sie die Schreibagenten erreichen.

Nutzungsabrechnung:

Kunden authentifizieren sich mit einem API-Schlüssel, der über einen Schlüsselverwaltungsdienst geprüft wird. Der Verbrauch wird in Credits abgerechnet, berechnet anhand der Token-Nutzung pro Modell zuzüglich eines Aufschlags. Bei ausgeschöpftem Kontingent wird HTTP 429 zurückgegeben.

• Eine neue Benachrichtigungsplattform von Grund auf entwickelt und implementiert, um bestehende und zukünftige Services zu ersetzen
• Zusammenarbeit mit anderen Teams zur Integration weiterer Fachbereiche

Tech-Stack:

• Daten: Scala 3, Apache Kafka, Python, Airflow, Astronomer
• BE-FE: TypeScript, NestJS, Java, Spring Boot, Vue
• DevOps: AWS, PostgreSQL, Docker, GitHub Actions, Kubernetes, Helm, ArgoCD

Enterprise-Kategorisierung von KI-Inhalten und KI-gestützte Webrecherche.

• Multi-LLM-Evaluierungsframework mit annotierten Daten entwickelt
• LLM-Fehlerraten auf Grundlage annotierter Datensätze iterativ verbessert
• KI-gestützte Webrecherche-Pipeline implementiert Technologien: LLM, evals, OpenRouter, Python, Node.js, TypeScript, React

Backend für KI-Plattform – Senior Developer

Beauftragt, das Backend einer KI-Plattform von Grund auf zu konzipieren und aufzubauen – einschließlich Multi-Provider-LLM-Orchestrierung und Echtzeitinfrastruktur für KI-Influencer-Personas im großen Maßstab.

Aufgaben und Verantwortlichkeiten

• Architektur und Implementierung einer Multi-LLM-Orchestrierungsschicht mit Semantic Kernel zur Integration von GPT-4 und weiteren Anbietern für die zentrale Plattformlogik und KI-Influencer-Personas. Reduzierung des Aufwands beim Modellwechsel durch Abstraktion der Anbieter-APIs hinter einer einheitlichen Schnittstelle.
• Entwurf und Entwicklung eines Backends von Grund auf mit C# / .NET 10, einschließlich Domain-Modellierung mit DDD, versionierter RESTful-API-Schicht und Aufbau der Cloud-Infrastruktur auf Azure.
• Aufbau einer Echtzeit-Chat-Infrastruktur mit Server-Sent Events (SSE), Nachrichtenspeicherung und Zustellgarantien für den Live-Betrieb von KI-Influencer-Personas im großen Maßstab.
• Entwicklung eines Medienverwaltungsdienstes mit Anbindung an Cloud-Objektspeicher für den Upload und Abruf von durch Influencer generierten Inhalten.
• Erstellung einer Integrations- und Unit-Test-Suite mit Daten-Seeding für zuverlässige Regressionstests aller zentralen Plattformabläufe, wodurch die Produktionsfehlerrate deutlich sank.

Werkzeuge und Technologien: C#, .NET, ASP.NET Core, Python, TypeScript, MySQL, Semantic Kernel, EF Core, Minimal APIs, LLM Orchestration, Prompt Engineering, Agentic AI, Generative AI, AI-Assisted Engineering, Claude Code, GitHub Copilot, Google Gemini, OpenAI API, Ollama, Redis, Azure, Azure Container Apps, Azure Database for MySQL, Docker, GitHub Actions, Clean Architecture, Vertical Slice Architecture, CQRS, Domain-Driven Design, REST API, xUnit, Integration Testing, Unit Testing, Jira, Confluence, Scrum

• TrendReel, Produktions-LLM-Agenten- und RAG-System (Python, LangChain, OpenAI, Groq/Llama 3, Claude, FastAPI, Kubernetes, PostgreSQL).
• Entwarf und baute ein produktives mehrstufiges LLM-Agentensystem: einen Script-Generierungs-Agenten mit einer plattformbezogenen Psychologie-Datenbank, 7 viralen Narrativ-Frameworks und strukturierter Qualitätsbewertung, der in Echtzeit je nach Ausgabemetriken zwischen Claude- und Groq-Backends wechselte.
• Implementierte Multi-Provider-LLM-Routing (Claude primär, Groq/Llama 3 Fallback) mit Priority-Chain-Failover und qualitätsbasiertem Provider-Wechsel und erreichte dabei eine Senkung der Inferenzkosten um 95 %, während messbare Qualitätsgrenzen eingehalten wurden.
• Aufbau einer fortschrittlichen RAG-artigen Retrieval-Pipeline mit Wissensbasen pro Plattform, semantischem Content-Matching und strukturierter Ausgabeevaluation über 7 Entscheidungs-Frameworks, direkt vergleichbar mit kontextbasiertem Reasoning in Multi-Tenant-Enterprise-Dokumenten-Workflows.
• BrainyAI, adaptive KI-Lernplattform (Python, LangChain, Groq Llama 3.3-70B, OpenAI, Next.js, Supabase, Redis).
• Integrierte Groq Llama 3.3-70B mit einem auf Bildungsniveau abgestimmten Prompting, wobei Wortschatz-Tiefe, Zitierkomplexität und Denkstil dynamisch über vier Leistungsstufen von Lernenden angepasst wurden.
• Nexus Prime, Multi-Tenant-SaaS-Plattform für Marketing- und Wachstumsautomatisierung (25 Module, 99 Backend-Router, 153 Frontend-Dateien).
• Aufbau einer 25-Modul-, 99-Router-Multi-Tenant-SaaS-Plattform für Ad-Remix, Affiliates, WhatsApp-Inbox, E-Mail und Warenkorbwiederherstellung, die vier Abo-Stufen von $199 bis $1,999 pro Monat mit integrierter Stripe-, Paystack- und Flutterwave-Abrechnung bedient.
• KI-Videoüberwachungsplattform, Multi-Tenant-Edge- und Cloud-Computer-Vision-System derzeit aktiv im Kundengespräch.
• Entwarf eine Multi-Tenant-KI-Videoüberwachungsplattform, die Edge-YOLO26-Inferenz auf NVIDIA Jetson Orin NX Boxen mit einer zentralen GKE-Cloud-Schicht (Postgres, Pub/Sub, ClickHouse, R2, Keycloak) für Ereignisspeicherung, Dashboards, Alarme und Multi-Tenancy kombiniert.

Manufacturing-Intelligence-Plattform mit Enterprise-Workflows, RAG, Echtzeit-Funktionen für AI-Assistenten und Backend-Architektur über mehrere Repositories.

• Entwickelte und erweiterte produktive AI-/Backend-Services mit Django, DRF, FastAPI, GraphQL, Celery, PostgreSQL, MySQL, Redis und WebSockets über eine modulare Plattform mit mehreren Repositories.
• Mitgewirkt an ARIS V2, einem Echtzeit-AI-Assistenten für die Fertigung mit LangChain, LangGraph, MCP-Tool-Orchestrierung, Planungs-/Ausführungs-Workflows, OpenAI, AWS Bedrock, Qdrant sowie Retrieval auf Basis von Elasticsearch/OpenSearch.
• Unterstützte die Rollout-Erweiterung von ARIS V1 in 4 von 17 Kunden-Produktionswerken auf ARIS V2, das aktuell in 13 von 17 Werken aktiv ist, und steigerte so die reale Abdeckung auf mehr als 50 % der Kundenumgebung.
• Arbeitete an dokumentengestützter RAG-Funktionalität inklusive Ingestion, OCR, Chunking, Embeddings, Indexing, Retrieval, Reranking und geerdeter Antwortgenerierung für industrielle Workflows.

Stack: Python, Django, DRF, FastAPI, LangChain, LangGraph, GraphQL, Celery, WebSockets, OpenAI, AWS Bedrock, Qdrant, Elasticsearch/OpenSearch, PostgreSQL, MySQL, Redis, Docker.

Entwicklung einer iOS-App für virtuelle Anprobe und Outfit-Vorschläge

Das Ziel des Projekts ist die Entwicklung einer mobilen Anwendung für personalisierte, fotorealistische Outfit-Vorschläge. Benutzer sollen eigene Fotos hochladen, Kleidungsstücke virtuell anprobieren und direkt kaufbare Produkte in den generierten Vorschlägen wiederfinden können.

• Konzeption und Umsetzung des Onboardings sowie des Foto-Uploads in der iOS-App
• Entwicklung der mobilen Anwendung mit Expo und React Native
• Implementierung eines Hono-/Node.js-Backends für Benutzer-, Produkt- und Generierungsprozesse
• Aufbau einer asynchronen Verarbeitungsstrecke mit BullMQ und Redis
• Anbindung von PostgreSQL/pgvector und S3 für Produkt-, Bild- und Generierungsdaten
• Integration von Gemini und OpenAI für Outfit-Generierung und Bildverarbeitung
• Umsetzung eines Creditsystems und Anbindung von RevenueCat
• Integration von Stripe Connect und Affiliate-Produktfeeds für direkt kaufbare Produkte

Label: TypeScript, React Native, Expo, Hono, Node.js, PostgreSQL/pgvector, BullMQ, Redis, S3, Gemini, OpenAI, RevenueCat, Stripe Connect, Docker

Technologien: n8n, Notion, OpenAI API, Claude, MS AI Foundry, MS CoPilot Studio, MS CoPilot, LLM, Node.js, Vercel, LangGraph, PostgreSQL, pgEdge, pgvector, Docker, LangChain, Ollama, Open WebUI

• Kontinuierliche Bewertung und Priorisierung eigener Automatisierungsbedarfe
• ~20 KI-Agenten im aktiven Einsatz: Recherche, Content-Pipelines, Dokumentenverarbeitung
• 5 n8n-Workflows für automatisierte Daten- und Prozesssteuerung
• Architektur nach denselben Prinzipien wie in Kundenprojekten: State Management, event-driven Orchestrierung, API-Integration
• Kontinuierlicher Betrieb und Weiterentwicklung

• KI-Consulting für HR & Recruiting (Identifikation und Umsetzung von KI-Potenzialen entlang der Candidate Journey)
• Entwicklung und Implementierung von KI-gestützten Recruiting-Systemen
• Aufbau von Automationen zur Optimierung von Hiring-Prozessen (Screening, Kommunikation, Follow-ups)
• Konzeption und Integration von Chatbots & KI-Assistants für Bewerberkommunikation
• Analyse und Optimierung bestehender HR-Prozesse mit Fokus auf Effizienz, Time-to-Hire & Candidate Experience
• Entwicklung von individuellen Softwarelösungen für Recruiting-Workflows
• Integration von KI-Systemen in bestehende HR-Tools & Infrastrukturen
• Fokus auf Skalierbarkeit, Automatisierung und messbaren Impact
• Beratung von Unternehmen bei der digitalen Transformation im HR-Bereich

• Gründete ein KI-gestütztes SaaS für Terminplanung und Geschäftsverwaltung für kleine und mittlere Unternehmen und verantwortete Technologiestrategie, Architektur, Produktentwicklung, UX, Abrechnung und Go-to-Market.
• Entwickelte und realisierte eine mandantenfähige Plattform mit REST-APIs, RBAC, CRM, Abrechnung und Benachrichtigungen für das Manager-Dashboard, die Admin-Konsole, das Buchungserlebnis und iOS-/Android-Anwendungen.
• Führte und betreute 7 Softwareentwickler, 1 DevOps-Ingenieur, 1 QA-Ingenieur und 1 UX/UI-Designer und arbeitete gleichzeitig praktisch in den Bereichen Backend, Frontend und Produktentwicklung.
• Entwickelte KI-Sprach- und Chat-Agenten mit Python/FastAPI, OpenAI- und Anthropic-APIs, RAG, pgvector und Tool-Calling; integrierte Twilio, Google Calendar/Meet, Stripe und Firebase.
• Verantwortete die Produktiv-Infrastruktur und automatisierte die Auslieferung in getrennten Umgebungen mit Docker, Nginx, GitHub Actions und Grafana; vertrat das Unternehmen bei Acceleratoren und internationalen Startup-Veranstaltungen.

Ausgewählter Tech-Stack: Python, FastAPI, Node.js, Vue 3, React/Next.js, React Native, PostgreSQL, Redis, Docker