pgvector Experten in Deutschland

• Claude-Code-Subagenten, MCP, Pydantic V2, pytest, bandit

• 3 spezialisierte Agenten entwickelt und produktiv eingesetzt, die die Arbeit entlang einer Kette weitergeben: Ein Forschungsagent erstellt eine zitierte Implementierungsspezifikation, ein Coding-Agent entwickelt den modularen Code und seine Tests, und ein Review-Agent bewertet die Ergebnisse nach Schweregrad und setzt die Korrekturen um. Jede Übergabe erfolgt als strukturiertes Dokument, sodass keine Phase vom Kontextfenster eines anderen Agenten abhängt.

• Den Forschungsagenten mit einem MCP-Server für akademische Recherche verbunden (Semantic Scholar, ArXiv, Hugging Face Hub, Zitationsverfolgung), sodass jede Referenz auf ein Tool-Ergebnis und nicht auf das Modell zurückgeht. Commits hinter ruff, mypy, pytest und bandit abgesichert, menschliche Freigabe vor Installationen und Commits verlangt und den Sitzungsstatus auf der Festplatte gespeichert, damit lange Läufe einen Kontext-Reset überstehen.

Auf Evidenz basierende Health-Intelligence-Plattform, die veröffentlichte Forschung in persönliche Gesundheitsprotokolle übersetzt. Sie bewertet 430 Gewohnheiten, Lebensmittel und Supplements anhand der Studien dahinter und passt den Score an, wenn sich die Evidenz ändert. Allein aufgebaut.

• Die tägliche Ingest-Pipeline über PubMed, bioRxiv und medRxiv aufgebaut: 43.000+ Papers aus 3.400+ Journals verarbeitet zu 230.000+ typisierten Evidenz-Claims, jeder einzelne zurückverfolgbar bis zur Studie, aus der er stammt.
• Das sechs Faktoren umfassende Evidenz-Scoring-Modell und das öffentliche Changelog dahinter entworfen, damit keine Empfehlung ohne die zugrunde liegenden Papers erscheint. Bis heute 23.000+ Score-Änderungen erfasst und erklärt.
• Das Entity-Informationsmodell aufgebaut, das jede Intervention mit ihren Mechanismen, Biomarkern und Outcomes verbindet: 118 Biomarker mit regionsspezifischen Referenzbereichen, 77 Mechanismen, 32 bewertete Outcomes.
• Die Personalisierungsschicht gebaut: Ingestion von Blutwerten, die Labor-PDFs mit einem Vision-Modell ausliest und Ergebnisse anhand der Aufwachzeit des Nutzers korrigiert, plus Integration von Oura, WHOOP und Withings für den täglichen Readiness-Kontext.
• Elf spezialisierte Review-Agents über Korpus und Codebase betrieben, für Paper-Kuration, Retrieval-Qualität, Health-Claim-Compliance über EU- und US-Regime hinweg sowie Security.
• Den Evidence Assistant ausgeliefert, einen RAG-Assistenten, der aus der Claim-Datenbank antwortet und die zugrunde liegenden Papers zitiert, plus eine B2B-Practitioner-Stufe, eine Expo React Native App und Lokalisierung in 3 Sprachen und 7 Märkten.

Stack: Next.js 16, TypeScript, Supabase, pgvector, Anthropic Claude, Vercel, DeepInfra.

Produkt:

• Eine produktionsreife KI-Plattform aufgebaut, die markenkonforme Marketingbilder und Videos aus Produktdaten, Nutzeranforderungen und hochgeladenen Medien erzeugt.
• Die Plattformarchitektur, die technische Roadmap, das API-Design, die Sicherheit, den Deployment-Workflow, die operative Zuverlässigkeit und die Strategie für Modellanbieter verantwortet.
• Die Kernplattform in .NET entwickelt und unterstützende KI- und Workflow-Prototypen in Python gebaut, mit sprachunabhängigen API-Verträgen und strukturierten Schnittstellen zwischen Services und Modellanbietern.
• Zuverlässige Hintergrundverarbeitung mit RabbitMQ implementiert, Workflow-Zustände gespeichert sowie idempotente Verarbeitung, Retries, Fehlerbehebung, Logging, sichere Speicherung, Autorisierung und Credit-Abrechnung umgesetzt.
• Pragmatische Build-vs.-Buy- und Modellrouting-Entscheidungen auf Basis von Zuverlässigkeit, Latenz, Kosten und Wartbarkeit getroffen, statt auf Neuheit.

Agenten-Orchestrierung & RAG-Systeme

• Agenten-Workflows mit Microsoft Agent Framework, LangGraph und LangChain aufgebaut und verglichen, einschließlich Tool-Nutzung, bedingter Weiterleitung, Klärungsschritten, Zustandsverwaltung und Übergaben zwischen Agenten.
• Wiederverwendbare .NET-Komponenten für Agenten, Prompts, Tools, Modellanbieter, strukturierte Antworten und Retrieval mit pyvector implementiert, um den Wechsel von KI-Anbietern zu erleichtern, ohne den Kern-Workflow neu schreiben zu müssen.

• TrendReel, Produktions-LLM-Agenten- und RAG-System (Python, LangChain, OpenAI, Groq/Llama 3, Claude, FastAPI, Kubernetes, PostgreSQL).
• Entwarf und baute ein produktives mehrstufiges LLM-Agentensystem: einen Script-Generierungs-Agenten mit einer plattformbezogenen Psychologie-Datenbank, 7 viralen Narrativ-Frameworks und strukturierter Qualitätsbewertung, der in Echtzeit je nach Ausgabemetriken zwischen Claude- und Groq-Backends wechselte.
• Implementierte Multi-Provider-LLM-Routing (Claude primär, Groq/Llama 3 Fallback) mit Priority-Chain-Failover und qualitätsbasiertem Provider-Wechsel und erreichte dabei eine Senkung der Inferenzkosten um 95 %, während messbare Qualitätsgrenzen eingehalten wurden.
• Aufbau einer fortschrittlichen RAG-artigen Retrieval-Pipeline mit Wissensbasen pro Plattform, semantischem Content-Matching und strukturierter Ausgabeevaluation über 7 Entscheidungs-Frameworks, direkt vergleichbar mit kontextbasiertem Reasoning in Multi-Tenant-Enterprise-Dokumenten-Workflows.
• BrainyAI, adaptive KI-Lernplattform (Python, LangChain, Groq Llama 3.3-70B, OpenAI, Next.js, Supabase, Redis).
• Integrierte Groq Llama 3.3-70B mit einem auf Bildungsniveau abgestimmten Prompting, wobei Wortschatz-Tiefe, Zitierkomplexität und Denkstil dynamisch über vier Leistungsstufen von Lernenden angepasst wurden.
• Nexus Prime, Multi-Tenant-SaaS-Plattform für Marketing- und Wachstumsautomatisierung (25 Module, 99 Backend-Router, 153 Frontend-Dateien).
• Aufbau einer 25-Modul-, 99-Router-Multi-Tenant-SaaS-Plattform für Ad-Remix, Affiliates, WhatsApp-Inbox, E-Mail und Warenkorbwiederherstellung, die vier Abo-Stufen von $199 bis $1,999 pro Monat mit integrierter Stripe-, Paystack- und Flutterwave-Abrechnung bedient.
• KI-Videoüberwachungsplattform, Multi-Tenant-Edge- und Cloud-Computer-Vision-System derzeit aktiv im Kundengespräch.
• Entwarf eine Multi-Tenant-KI-Videoüberwachungsplattform, die Edge-YOLO26-Inferenz auf NVIDIA Jetson Orin NX Boxen mit einer zentralen GKE-Cloud-Schicht (Postgres, Pub/Sub, ClickHouse, R2, Keycloak) für Ereignisspeicherung, Dashboards, Alarme und Multi-Tenancy kombiniert.

• Verantwortlich für die Full-Stack-Entwicklung einer AI-native Unternehmensplattform auf Basis von TypeScript, React, Vite, tRPC, Hono und PostgreSQL, die KI-gestützte Beratungs-Workflows für B2B-Kunden liefert.
• Entwarf und lieferte ein Multi-Agenten-KI-System mit dem ReAct-Framework und Claude-Skills-Workflow-Mustern, inklusive eines intelligenten PM-Assistenten mit umfangreichen System-Prompts, Slash-Befehlen, Tool-Integrationen und Streaming-Chat-Oberfläche.
• Entwickelte ein LLM-Bewertungs-Framework: rubrikbasierte LLM-als-Richter, Golden Datasets, Regressionstests und automatisierte Qualitätssicherung — für konsistente KI-Ausgabequalität in großem Maßstab.
• Integrierte LangFuse für durchgehendes LLM-Tracking, Konversations-Wiedergaben und Bewertungs-Pipelines, was datengetriebene Prompt-Optimierung ermöglichte und Token-Kosten sowie Antwort-Varianz reduzierte.
• Implementierte Drizzle ORM, pgvector und Knowledge Graphs für strukturierten Datenzugriff, semantische Suche und beziehungsorientiertes KI-Schlussfolgern über die gesamte Plattform.
• Führte die TanStack React Query-Migration in der gesamten Anwendung durch — ersetzte manuelles State-Management durch zentrales Caching und automatisches Refetching, was den Boilerplate-Aufwand für Datenabrufe deutlich reduzierte.
• Setzte AI-native Entwicklung durchgehend ein: Claude Code, Codex, Perplexity SDK und LLM-unterstütztes Testing im gesamten Entwicklungszyklus. Deployment auf Vercel + Azure ACA mit Biome für Linting/Formatting.

Entwicklung einer iOS-App für virtuelle Anprobe und Outfit-Vorschläge

Das Ziel des Projekts ist die Entwicklung einer mobilen Anwendung für personalisierte, fotorealistische Outfit-Vorschläge. Benutzer sollen eigene Fotos hochladen, Kleidungsstücke virtuell anprobieren und direkt kaufbare Produkte in den generierten Vorschlägen wiederfinden können.

• Konzeption und Umsetzung des Onboardings sowie des Foto-Uploads in der iOS-App
• Entwicklung der mobilen Anwendung mit Expo und React Native
• Implementierung eines Hono-/Node.js-Backends für Benutzer-, Produkt- und Generierungsprozesse
• Aufbau einer asynchronen Verarbeitungsstrecke mit BullMQ und Redis
• Anbindung von PostgreSQL/pgvector und S3 für Produkt-, Bild- und Generierungsdaten
• Integration von Gemini und OpenAI für Outfit-Generierung und Bildverarbeitung
• Umsetzung eines Creditsystems und Anbindung von RevenueCat
• Integration von Stripe Connect und Affiliate-Produktfeeds für direkt kaufbare Produkte

Label: TypeScript, React Native, Expo, Hono, Node.js, PostgreSQL/pgvector, BullMQ, Redis, S3, Gemini, OpenAI, RevenueCat, Stripe Connect, Docker

Manufacturing-Intelligence-Plattform mit Enterprise-Workflows, RAG, Echtzeit-Funktionen für AI-Assistenten und Backend-Architektur über mehrere Repositories.

• Entwickelte und erweiterte produktive AI-/Backend-Services mit Django, DRF, FastAPI, GraphQL, Celery, PostgreSQL, MySQL, Redis und WebSockets über eine modulare Plattform mit mehreren Repositories.
• Mitgewirkt an ARIS V2, einem Echtzeit-AI-Assistenten für die Fertigung mit LangChain, LangGraph, MCP-Tool-Orchestrierung, Planungs-/Ausführungs-Workflows, OpenAI, AWS Bedrock, Qdrant sowie Retrieval auf Basis von Elasticsearch/OpenSearch.
• Unterstützte die Rollout-Erweiterung von ARIS V1 in 4 von 17 Kunden-Produktionswerken auf ARIS V2, das aktuell in 13 von 17 Werken aktiv ist, und steigerte so die reale Abdeckung auf mehr als 50 % der Kundenumgebung.
• Arbeitete an dokumentengestützter RAG-Funktionalität inklusive Ingestion, OCR, Chunking, Embeddings, Indexing, Retrieval, Reranking und geerdeter Antwortgenerierung für industrielle Workflows.

Stack: Python, Django, DRF, FastAPI, LangChain, LangGraph, GraphQL, Celery, WebSockets, OpenAI, AWS Bedrock, Qdrant, Elasticsearch/OpenSearch, PostgreSQL, MySQL, Redis, Docker.

• Mentor eines Teams aus 6 ML-Platform-Engineers durch wöchentliche 1:1s, technische Design-Reviews und Best Practices; Verbesserung der Team-Produktivität um 35% durch strukturierte Sprint-Planung und Programme zur Skill-Entwicklung
• Definition der ML-Plattform-Roadmap 2025–2026 in Zusammenarbeit mit Data Science, Cloud Engineering und Product Teams; Priorisierung von automatisierter Model Governance, Cost-Attribution-Systemen und Multi-Environment-Deployment-Strategien
• Zusammenarbeit mit Stakeholdern aus Data Science, SRE und Product, um die Fähigkeiten der ML-Plattform mit den Geschäftszielen abzustimmen; Reduktion der Deployment-Hürden für Data Scientists um 60% durch Self-Service-Plattformen
• Architektur und Lieferung einer produktionsreifen MLOps-Plattform für 50+ Modelle in Produktion mit automatisierten Promotion-Pipelines, Versionierung und Rollback-Funktionen; Erreichung eines SLA von 99,5% Plattform-Uptime
• Design einer verteilten ML-Pipeline-Architektur mit Metaflow und Argo Workflows (Vertex Pipelines-kompatibel); Verkürzung der Modell-Trainingszeit um 30% und der Deployment-Zyklen von 2 Wochen auf 3 Tage durch vollständige CI/CD-Automatisierung
• Aufbau containerisierter ML-Services auf Kubernetes mit Auto-Scaling-Policies, Resource Quotas und Multi-Tenancy-Isolation; Optimierung der Infrastrukturkosten um 180K $ pro Jahr (25% Reduktion)
• Implementierung von Monitoring, Alerting und Performance-Tracking mit Prometheus, Grafana und Custom Instrumentation; Reduktion der Debugging-Zeit für Modelle um 50% und Einführung von SLOs für die Modell-Performance
• Leitung der Entwicklung einer RAG-basierten Document-Intelligence-Plattform mit LangChain, LangGraph und Vektor-Datenbanken; Implementierung von Agentic-AI-Workflows für die automatisierte Verarbeitung von Finanzdokumenten
• Implementierung von Infrastructure-as-Code mit Terraform für reproduzierbare Umgebungseinrichtung und GitOps-Workflows; Reduktion von Infrastruktur-Drift-Vorfällen um 80%
• Design von rollenbasiertem Zugriff für die ML-Plattform, Implementierung von Model-Lineage-Tracking und Aufbau von Audit Trails für regulatorische Compliance nach Enterprise-IAM-Best Practices

KI-Plattform Backend – Senior Developer

Engagiert, um ein Backend für eine KI-Plattform von Grund auf zu konzipieren und aufzubauen, inklusive Multi-Provider-LLM-Orchestrierung und Echtzeitinfrastruktur für KI-Influencer-Personas im großen Maßstab.

Aufgaben und Verantwortlichkeiten

• Architektur und Implementierung einer Multi-LLM-Orchestrierungsschicht mit Semantic Kernel zur Integration von GPT-4 und weiteren Anbietern für die Kernplattformlogik und KI-Influencer-Personas, Reduzierung des Modellwechsel-Overheads durch Abstraktion der Anbieter-APIs hinter einer einheitlichen Schnittstelle.
• Entwurf und Entwicklung eines Backends von Grund auf in C# / .NET 10, einschließlich Domain-Modellierung mit DDD, versionierter RESTful-API-Schicht und Cloud-Infrastrukturaufbau auf Azure.
• Aufbau einer Echtzeit-Chat-Infrastruktur mit Server-Sent Events (SSE), Nachrichtenpersistenz und Zustellungsgarantien für den Live-Betrieb von KI-Influencer-Personas im großen Maßstab.
• Entwicklung eines Medienverwaltungsdienstes mit Integration von Cloud-Objektspeicher für Upload und Abruf influencer-generierter Inhalte.
• Erstellung einer Integrations- und Unit-Test-Suite mit Daten-Seeding für zuverlässige Regressionstests über alle Kernplattform-Flows, deutliche Reduzierung der Produktionsfehlerrate.

Werkzeuge und Technologien: C#, .NET, ASP.NET Core, Python, TypeScript, MySQL, Semantic Kernel, EF Core, Minimal APIs, LLM Orchestration, Prompt Engineering, Agentic AI, Generative AI, AI-Assisted Engineering, Claude Code, GitHub Copilot, Google Gemini, OpenAI API, Ollama, Redis, Azure, Azure Container Apps, Azure Database for MySQL, Docker, GitHub Actions, Clean Architecture, Vertical Slice Architecture, CQRS, Domain-Driven Design, REST API, xUnit, Integration Testing, Unit Testing, Jira, Confluence, Scrum

Technologien: n8n, Notion, OpenAI API, Claude, MS AI Foundry, MS CoPilot Studio, MS CoPilot, LLM, Node.js, Vercel, LangGraph, PostgreSQL, pgEdge, pgvector, Docker, LangChain, Ollama, Open WebUI

• Kontinuierliche Bewertung und Priorisierung eigener Automatisierungsbedarfe
• ~20 KI-Agenten im aktiven Einsatz: Recherche, Content-Pipelines, Dokumentenverarbeitung
• 5 n8n-Workflows für automatisierte Daten- und Prozesssteuerung
• Architektur nach denselben Prinzipien wie in Kundenprojekten: State Management, event-driven Orchestrierung, API-Integration
• Kontinuierlicher Betrieb und Weiterentwicklung

• Gründete ein KI-gestütztes SaaS für Terminplanung und Geschäftsverwaltung für kleine und mittlere Unternehmen und verantwortete Technologiestrategie, Architektur, Produktentwicklung, UX, Abrechnung und Go-to-Market.
• Entwickelte und realisierte eine mandantenfähige Plattform mit REST-APIs, RBAC, CRM, Abrechnung und Benachrichtigungen für das Manager-Dashboard, die Admin-Konsole, das Buchungserlebnis und iOS-/Android-Anwendungen.
• Führte und betreute 7 Softwareentwickler, 1 DevOps-Ingenieur, 1 QA-Ingenieur und 1 UX/UI-Designer und arbeitete gleichzeitig praktisch in den Bereichen Backend, Frontend und Produktentwicklung.
• Entwickelte KI-Sprach- und Chat-Agenten mit Python/FastAPI, OpenAI- und Anthropic-APIs, RAG, pgvector und Tool-Calling; integrierte Twilio, Google Calendar/Meet, Stripe und Firebase.
• Verantwortete die Produktiv-Infrastruktur und automatisierte die Auslieferung in getrennten Umgebungen mit Docker, Nginx, GitHub Actions und Grafana; vertrat das Unternehmen bei Acceleratoren und internationalen Startup-Veranstaltungen.

Ausgewählter Tech-Stack: Python, FastAPI, Node.js, Vue 3, React/Next.js, React Native, PostgreSQL, Redis, Docker

• Wandelt natürliche Sprache mit RAG und pgvector in JQL um. Gibt strukturiertes JSON mit einer Query, einer Chart-Spezifikation und einer Klartext-Antwort zurück. Ein zweistufiger Router beantwortet allgemeine Fragen ganz ohne den JQL-Pipeline-Pfad.
• Austauschbare LLM-Backends: Ollama, vLLM, Groq, Anthropic Claude, AWS Bedrock - zur Laufzeit umschaltbar, ohne Codeänderungen. Self-healing JQL: Bei Jira-Validierungsfehlern wird der Fehler an das LLM zurückgegeben und bis zu 4 Mal erneut versucht. OCI Vault für Secrets. Bereitgestellt auf Oracle Cloud A1 mit GPU-Inferenz über ein Tailscale-Privatnetzwerk. Open Source.

End-to-End-Verantwortung für alle Produkte – Konzeption, Architektur, Entwicklung und Produktivbetrieb als alleiniger Entwickler; daneben Kundengespräche, Angebote und Marketing.

Underwriting Copilot – KI-Assistent für die Industrieversicherung (produktiv im Kundeneinsatz)

• Unterstützt Underwriter bei der Analyse industrieller Versicherungs-Submissions – im Produktivbetrieb bei einem Industrieversicherer.
• Framework-unabhängige RAG-Architektur mit Hybrid Search (BM25 + pgvector) über große, heterogene Dokumentbestände.
• Zweistufige Evaluations- und Observability-Pipeline (Code-Assertions + LLM-as-Judge), die Antwortqualität, Retrieval-Genauigkeit und Citation-Integrität regressionssicher messbar macht.

Kaiki Menu Analyzer – Data-Intelligence-Plattform (produktiv im Kundeneinsatz)

• Erfasst und analysiert automatisiert Speisedaten aus rund 25.000 deutschen Restaurants.
• Skalierbare 7-Container-Architektur (FastAPI, partitioniertes PostgreSQL, Redis/RQ) mit LLM-gestützter Extraktion strukturierter Daten aus PDF, HTML und Bildern.
• Vollständige CI/CD-Pipelines (GitHub Actions), produktives Cloud-Deployment, interaktive Dashboards (Dash).

Kaiki GEO Atlas – GEO-Plattform (produktiv im Kundeneinsatz)

• Misst die Marken-Sichtbarkeit über fünf KI-Engines (ChatGPT, Gemini, Perplexity, Grok, Claude), jede web-search-augmentiert, orchestriert als DAG-Workflow-Pipeline (Dispatcher → Sub-Workflows → Scoring → Report) mit Fail-Isolation.
• 6-Container-Deployment (FastAPI, Celery, Redis, PostgreSQL); LLM-Kostenschätzung, PDF-Audit-Report, regelbasierte Cross-Signal-Insights (kein zusätzlicher LLM-Aufwand).

Data Pipeline & Analytics Platform – Wettbewerbsanalyse im Automotive-Aftermarket

• Automatisierte Daten-Pipeline mit Gap-Analyse-Algorithmen und rollenbasierter Zugriffskontrolle; 230+ Tests.
• Backend mit FastAPI, PostgreSQL, SQLAlchemy.

Produktentwicklung (in aktiver Entwicklung)

BankingGPT – KI-Assistent für das Beschwerdemanagement im Genossenschaftsbanking

• Sicherheitsarchitektur im Kern: kein KI-Entwurf erreicht den Kunden ohne menschliche Freigabe – die Freigabe-Entscheidung liegt in auditierbarem Code, nicht im Sprachmodell (monoton: das Modell darf hochstufen, nie senken).
• Echte agentische Bausteine, jeder mit eigener Grenze: das Modell wählt selbst Werkzeuge über einen MCP-Server (nur-lesend, Allowlist, gedeckelt, fail-safe); heikle Fälle gehen per offenem A2A-Protokoll (JSON-RPC, Agent Card, message/send/tasks/get; Client selbst implementiert) an einen eigenständigen Fach-Agenten (Wertpapier/Recht), der die Prüfpflicht nie senkt (per Test gepinnt).
• Evaluations-getrieben über zehn Analyse-Runden; deckte per unabhängigem Review und Blind-Tests einen Sicherheitsdefekt auf, den neun automatisierte Läufe übersehen hatten.
• Voice-AI-Frontend, live antwortend: gedeckte Fälle werden im Gespräch beantwortet, heikle eskalieren vor der Generierung; Antwortlatenz < 7 s gemessen (lokale GPU-STT/TTS).

Stack & Produktionsnähe: Python, pydantic-ai, FastAPI/Celery, PostgreSQL/pgvector, FastMCP, fasta2a, Docker; mehrmandantenfähig (physische Vektor-Isolation je Mandant), PII verschlüsselt, OWASP-LLM-reviewt, 275 Tests, CI/CD; anbieter-portabel (Ollama / EU-Cloud-Vertex).

After-Sales Assistant – agentischer RAG-/GraphRAG-Assistent auf öffentlichen OEM-Handbüchern (Automotive After-Sales)

• Genuin agentisch auf LangGraph: ReAct-Agent mit vier Werkzeugen und Gesprächsge-dächtnis – das Modell entscheidet selbst, ob es das Handbuch (RAG, Chroma), einen Wissensgraphen (GraphRAG, Neo4j/Cypher – Warnleuchten dekodieren) oder einen Werkstatt-/Buchungsdienst anspricht.
• Human-in-the-Loop vor der irreversiblen Aktion: vor jeder Terminbuchung pausiert der Graph (interrupt) und holt die ausdrückliche Bestätigung des Fahrers – dieselbe Freigabe-vor-Aktion-Disziplin wie in BankingGPT, in einem anderen Framework.
• Eval als CI-Gate: dreiteiliges Scorecard (RAGAS-Grounding + deterministische Tool-Routing-Genauigkeit + DeepEval-Safety: führt die Antwort bei kritischer Warnung zuerst die Warnung an?) blockt die Pipeline; provider-agnostisch (OpenAI/Azure/Anthropic), FastAPI mit Token-Streaming.

Stack: Python, LangChain/LangGraph, Chroma, Neo4j, RAGAS/DeepEval, FastAPI, Docker.

• Mitwirkung an der Entwicklung einer fortschrittlichen RAG-KI-Chat-Anwendung, die mehrere LLM-Modelle integriert und es Benutzern ermöglicht, je nach Aufgabe nahtlos zwischen den Modellen zu wechseln. Dadurch wurde die Benutzererfahrung verbessert, da für verschiedene Anwendungsfälle wie Terminplanung, Buchungssysteme und die Verwaltung komplexer Aufgaben passende und effiziente Lösungen bereitgestellt werden.
• Beteiligung am Entwurf und an der Implementierung einer robusten Backend-Architektur mit Spring AI, die fortschrittliche KI-Funktionen wie intelligente Aufgabenautomatisierung, Sprachverarbeitung und kontextbezogene Empfehlungen ermöglicht. Einsatz von Spring-AI-Tools und Advisors zur Verbesserung der Leistung und Entscheidungsfindung der KI-Modelle.
• Mitarbeit bei der Integration von Vektordatenbanken zur Unterstützung von Embeddings, wodurch die Anwendung Benutzeranfragen besser verstehen und auf Grundlage komplexer Echtzeit-Dateneingaben Aktionen ausführen kann.
• Mitwirkung an der Entwicklung einer nahtlosen und benutzerfreundlichen Frontend-Oberfläche mit React und TypeScript, um eine moderne, responsive und skalierbare Benutzererfahrung auf verschiedenen Plattformen sicherzustellen.
• Unterstützung bei der Implementierung der Zustandsverwaltung mit Redux RTK für einen effizienten Datenfluss und Echtzeitaktualisierungen. Dadurch wurde die Benutzererfahrung in dynamischen Szenarien wie Terminplanung und Aufgabenverwaltung optimiert.
• Zusammenarbeit mit Stakeholdern bei der Definition von Funktionsanforderungen, um sicherzustellen, dass die Anwendung an sich ändernde Geschäftsanforderungen angepasst und in andere Systeme wie Kalender- und E-Mail-Dienste integriert werden kann. Zusammenarbeit mit funktionsübergreifenden Teams, darunter Data Scientists und UI/UX-Designer, zur Feinabstimmung der KI-Modelle und zur Abstimmung mit den Projektzielen.
• Mitwirkung an der Sicherstellung der durchgängigen Systemleistung, Sicherheit und Compliance durch die Integration von Authentifizierungsmechanismen, rollenbasierter Zugriffskontrolle und sicheren Kommunikationsprotokollen in Backend und Frontend.

Technologie-Stack und wichtigste Beiträge:

• Java / Spring Boot / Spring AI: Entwicklung von Backend-Services mit Spring AI für intelligente Antworten, Aufgabenautomatisierung und komplexe Workflows.
• React / TypeScript: Entwicklung intuitiver Benutzeroberflächen mit React und TypeScript für ein reibungsloses und skalierbares Frontend.
• Redux RTK: Verwaltung des Anwendungszustands mit Redux RTK für eine optimierte Zustandsverwaltung und dynamische Echtzeitaktualisierungen.
• Vektordatenbanken: Integration von Vektordatenbanken (pgVector) zur Unterstützung von Embeddings und Verbesserung der Leistung von KI-Modellen bei komplexen Anfragen.
• PostgreSQL / Redis: Verwaltung dauerhafter und temporärer Daten mit relationalen und In-Memory-Datenspeichern für Datenintegrität und Geschwindigkeit.
• Kafka: Einsatz von Apache Kafka für ereignisgesteuerte Kommunikation und eine nahtlose Integration zwischen Microservices.
• Spring Security: Sicherung der Backend-Services durch robuste Authentifizierungs- und Autorisierungsmechanismen.
• CI/CD und DevOps: Integration kontinuierlicher Integrations- und Deployment-Pipelines für eine schnelle und sichere Bereitstellung von Funktionen und Aktualisierungen.