LangGraph Experten in Deutschland

Produkt:

• Eine produktionsreife KI-Plattform entwickelt, die anhand von Produktdaten, Nutzeranforderungen und hochgeladenen Medien markengerechte Marketingbilder und -videos erstellt.
• Verantwortlich für Plattformarchitektur, technische Roadmap, API-Design, Sicherheit, Deployment-Abläufe, betriebliche Zuverlässigkeit und Strategie für Modellanbieter.
• Die Kernplattform mit .NET entwickelt und unterstützende KI- und Workflow-Prototypen in Python erstellt. Dabei sprachunabhängige API-Verträge und strukturierte Schnittstellen zwischen Services und Modellanbietern eingesetzt.
• Zuverlässige Hintergrundverarbeitung mit RabbitMQ, gespeichertem Workflow-Zustand, idempotenter Verarbeitung, Wiederholungsversuchen, Fehlerbehebung, Logging, sicherer Speicherung, Autorisierung und Abrechnung von Credits umgesetzt.
• Pragmatische Entscheidungen zu Eigenentwicklung oder Zukauf sowie zum Routing von Modellen getroffen, basierend auf Zuverlässigkeit, Latenz, Kosten und Wartbarkeit statt auf Neuheit.

Agenten-Orchestrierung & RAG-Systeme

• Agenten-Workflows mit Microsoft Agent Framework, LangGraph und LangChain entwickelt und verglichen, darunter Tool-Nutzung, bedingte Weiterleitung, Klärungsschritte, Zustandsverwaltung und Übergaben zwischen Agenten.
• Wiederverwendbare .NET-Komponenten für Agenten, Prompts, Tools, Modellanbieter, strukturierte Antworten und Retrieval mit pyvector implementiert. So lassen sich KI-Anbieter einfacher wechseln, ohne den Kern-Workflow neu zu schreiben.

• Claude-Code-Subagenten, MCP, Pydantic V2, pytest, bandit

• 3 spezialisierte Agenten entwickelt und produktiv eingesetzt, die die Arbeit entlang einer Kette weitergeben: Ein Forschungsagent erstellt eine zitierte Implementierungsspezifikation, ein Coding-Agent entwickelt den modularen Code und seine Tests, und ein Review-Agent bewertet die Ergebnisse nach Schweregrad und setzt die Korrekturen um. Jede Übergabe erfolgt als strukturiertes Dokument, sodass keine Phase vom Kontextfenster eines anderen Agenten abhängt.

• Den Forschungsagenten mit einem MCP-Server für akademische Recherche verbunden (Semantic Scholar, ArXiv, Hugging Face Hub, Zitationsverfolgung), sodass jede Referenz auf ein Tool-Ergebnis und nicht auf das Modell zurückgeht. Commits hinter ruff, mypy, pytest und bandit abgesichert, menschliche Freigabe vor Installationen und Commits verlangt und den Sitzungsstatus auf der Festplatte gespeichert, damit lange Läufe einen Kontext-Reset überstehen.

Auf Evidenz basierende Health-Intelligence-Plattform, die veröffentlichte Forschung in persönliche Gesundheitsprotokolle übersetzt. Sie bewertet 430 Gewohnheiten, Lebensmittel und Supplements anhand der Studien dahinter und passt den Score an, wenn sich die Evidenz ändert. Allein aufgebaut.

• Die tägliche Ingest-Pipeline über PubMed, bioRxiv und medRxiv aufgebaut: 43.000+ Papers aus 3.400+ Journals verarbeitet zu 230.000+ typisierten Evidenz-Claims, jeder einzelne zurückverfolgbar bis zur Studie, aus der er stammt.
• Das sechs Faktoren umfassende Evidenz-Scoring-Modell und das öffentliche Changelog dahinter entworfen, damit keine Empfehlung ohne die zugrunde liegenden Papers erscheint. Bis heute 23.000+ Score-Änderungen erfasst und erklärt.
• Das Entity-Informationsmodell aufgebaut, das jede Intervention mit ihren Mechanismen, Biomarkern und Outcomes verbindet: 118 Biomarker mit regionsspezifischen Referenzbereichen, 77 Mechanismen, 32 bewertete Outcomes.
• Die Personalisierungsschicht gebaut: Ingestion von Blutwerten, die Labor-PDFs mit einem Vision-Modell ausliest und Ergebnisse anhand der Aufwachzeit des Nutzers korrigiert, plus Integration von Oura, WHOOP und Withings für den täglichen Readiness-Kontext.
• Elf spezialisierte Review-Agents über Korpus und Codebase betrieben, für Paper-Kuration, Retrieval-Qualität, Health-Claim-Compliance über EU- und US-Regime hinweg sowie Security.
• Den Evidence Assistant ausgeliefert, einen RAG-Assistenten, der aus der Claim-Datenbank antwortet und die zugrunde liegenden Papers zitiert, plus eine B2B-Practitioner-Stufe, eine Expo React Native App und Lokalisierung in 3 Sprachen und 7 Märkten.

Stack: Next.js 16, TypeScript, Supabase, pgvector, Anthropic Claude, Vercel, DeepInfra.

• Vollständig On-Premises betriebene LLM-Plattform zur Dokumentenprüfung für einen Compliance-kritischen Bankbereich: agentenbasierte LangGraph-Pipeline mit deterministischer Verifizierung, jedes KI-Urteil strukturiert und an die Quelle gebunden; ~960 automatisierte Tests, kein Datenabfluss
• GPU-Durchsatzoptimierung (quantized serving, speculative decoding, prefix caching): 9.5-fache Beschleunigung der Extraktion, 500+ Fallakten mit mehreren Dokumenten pro Tag auf einer einzelnen A100
• KI-native EDI/EDIFACT-Integrationsplattform (~116k LOC Java 25 / Spring Boot 4, 1,900+ Tests): Von LLM erstellte Partnermappings werden vor dem Go-live maschinell verifiziert (DFDL-Konformität, Feldabdeckungsprüfungen, Testläufe), ~99.5% Byte-Übereinstimmung bei echten Kundendateien – ersetzt wochenlange manuelle Zuordnung pro Partner

Multi-Agenten-Plattform zur Dokumentenerstellung

Problem:

Aus einem einzelnen Prompt ein gut recherchiertes, strukturiertes und mit Quellen belegtes Dokument erstellen und dabei die Kontrolle beim Nutzer belassen: Jeder Schritt kann geprüft, korrigiert oder erneut aufgerufen werden, bevor das System fortfährt.

Architektur:

Ein Multi-Agenten-System, das von einer zentralen Steuerung koordiniert wird. Mehr als 20 spezialisierte pydantic-ai-Subagenten (Verstehen, Strukturieren, Planen, Recherchieren, Schreiben, Zusammenstellen, Querverweise prüfen, Glossar, Zitate, Referenztabelle und mehr) geben Ergebnisse anhand eines gemeinsamen, in Postgres gespeicherten Plans (asyncpg) weiter. Eine Runner-Schicht weist jede Aufgabe anhand ihres Namens einem Agenten zu. Mechanische Schritte wie Formatierung, Inhaltsverzeichnis und Abbildungsverzeichnis werden durch deterministischen Code statt durch LLM-Aufrufe erledigt. Der Anbieter (Anthropic oder OpenAI) wird über eine Konfiguration festgelegt, und Antworten werden über Server-Sent Events gestreamt.

Hosting & Infrastruktur:

Ein zustandsloser Container läuft als Scaleway Serverless Container in einem privaten Netzwerk mit verwaltetem PostgreSQL, Objektspeicher für fertige Dokumente und Assets sowie zentraler Protokollübertragung (Loki / Scaleway Cockpit). Bereitstellung mit OpenTofu-Modulen und Deployment über GitLab CI; die Nutzung wird pro API-Schlüssel abgerechnet.

Mein Beitrag und wichtige Entscheidungen:

• Zentrale Entscheidungssteuerung: Ein Zufriedenheitsklassifikator wandelt die Freitext-Rückmeldung des Nutzers in eine Entscheidung um (weiterarbeiten, fortfahren, abbrechen oder eine frühere Aufgabe überarbeiten). Eine Middleware wendet sie auf den Plan an. Der Plan kann zu früheren Aufgaben zurückspringen und die darauffolgenden Schritte erneut ausführen.
• Parallele Recherche und Texterstellung: Die Planung erstellt einen Plan, aus dem ein Recherche-Design-Agent einzelne Rechercheaufgaben und ein Schreib-Design-Agent einzelne Schreibaufgaben erstellt, die jeweils mit der benötigten Recherche verknüpft sind. Jede Aufgabe wird in einem eigenen Agenten mit eigenem Gesprächsverlauf ausgeführt.
• Selbstprüfung und Einbindung des Menschen: Nach jedem Schritt prüft ein Agent für kritisches Denken das Ergebnis. Bevor der Plan fortgesetzt wird, kann der Nutzer eine Kritik annehmen, überarbeiten oder Fragen dazu stellen.
• MCP-Integrationen: Zwei entfernte MCP-Server für die Websuche und die interne Dokumentensuche sind über pydantic-ai angebunden, mit Wiederholungsversuchen und Timeouts für lang laufende Tool-Aufrufe. Klassifikator-Agenten entscheiden für jede Aufgabe, ob eine Websuche nötig ist. Ein kleines Modell fasst rohe Suchergebnisse zu strukturierten Erkenntnissen zusammen, bevor sie die Schreibagenten erreichen.

Nutzungsabrechnung:

Kunden authentifizieren sich mit einem API-Schlüssel, der über einen Schlüsselverwaltungsdienst geprüft wird. Der Verbrauch wird in Credits abgerechnet, berechnet anhand der Token-Nutzung pro Modell zuzüglich eines Aufschlags. Bei ausgeschöpftem Kontingent wird HTTP 429 zurückgegeben.

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

Eigenverantwortlicher Aufbau einer Datenplattform mit systemübergreifendem Prozessmonitoring.

• Konzeption der Bronze/Silver/Gold-Architektur und Python-basierte Pipelines für heterogene operative Quellen.
• Bereinigung, Harmonisierung und Validierung der Daten; Verarbeitung und Ablage im Parquet-Format.
• Historisierung von Datenständen und Aufbau fachlicher Fakten- und Dimensionsmodelle für nachvollziehbare Auswertungen.
• Automatisierte Datenbereitstellung mit Python und Power Automate (Desktop und Cloud); SharePoint für Archivierung und Datenzugriff.
• Entwicklung der Power-BI-Lösung von der Datenaufbereitung bis zur Visualisierung von Prozesszuständen, Bearbeitungsständen und Abweichungen.

Technologien: Python, SQL, Parquet, Power BI, Power Query, Power Automate, SharePoint, Copilot

• KI-Integration (LLM & RAG): Konzeption und Aufbau eines internen, intelligenten RAG-Systems (Retrieval-Augmented Generation) auf Basis von LLMs, n8n und Vektordaten zur automatisierten Analyse technischer Dokumente und Fehlerprotokolle.
• Konzeption & Implementierung: Design einer robusten RS-232/UART-Kommunikationsschnittstelle für ein SBC-basiertes Embedded-Gerät zur Steuerung medizinischer Shaker-Systeme.
• Architektur & Protokolldesign: Umsetzung einer hochgradig wartbaren Softwarestruktur (OOP, SOLID) und Definition hardwarenaher, resilienter Kommunikationsprotokolle inklusive Multithreading und erweiterter Fehlerbehandlung.
• Qualitätssicherung & DevOps: Testautomatisierung mittels xUnit, Integrationstests direkt am Hardware-Target und Pflege der technischen Dokumentation nach strengen Medizintechnik-Standards via Azure DevOps.

Label: C#, .NET, LLMs, RAG, n8n, RS-232, UART, Multithreading, async/await, xUnit, gRPC/protobuf, Blazor, MudBlazor, EF Core, Visual Studio 2026, Azure DevOps

• Feinabstimmung und Evaluierung alternativer Backbone-Architekturen für den AFFGAN-Handschriftsstil-Encoder, um schriftstellerspezifische Merkmale besser zu erfassen; Benchmarking gegenüber der ursprünglichen Baseline-Architektur und Ersetzung der veralteten VGG19-Architektur durch einen benutzerdefinierten Transformer-basierten Encoder.
• Erweiterung des Systems über die Synthese auf Wortebene hinaus zur zeilenweisen Handschriftgenerierung durch Integration und Anpassung einer bestehenden Zeilengenerierungsarchitektur zur Unterstützung vollständiger Sätze.
• Bereitstellung der Handschriftgenerierungspipeline als Webanwendung, mit der Nutzer einen Schreibstil auswählen, eigenen Text eingeben und sofort ein entsprechendes Handschriftbild erzeugen können.
• Integration von TrOCR in ein Teacher-Student-Destillierungsframework zur Bewertung und Verbesserung der Lesbarkeit generierter Handschrift; Verbesserung der OCR-Genauigkeit um 20% gegenüber der Baseline.
• Steigerung der Auswahlraten in Nutzerstudien um 40%, was eine deutliche Verbesserung der wahrgenommenen Qualität und des Realismus der generierten Handschrift gegenüber dem Baseline-Modell zeigt.

Technologien: PyTorch, Python, GANs, CNN, ViT, TrOCR, Streamlit, CUDA.

Übertragungsnetzbetreiber – Plattform zur Netzwerkbereitstellung (Teamleitung)

• Entwarf den Saga-Orchestrator in Python, der Netzwerkstrukturen mit Rollback bereitstellt.
• Gliederte IP, Identität und Ressourcenverteilung in Bounded Contexts mit eigenen Datenbanken und typisierten Clients auf.
• Implementierte den Datenzugriff mit DDD-Repositories und Units of Work, ohne SQL im Domänencode.
• Führte Integrationstests mit echten PostgreSQL- und RabbitMQ-Containern sowie API-Fuzzing für jeden Service ein.
• Führte einen Agenten-Workflow ein, bei dem jede Änderung mit einer Spezifikation beginnt und ein Mensch jeden Merge freigibt.
• Rollte die automatische OpenTelemetry-Instrumentierung per GitOps über achtzehn Kubernetes-Cluster aus.
• Leitete die Reaktion auf Vorfälle bei festgefahrener Bereitstellung und hielt jeden Ausfall in einem Post-Mortem fest.

Verwendete Sprachen und Software: Python, FastAPI, Pydantic v2, SQLAlchemy async, PostgreSQL, RabbitMQ, Celery, pytest, testcontainers, schemathesis, Helm, Flux CD, GitLab CI, OpenTelemetry, pi coding agent.

Softwareproduktunternehmen – SaaS für Rechenzentrumssimulation (Backend-Entwicklung)

• Entwickelte als zweitgrößter von mehr als zwanzig Mitwirkenden die asynchrone Simulationspipeline.
• Kennzeichnete jedes Image in den GitHub-Actions-Deploy-Workflows mit Commit-SHA und SemVer.
• Diagnostizierte den RabbitMQ-Speicheralarm, der alle Simulationen zum Stillstand brachte, und korrigierte die Limits im Helm-Chart.
• Stellte die Testsuite auf pytest im Function-Style um und ließ die Testabdeckung in jeder Pipeline ausweisen.

Verwendete Sprachen und Software: Python, FastAPI, SQLAlchemy, Alembic, Celery, RabbitMQ, Redis, PostgreSQL, S3, EKS, Helm, Keycloak, GitHub Actions, pytest, mypy, ruff, SonarQube.

Interne KI-Plattform – Modellbereitstellung und Telemetrie

• Entwickelte den FastAPI-Service, der Open-Weight-Modelle auf GPU-Tiers als OpenAI-kompatible Endpunkte bereitstellt.
• Aktualisierte das EKS-Produktionssystem um zwei Kubernetes-Minor-Versionen und behob zonengebundene Speicherfehler.
• Erfasste jeden Modellaufruf mit Tokenanzahl, Kosten und Latenz über den OpenTelemetry-Operator.

Verwendete Sprachen und Software: Python, FastAPI, vLLM, LangGraph, pydantic-ai, OpenAI- und Anthropic-APIs, EKS, Helm, Flux CD, Terraform, GitLab CI, OpenTelemetry, Grafana.

• Architektur und Entwicklung einer agentischen Plattform zur kreativen Automatisierung auf Basis von Mastra, mit einer individuellen RAG-Pipeline, eigenen Hooks, Tools und Skills, Chroma für die Vektorspeicherung sowie einem MongoDB/Express-Backend.
• Entwicklung der Agenten-Orchestrierung für den Multi-Agenten-Arbeitsbereich von Pixomi, einschließlich 72 individueller Marketing-Skills, Tools und Hooks sowie einer eigenen Pipeline für das Kontextmanagement.
• Design und Implementierung von Evals und Observability über Mastra Studio.
• Gewinnung von 10 Pilotkunden aus dem SMB-Bereich, die innerhalb von 3 Monaten pro Kampagne 10-mal mehr veröffentlichungsfertige kreative Inhalte produzierten als bei manueller Erstellung.
• Durchführung von Customer Discovery und Feedbackschleifen mit Pilotkunden zur Entwicklung der Roadmap für eine AI-native, workflowbasierte Plattform zur Inhaltserstellung.

• ▶ Echtzeit-Sprachassistenten entwickelt (STT → LLM → TTS-Pipeline), mehrere STT-Anbieter einschließlich faster-whisper und Azure Speech getestet und bewertet. Latenz von unter 3 Sekunden erreicht, Groq API (Llama 3) mit Multi-Turn-Speicher eingesetzt – einschließlich direkter Behandlung von Sonderfällen bei Diktaten sowie der Erkennung von Namen und Zugangscodes.

Unabhängige Engineering-Praxis mit Schwerpunkt auf kundenspezifischen KI-Systemen, produktiver Umsetzung und anteiliger technischer Leitung.

Ausgewähltes Kundenprojekt: Scalutions

• Rolle: Tätigkeit als anteiliger CTO und technischer Leiter mit direkter Entwicklungsverantwortung; verantwortlich für die Architektur und die agentische Infrastruktur hinter dem betreuten B2B-Outbound-Betrieb.

• Produkt: OutboundLoop entworfen und entwickelt, ein agentisches SDR-Betriebssystem für Recherche, Qualifizierung, personalisierte Ansprache, Kampagnenmanagement, menschliche Freigaben, Messung und kontinuierliche Verbesserung.

• Umfang: Verantwortung für den gesamten Systemlebenszyklus – von Geschäftsprozessen und Agentenverhalten über Kontextdesign, Modell-Routing, Integrationen, Evaluierung, Telemetrie, Zuverlässigkeit und Kostenkontrolle bis hin zum Produktivbetrieb.

• Selbstständig · Berlin, Deutschland
• Mitgründung des Unternehmens und vollständige Verantwortung für den technischen Bereich: Produktarchitektur, Backend, Frontend, Infrastruktur und Betrieb.
• Konzeption und Entwicklung des Automated Booking System (ABS) sowie der Kernplattform und Zahlungslogik.
• Entwicklung KI-gestützter SaaS-Produkte – von der Architektur über Backend und Frontend bis zum Produktionsbetrieb.
• Technische Beratung zu Produktarchitektur, Datenschutz und zulässiger Automatisierung.
• Entwicklung, Betrieb und Monetarisierung eigener API-Produkte für KI-Agenten, jeweils als REST-Schnittstelle und MCP-Server verfügbar.
• Vollständige Verantwortung für Architektur, Infrastruktur, Abrechnung, Rechtstexte und Go-to-Market.