LangChain Experten in München

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

Produkt:

• Eine produktionsreife KI-Plattform aufgebaut, die markenkonforme Marketingbilder und Videos aus Produktdaten, Nutzeranforderungen und hochgeladenen Medien erzeugt.
• Die Plattformarchitektur, die technische Roadmap, das API-Design, die Sicherheit, den Deployment-Workflow, die operative Zuverlässigkeit und die Strategie für Modellanbieter verantwortet.
• Die Kernplattform in .NET entwickelt und unterstützende KI- und Workflow-Prototypen in Python gebaut, mit sprachunabhängigen API-Verträgen und strukturierten Schnittstellen zwischen Services und Modellanbietern.
• Zuverlässige Hintergrundverarbeitung mit RabbitMQ implementiert, Workflow-Zustände gespeichert sowie idempotente Verarbeitung, Retries, Fehlerbehebung, Logging, sichere Speicherung, Autorisierung und Credit-Abrechnung umgesetzt.
• Pragmatische Build-vs.-Buy- und Modellrouting-Entscheidungen auf Basis von Zuverlässigkeit, Latenz, Kosten und Wartbarkeit getroffen, statt auf Neuheit.

Agenten-Orchestrierung & RAG-Systeme

• Agenten-Workflows mit Microsoft Agent Framework, LangGraph und LangChain aufgebaut und verglichen, einschließlich Tool-Nutzung, bedingter Weiterleitung, Klärungsschritten, Zustandsverwaltung und Übergaben zwischen Agenten.
• Wiederverwendbare .NET-Komponenten für Agenten, Prompts, Tools, Modellanbieter, strukturierte Antworten und Retrieval mit pyvector implementiert, um den Wechsel von KI-Anbietern zu erleichtern, ohne den Kern-Workflow neu schreiben zu müssen.

• KI-Integration (LLM & RAG): Konzeption und Aufbau eines internen, intelligenten RAG-Systems (Retrieval-Augmented Generation) auf Basis von LLMs, n8n und Vektordaten zur automatisierten Analyse technischer Dokumente und Fehlerprotokolle.
• Konzeption & Implementierung: Design einer robusten RS-232/UART-Kommunikationsschnittstelle für ein SBC-basiertes Embedded-Gerät zur Steuerung medizinischer Shaker-Systeme.
• Architektur & Protokolldesign: Umsetzung einer hochgradig wartbaren Softwarestruktur (OOP, SOLID) und Definition hardwarenaher, resilienter Kommunikationsprotokolle inklusive Multithreading und erweiterter Fehlerbehandlung.
• Qualitätssicherung & DevOps: Testautomatisierung mittels xUnit, Integrationstests direkt am Hardware-Target und Pflege der technischen Dokumentation nach strengen Medizintechnik-Standards via Azure DevOps.

Label: C#, .NET, LLMs, RAG, n8n, RS-232, UART, Multithreading, async/await, xUnit, gRPC/protobuf, Blazor, MudBlazor, EF Core, Visual Studio 2026, Azure DevOps

• Gesamtverantwortung für den Projektlebenszyklus von der Umfangsdefinition bis zum Abschluss
• Enge Zusammenarbeit mit Plattform-Teams, IT-Führungskräften und externen Dienstleistern
• Anwendung von SAFe-Prinzipien und strukturierte Sprint-Arbeit
• Erstellung eines Migrationsfahrplans mit klaren Meilensteinen
• Überwachung des Lifecycles: Onboarding, Repository-Migration, Replikation von Berechtigungen und Systemtests
• Visualisierung der Architektur mit PlantUML und Gliffy sowie Dokumentation in Confluence
• Regelmäßige Statusberichte und Durchführung von Wissenstransfer-Sessions

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

Projekt: Steuern Freistellungsauftrag Anwendung

Der Kunde verfügt über eine bestehende Anwendung zur Erstellung und Pflege von Steuerbefreiungsaufträgen für Endkunden; Konzeption und Implementierung einer vergleichbaren Anwendung für interne Mitarbeiter.

• Entwurf und Implementierung von Microservices und der UI für den Fachbereich „Steuerbefreiungsaufträge“ unter Anwendung von Domain Driven Design sowie Spring Boot und Angular.
• Implementierung reaktiver, nicht-reaktiver und asynchroner APIs (Spring REST, WebFlux, GraphQL).
• Entwicklung der Angular-Anwendung, einschließlich State Management mittels Signals, RxJS Observables und Subscriptions.
• Absicherung der API und der Anwendung unter Verwendung von OAuth2, JWT und OpenID Connect.
• Konfiguration und Einrichtung von CI/CD-Pipelines mit Jenkins.
• Zusammenarbeit mit funktionsübergreifenden Teams sowie Durchführung von Code-Reviews.

Umfeld: Java, Spring Boot, Angular 18 & 19(standalone, signals), RxJs, Bootstrap CSS, Vitesting, OpenShift, Istio, microservices, Kafka, Dynatrace, Jenkins, GitLab, Graylog, Sonar, Oauth2, OracleDB

• Governed Multi-Agent-Orchestrierung für regulierte, in der EU ansässige Unternehmen – selbst hostbar, EU-AI-Act- und DSGVO-konform („by design“), BYOM (eigene Modelle/GPU).
• Zwei-Gate-Governance: Agenten-Deliberation + verpflichtende menschliche Freigabe, vollständiger signierter Audit-Trail; Graduated-Autonomy-Modell („intern → autonom pro Skill“).
• Verifizierter Wissensgraph („Company Brain“) mit Quellenbeleg pro Antwort; eigenes Orchestrierungs-Framework (Virtual Team Framework).
• Branchenlösungen für Financial Services: Compliance-Monitoring, Rechnungs- und Vertragsprüfung; praktische Entwicklung mit LLMs (u.a. Anthropic/Claude), agentischen Workflows, RAG.
• Aufbau der governance-orientierten Multi-Agenten-Plattform TeamIntel (siehe KI-Referenzprojekte).

• Aufbau eines KI-Rechtsassistenten mit modernen ML-Fähigkeiten.
• Implementierung einer RAG-Architektur mit Datenpipelines für die Suche in Rechtsdaten.
• Einsatz von AWS Bedrock für LLM- und Embedding-Modelle sowie LangChain/LangGraph
• Python mit FastAPI für das Backend und React für das Frontend

Loom and Bloom

Python · TypeScript · n8n · Claude Code · Whisper · Gemini · Supabase · Notion · HubSpot · Digital Ocean

• Eine End-to-End-Content-Pipeline gebaut: ein Loom-Video → Marketing-Bilder, zweisprachige LinkedIn-Posts, Newsletter- und Help-Center-Updates.
• n8n-Webhook → SSH → Claude Code-Session auf einer Digital-Ocean-VPS; drei MCP-Server (Video, Notion, Supabase).
• Whisper-Transkription auf Wortebene, ffmpeg-Screenshots, Gemini-UI-Annotation, PIL-Device-Mockups.
• Next.js-Upload-UI plus ein zweisprachiger Newsletter-Composer mit HubSpot-Push.

Mitgründung eines KI-nativen Startups für Sprachenlernen sowie Definition der Produktvision, KI-Architektur und technischen Roadmap. Entwicklung und Aufbau des KI- und Backend-Stacks einschließlich Pipelines zur Feinabstimmung von LLMs, individueller agentischer Workflows und skalierbarer Inferenzinfrastruktur. Das erste Produkt befindet sich derzeit in einer privaten Betaphase.

• Modelle für Chatbots, NLP und LLMs (z. B. Llama, Qwen, OpenAI) erforschen und entwickeln
• Chatbots mit RAG und In-Context Learning verbessern
• Supervised Fine-Tuning (PEFT, LoRA), Huggingface oder Unsloth
• Fortgeschrittene Trainingsmethoden: Test-Time Training, (transduktives) Active Learning, Reinforcement Learning
• Serving mit hohem Durchsatz mit vLLM
• Embedding-Modelle anwenden (z. B. SentenceTransformers), Similarity-/Vektorsuche oder Vektor-DB oder Ranking (z. B. LlamaIndex, Faiss, LangChain)
• Synthetische Daten erzeugen und filtern, Clustering
• Halluzinationen erkennen
• Chatbot-Modelle bewerten (Rouge, BLEU, F1-Score, Recall, Precision)
• Visualisierung von Experimenten (matplotlib)

• Synthetische Datensätze für die Erkennung von CXR, Mammografien und distalen Radiusfrakturen mithilfe von GANs und Diffusionsmodellen generiert und dabei >50k synthetische Bilder für Benchmarking erstellt.
• DSGVO-konforme Prozesse und Reproduzierbarkeit sichergestellt, wodurch die Nutzung des Datensatzes für interne Validierungen und akademische Zusammenarbeit ermöglicht wurde.
• Das Projekt wurde in der internen R&D-Präsentation von MedTank als wegweisende Initiative für synthetische Daten vorgestellt.

• Absolvierte ein intensives AI-Engineering-Programm mit Fokus auf LLM-Bewertung, Retrieval, Agenten-Orchestrierung und multimodalen Workflows.
• Entwarf Retrieval-Pipelines mit Dokumentenaufnahme, semantischer Suche und zitatbewussten Ausgaben unter Verwendung von LangChain und ChromaDB.
• Erstellte agentenbasierte Workflows auf Basis von LangGraph mit Statusverwaltung, Klärungsschleifen und Freigabeschritten mit Mensch-in-der-Schleife.
• Setzte Prompt-Engineering und Evaluationsmuster ein, einschließlich Scoring-Logik und Guardrails, um die Ausgabequalität und Zuverlässigkeit zu verbessern.
• Arbeitete intensiv mit Python, FastAPI, OpenAI-APIs, LangChain, LangGraph und ChromaDB in End-to-End-Implementierungen.

• Integration der LangChain-Middleware zwischen AEM und SAP-PIM-System
• Entwicklung einer FastAPI-Schnittstelle für die Systemkommunikation
• Implementierung von Vektor-Embeddings für die semantische Produktsuche
• Evaluation von LLM-Modellen (Vertex AI/Gemini, LM Studio, Hugging Face, OpenAI) für Produktanalysen
• Entwicklung einer AEM-Komponente zur Anzeige von Produktempfehlungen und Integration der Empfehlungs-API in den AEM-Authoring-Prozess
• Konzeption und Implementierung einer Pinecone-Vektordatenbank für Produkt-Embeddings
• Optimierung von Antwortzeiten und Caching-Strategien
• Evaluation von Vertex AI Studio für LLM-Tests und Prompt-Workflows
• Umsetzung sicherer API-Routing- und Zugriffskontrollen für KI-Komponenten per FastAPI und Gateway-Validierung