LangChain Experten in München

• Entwicklung eines KI-gestützten Projektorganisationstools für ein Tiefbauunternehmen, das Projekt-, Aufgaben-, Ausschreibungs-, Terminund Dokumentendaten intelligent über einen Knowledge-Graphenverknüpft.
• Implementation von KI-Funktionen zur Dokumentenanalyse, Informationsextraktion, kontextbezogenen Assistenz und sprachbasierten Datenerfassung auf Basis von Microsoft Azure AI, wodurch administrative Aufwände reduziert, Informationen schneller zugänglich gemacht und Projektteams bei Entscheidungen unterstützt werden.
• Technologie-Stack: Python, React, TypeScript, FastAPI, Claude Code, Codex, Graphify, PostgreSQL, Microsoft Azure AI Foundry, Azure OpenAI, Azure AI Speech, Azure AI Document Intelligence, Microsoft Graph, Microsoft Entra ID, Docker, Git, CI/CD.

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

• KI-Integration (LLM & RAG): Konzeption und Aufbau eines internen, intelligenten RAG-Systems (Retrieval-Augmented Generation) auf Basis von LLMs, n8n und Vektordaten zur automatisierten Analyse technischer Dokumente und Fehlerprotokolle.
• Konzeption & Implementierung: Design einer robusten RS-232/UART-Kommunikationsschnittstelle für ein SBC-basiertes Embedded-Gerät zur Steuerung medizinischer Shaker-Systeme.
• Architektur & Protokolldesign: Umsetzung einer hochgradig wartbaren Softwarestruktur (OOP, SOLID) und Definition hardwarenaher, resilienter Kommunikationsprotokolle inklusive Multithreading und erweiterter Fehlerbehandlung.
• Qualitätssicherung & DevOps: Testautomatisierung mittels xUnit, Integrationstests direkt am Hardware-Target und Pflege der technischen Dokumentation nach strengen Medizintechnik-Standards via Azure DevOps.

Label: C#, .NET, LLMs, RAG, n8n, RS-232, UART, Multithreading, async/await, xUnit, gRPC/protobuf, Blazor, MudBlazor, EF Core, Visual Studio 2026, Azure DevOps

• Aufbau und Betrieb einer End-to-End-MLOps-Plattform auf Azure ML und Kubernetes (Kubeflow) zur automatisierten Bereitstellung, Überwachung und Skalierung von Forecasting-Modellen (u. a. Temporal Fusion Transformer, Informer, Autoformer).
• Implementierung von CI/CD-Pipelines in Azure DevOps für den vollständigen ML-Lifecycle – von Ressourcbereitstellung (Terraform), Datentransformation (Hugging Face Datasets, Pandas, PyTorch, CUDA-Cluster) über Training und Evaluation bis hin zu Model Registry und Endpoint-Deployment.
• Integration von MLflow für Experiment-Tracking, Modellversionierung, Performance-Monitoring und automatisierte Registrierung in der Azure Model Registry.
• Entwicklung und Containerisierung von PyTorch-Trainingsjobs (Azure Notebook, Jupyter Notebooks) für Preis- und Zeitreihenprognosen (PFC-Modelle) mit automatischem Rollout über Azure ML Endpoints und REST/gRPC-Schnittstellen, Docker-Containerisierung, Absicherung über OAuth 2.0.
• Einrichtung von Monitoring- und Alerting-Mechanismen (Prometheus, MLflow Metrics), Log-Zentralisierung und Kostenüberwachung.
• Automatisierung der Infrastruktur-Bereitstellung und Modellbereitstellung mittels Terraform, Helm und Azure CLI; Anbindung an bestehende Marktdatensysteme und Event-Pipelines.
• Migration bestehender Workloads und Datenbanken (IONOS → Azure, MongoDB) mit Integration in zentrale MLOps-Workflows und interne Netzwerke.
• Erweiterung der Plattform um LLM-basierte Tools (LangChain, LangServe) zur Integration von GPT-basierten Analysemodulen in bestehende Spring-Boot-Dienste für Marktanomalie-Erkennung und automatisierte Reports.
• Analyse, Architektur einer Softwarelösung zur effizienten Verarbeitung von Massendaten (>3000 Nachrichten/Sek.) (Market Data Store).
• Spring Boot / Java 21 Container-Entwicklung mit RabbitMQ zur Verteilung von Börsendaten über MongoDB (Kubernetes) mit Schnellspeicherung von Daten in Redis RMaps, Deduplizierung und Weiterleitung von Nachrichten an Read-Model-Queues, Aufbau von Read Models für die UI-Anzeige in MongoDB.
• Einbindung von RESTHeart zur Erzeugung einer REST API gegen MongoDB.
• Aufbau eines Angular-Frontends zur Vereinfachung der Datenabfrage und Stammdatenpflege.
• Agentic Coding mit remote und local LLM (Claude Sonnet, Ollama Qwen) und MCP-Servern.
• Entwicklung von Python-Skripten zur Transformation und Bereinigung eingehender Börsendaten (Pandas, scikit-learn).

• Entwurf durchgängiger KI/ML-Lösungen mit starkem Fokus auf fortschrittliche LLM-Anwendungen, autonome agentische KI-Workflows mit dem MCP-Toolset, Berechnungen von vLM-Embeddings und robuste agentische RAG-Pipelines, um für Kunden aus verschiedenen Branchen einen konkreten Geschäftsnutzen zu schaffen.
• Entwicklung intelligenter agentischer KI-Workflows zur Automatisierung des Abrufs von Wissen und der Schlussfolgerungen für B2B-Kunden, um schneller Geschäftsnutzen zu erzielen.

• Governed Multi-Agent Orchestration für regulierte, EU-ansässige Unternehmen – self-hostable, EU-AI-Act- und DSGVO-konform („by design“), BYOM (eigene Modelle/GPU).
• Zwei-Gate-Governance: Agenten-Deliberation + verpflichtende menschliche Freigabe, vollständiger signierter Audit-Trail; Graduated-Autonomy-Modell („intern → autonom pro Skill“).
• Verifizierter Wissensgraph („Company Brain“) mit Quellenbeleg pro Antwort; eigenes Orchestrierungs-Framework (Virtual Team Framework).
• Branchenlösungen für Financial Services: Compliance-Monitoring, Rechnungs- und Vertragsprüfung; Hands-on-Entwicklung mit LLMs (u.a. Anthropic/Claude), agentischen Workflows, RAG.
• Aufbau der governance-orientierten Multi-Agenten-Plattform TeamIntel (siehe KI-Referenzprojekte).

• Einsatz moderner JavaScript-Funktionen einschließlich ES6+-Syntax, Destructuring, Modulen, Array-Methoden und asynchroner Programmierung zur Entwicklung effizienter und gut lesbarer Frontend-Software.
• Umsetzung von Frontend-Integrationsmustern für PHP- und Laravel-Backend-Services, Anbindung von React-Oberflächen an REST-APIs und Verarbeitung strukturierter JSON-Daten.
• Entwicklung interaktiver, funktionaler und komponentenbasierter Frontend-Anwendungen mit React Hooks, JavaScript und TypeScript sowie Backend-Anwendungen und RESTful APIs mit Python, Django, Flask und FastAPI, mit Fokus auf wiederverwendbare Komponenten, modulare Architektur, Wartbarkeit und effiziente Datenverarbeitung.
• Pflege einer dynamischen Portfolio-Plattform mit PHP, Laravel, Livewire und MySQL sowie Umsetzung der vollständigen Funktionalität über Frontend-Oberflächen, Backend-Services und Datenbankoperationen hinweg.
• Überprüfung der serverseitigen Anfrageverarbeitung, des Routings, der Middleware und der Formularvalidierung mithilfe von Laravel-Funktionen zur Unterstützung zuverlässiger Anwendungsabläufe und einer konsistenten Datenverarbeitung.
• Entwurf und Verwaltung relationaler Datenbankstrukturen mit MySQL und Laravel Eloquent ORM sowie Implementierung von Datenmodellen, Beziehungen, Datenbankmigrationen und effizienten Abfragen für das Content-Management.
• Entwicklung KI-gestützter Anwendungen mit Large Language Models (LLMs) über externe APIs und lokal gehostete Modelle sowie Untersuchung praktischer Anwendungsfälle für dialogorientierte KI, intelligente Automatisierung und KI-gestützte Workflows.
• Entwicklung lokaler KI-Anwendungen und Entwicklertools zum Ausführen, Konfigurieren und Interagieren mit lokal gehosteten Sprachmodellen sowie praktische Erfahrung mit lokaler Inferenz, Modellintegration und datenschutzbewussten KI-Workflows.
• Untersuchung von Retrieval-Augmented-Generation-(RAG)-Ansätzen zur Kombination von Sprachmodellen mit externen Wissensquellen und zur Ermöglichung kontextbezogener Antworten auf Grundlage relevanter Anwendungsdaten und abgerufener Informationen.
• Integration von KI-Services in Backend-APIs und Anwendungskomponenten sowie Entwicklung wiederverwendbarer Module für Modellkommunikation, Antwortverarbeitung, Fehlerbehandlung und Datenaustausch.

Interne Systeme mit regulatorischen und sicherheitsrelevanten Anforderungen konnten nicht direkt durch KI-Tools für Incident-Triage, Fehlersuche und Dokumentationssuche genutzt werden. Ziel war die sichere Integration dieser Systeme über MCP unter Beibe...

Durchführung einer unabhängigen technischen Bewertung einer KI-gestützten Softwareplattform, wobei KI-Risikoaudit, Cybersicherheitsanalyse und Prüfung der Softwarearchitektur kombiniert wurden. Prüfung von Anwendungskomponenten, APIs, Datenflüssen, LLM-Integrationen, Retrieval-Augmented Generation, Multi-Agenten-Orchestrierung, Authentifizierung, Mandantentrennung, Abhängigkeitsschwachstellen, KI-Governance und Kontrollen des Modelllebenszyklus. Erstellung eines technischen Auditberichts mit strukturiertem Risikoregister, Quellcodebelegen, regulatorischen Referenzen, Korrekturmaßnahmen, Inventar der KI-Systeme, Risikoklassifizierung, Maßnahmenplan und Key Risk Indicators.

Technologien: TypeScript, JavaScript, React, Next.js, Node.js, REST APIs, MongoDB, Redis, AWS serverless services, OAuth 2.0 / OpenID Connect, LLM APIs, RAG, vector search, multi-agent orchestration, Model Context Protocol, C4 architecture modelling, threat modelling, NIST AI RMF, ISO/IEC 42001, ISO/IEC 23894, OWASP guidance, MITRE ATLAS

• Aufbau eines KI-Rechtsassistenten mit modernen ML-Fähigkeiten.
• Implementierung einer RAG-Architektur mit Datenpipelines für die Suche in Rechtsdaten.
• Einsatz von AWS Bedrock für LLM- und Embedding-Modelle sowie LangChain/LangGraph
• Python mit FastAPI für das Backend und React für das Frontend

• Modelle für Chatbots, NLP und LLMs (z. B. Llama, Qwen, OpenAI) erforschen und entwickeln
• Chatbots mit RAG und In-Context Learning verbessern
• Supervised Fine-Tuning (PEFT, LoRA), Huggingface oder Unsloth
• Fortgeschrittene Trainingsmethoden: Test-Time Training, (transduktives) Active Learning, Reinforcement Learning
• Serving mit hohem Durchsatz mit vLLM
• Embedding-Modelle anwenden (z. B. SentenceTransformers), Similarity-/Vektorsuche oder Vektor-DB oder Ranking (z. B. LlamaIndex, Faiss, LangChain)
• Synthetische Daten erzeugen und filtern, Clustering
• Halluzinationen erkennen
• Chatbot-Modelle bewerten (Rouge, BLEU, F1-Score, Recall, Precision)
• Visualisierung von Experimenten (matplotlib)

• Gesamtverantwortung für den Projektlebenszyklus von der Umfangsdefinition bis zum Abschluss
• Enge Zusammenarbeit mit Plattform-Teams, IT-Führungskräften und externen Dienstleistern
• Anwendung von SAFe-Prinzipien und strukturierte Sprint-Arbeit
• Erstellung eines Migrationsfahrplans mit klaren Meilensteinen
• Überwachung des Lifecycles: Onboarding, Repository-Migration, Replikation von Berechtigungen und Systemtests
• Visualisierung der Architektur mit PlantUML und Gliffy sowie Dokumentation in Confluence
• Regelmäßige Statusberichte und Durchführung von Wissenstransfer-Sessions

• Absolvierte ein intensives AI-Engineering-Programm mit Fokus auf LLM-Bewertung, Retrieval, Agenten-Orchestrierung und multimodalen Workflows.
• Entwarf Retrieval-Pipelines mit Dokumentenaufnahme, semantischer Suche und zitatbewussten Ausgaben unter Verwendung von LangChain und ChromaDB.
• Erstellte agentenbasierte Workflows auf Basis von LangGraph mit Statusverwaltung, Klärungsschleifen und Freigabeschritten mit Mensch-in-der-Schleife.
• Setzte Prompt-Engineering und Evaluationsmuster ein, einschließlich Scoring-Logik und Guardrails, um die Ausgabequalität und Zuverlässigkeit zu verbessern.
• Arbeitete intensiv mit Python, FastAPI, OpenAI-APIs, LangChain, LangGraph und ChromaDB in End-to-End-Implementierungen.

• Synthetische Datensätze für die Erkennung von CXR, Mammografien und distalen Radiusfrakturen mithilfe von GANs und Diffusionsmodellen generiert und dabei >50k synthetische Bilder für Benchmarking erstellt.
• DSGVO-konforme Prozesse und Reproduzierbarkeit sichergestellt, wodurch die Nutzung des Datensatzes für interne Validierungen und akademische Zusammenarbeit ermöglicht wurde.
• Das Projekt wurde in der internen R&D-Präsentation von MedTank als wegweisende Initiative für synthetische Daten vorgestellt.