LangSmith-Experten in Deutschland

• Entwicklung eines KI-gestützten Projektorganisationstools für ein Tiefbauunternehmen, das Projekt-, Aufgaben-, Ausschreibungs-, Terminund Dokumentendaten intelligent über einen Knowledge-Graphenverknüpft.
• Implementation von KI-Funktionen zur Dokumentenanalyse, Informationsextraktion, kontextbezogenen Assistenz und sprachbasierten Datenerfassung auf Basis von Microsoft Azure AI, wodurch administrative Aufwände reduziert, Informationen schneller zugänglich gemacht und Projektteams bei Entscheidungen unterstützt werden.
• Technologie-Stack: Python, React, TypeScript, FastAPI, Claude Code, Codex, Graphify, PostgreSQL, Microsoft Azure AI Foundry, Azure OpenAI, Azure AI Speech, Azure AI Document Intelligence, Microsoft Graph, Microsoft Entra ID, Docker, Git, CI/CD.

Unabhängige Engineering-Praxis mit Schwerpunkt auf kundenspezifischen KI-Systemen, produktiver Umsetzung und anteiliger technischer Leitung.

Ausgewähltes Kundenprojekt: Scalutions

• Rolle: Tätigkeit als anteiliger CTO und technischer Leiter mit direkter Entwicklungsverantwortung; verantwortlich für die Architektur und die agentische Infrastruktur hinter dem betreuten B2B-Outbound-Betrieb.

• Produkt: OutboundLoop entworfen und entwickelt, ein agentisches SDR-Betriebssystem für Recherche, Qualifizierung, personalisierte Ansprache, Kampagnenmanagement, menschliche Freigaben, Messung und kontinuierliche Verbesserung.

• Umfang: Verantwortung für den gesamten Systemlebenszyklus – von Geschäftsprozessen und Agentenverhalten über Kontextdesign, Modell-Routing, Integrationen, Evaluierung, Telemetrie, Zuverlässigkeit und Kostenkontrolle bis hin zum Produktivbetrieb.

• Die End-to-End-Auslieferung von Enterprise-Full-Stack-Webanwendungen geleitet, indem ich Anforderungsanalyse, Lösungsdesign, Frontend- und Backend-Entwicklung, Datenbankdesign, API-Integration, Code-Reviews, Teamkoordination, Agile Umsetzung, CI/CD-Deployments, Produktionssupport, Performance-Optimierung, Sicherheitsimplementierung und die Zusammenarbeit mit Stakeholdern gesteuert habe, um skalierbare, hochwertige Softwarelösungen zu liefern.

• Hatte direkte Linienverantwortung für ein Team von 4 Platform Engineers — inklusive Hiring, Performance Reviews und Karriereentwicklung — und habe dabei einen gemeinsamen Rahmen für Engineering-Standards sowie eine Coaching-Kultur aufgebaut, die die Delivery über Kundenprojekte hinweg beschleunigt hat.
• Habe ein Team von Engineers geführt, um ein cloud-natives Voice-AI-System für einen großen Inspektionskunden zu entwerfen. Damit konnten 2.500 Außendienst-Inspektoren ihre Arbeit komplett freihändig per Echtzeit-Transkription und AI Agents dokumentieren — manuelle Dateneingabe über 440.000 Inspektionen pro Monat wurde eliminiert und die Kosten pro Nutzer von 9 $ auf 1 $ gesenkt. Stack: AWS (DynamoDB, S3, Transcribe, CloudFront, API Gateway, Bedrock), ElevenLabs, Claude.
• Habe ein Team von Engineers geführt, um das Management von Kubernetes-Clustern über mehrere Regionen für einen globalen SaaS-Marktführer zu automatisieren. Dadurch sank die Bereitstellungszeit von 3 Wochen auf unter einen Tag und 90 % der Konfigurationsfehler wurden eliminiert. Stack: EKS, Terragrunt, Python, Bash, ArgoCD.
• Accelerator - Cloud-agnostische KI-Plattform: Ich habe eine cloud-agnostische, Kubernetes-native Plattform als Accelerator entworfen und ausgeliefert. Damit wurde das Multi-Tenant-Management von selbst gehosteten LLMs im Enterprise-Maßstab ermöglicht, inklusive gleichzeitiger Bereitstellung mehrerer Basismodelle und dynamischem Serving von LoRA-Adaptoren. Ich habe die Produktionsinfrastruktur mit Open-Source-Tools (ArgoCD, Karpenter, vLLM, SGLang) entworfen, inklusive automatisiertem Modell-Lifecycle-Management, API-Security (Keycloak + LiteLLM) und kostenoptimierter GPU-Bereitstellung.

• Entwickelte einen maßgeschneiderten KI-Chatbot für einen E-Commerce-Kunden mit GPT-4 und LangChain inklusive RAG, wodurch das Volumen der Support-Tickets um 45 % sank und die Antwortgenauigkeit auf 92 % stieg.
• Entwarf und stellte ein System zur intelligenten Dokumentenverarbeitung mit LlamaIndex, Pinecone und FastAPI für ein FinTech-Startup bereit, das semantische Suche über mehr als 100.000 Finanzdokumente ermöglicht.
• Entwickelte Multi-Agenten-KI-Workflows mit CrewAI und LangGraph für eine Marketingagentur, automatisierte Lead-Recherche, Inhaltserstellung und Kontaktaufnahme — und sparte so über 20 Stunden manueller Arbeit pro Woche.
• Erstellte KI-gestützte Automatisierungspipelines mit n8n, Make und Zapier, integriert in CRMs (GoHighLevel, HubSpot), wodurch für ein Immobilienunternehmen die manuelle Dateneingabe um 80 % reduziert wurde.
• Beriet mehrere Kunden im Prompt-Engineering und bei der Feinabstimmung von LLMs, um KI-Modellausgaben für den Kundenservice, die Inhaltserstellung und die Datenextraktion zu optimieren.
• Erstellte produktionsreife REST-APIs mit Python und FastAPI zur Bereitstellung von KI-Modellen auf AWS und GCP und bewältigte dabei über 10.000 tägliche Anfragen mit 99,9 % Verfügbarkeit.

• Agierte als technischer Berater zur Optimierung von mehrschichtigen Ensemble-Modellen, die ResNet, CNN-BiGRU-Attention und XGBoost kombinierten.
• Begleitete die Umsetzung eines Logistic-Regression-Meta-Lerners zur Lösung von Klassenungleichgewichten und erreichte 92,86 % Genauigkeit und einen AUC-Wert von 0,9644 auf den Datensätzen PTB-XL und Chapman-Shaoxing.

Enterprise-KI-Inhaltskategorisierung und KI-gestützte Web-Recherche.

• Multi-LLM-Evaluierungs-Framework mit annotierten Daten aufgebaut
• LLM-Fehlerraten anhand annotierter Datensätze iteriert
• KI-gestützte Web-Recherche-Pipeline implementiert Technologie-Stack: LLM, evals, OpenRouter, Python, Node.js, TypeScript, React

• Aufbau und Skalierung von Cloud-Infrastruktur auf GCP zur Unterstützung einer SaaS-Plattform für Industriekunden
• Entwurf und Implementierung einer datengetriebenen DevOps-Pipeline für optimierte Deployments und CI/CD-Workflows
• Zusammenarbeit mit dem Data-Science-Team am MLOps-Workflow zur Automatisierung des integrierten Retrainings

• Leitung des Aufbaus des internen Automatisierungs- und Risikomanagement-Portals von Passify, Verbindung von Workflows zwischen Teams über SharePoint und Power Automate.
• Moderation von Retrospektive-Workshops und Erstellung von PRDs und Design-Tickets im PDLC.
• Unterstützung der ISO 27001-Dokumentation und Einhaltung, mit Fokus auf Kundensupport, Benutzerregistrierung und interne Kommunikationsprozesse.
• Mithilfe bei der Abstimmung von Design, Entwicklung und Betrieb in einem modularen Designzyklus, um sicherzustellen, dass jede Version sowohl Geschäfts- als auch Nutzeranforderungen erfüllt.
• Beitrag zur Feature-Planung und Validierung für Subunternehmer-Workflows, Schulungs-Dashboards und Verbesserungen des Terminal-Portals.

• Strategischer Übergang in KI-Engineering durch intensives Mentoring und Projektdurchführung.

• Entwicklung von MASX AI, einer agentischen KI-Plattform, die LangGraph, AutoGen und RAG für geopolitische Prognosen und Echtzeit-ETL integriert.

• Entwurf und Bereitstellung funktionsfähiger KI-Prototypen für potenzielle Kunden, die angewandte Expertise in Multi-Agenten-Systemen, Echtzeit-Datenpipelines und LLM-Integrationen demonstrieren.

• Führung eines funktionsübergreifenden Squads aus Backend-, Frontend- und ML/Data-Ingenieuren, dabei Balance zwischen operativer Mitarbeit (Architektur, Codierung, Reviews) und Teamführung (Mentoring, Priorisierung des Backlogs, Abstimmung der Roadmap).
• Konzeption und Umsetzung von ML-basierten Such- und Discovery-Funktionen, darunter Learning-to-Rank (LTR), Query Expansion und Vektor-Suche, was die Relevanz der Ergebnisse und das Nutzerengagement verbesserte.
• Implementierung von Personalisierungs- und Empfehlungspipelines unter Nutzung von Verhaltensdaten und Segmentierung zur Steigerung der Kundenbindung und des Customer Lifetime Value.
• Einführung datengetriebener Prozesse und Aufbau von A/B-Testing- und Experimentier-Workflows (Odyn, MLflow), um die Auswirkungen von Features auf CTR, NDCG und Conversion zu messen.
• Verantwortung für die Architektur und Roadmap des Squads, Modernisierung der Services durch cloud-native Microservices und eventgesteuerte Systeme (AWS, Pulumi, Terraform) zur Steigerung von Skalierbarkeit und Zuverlässigkeit.
• Erhöhte Zuverlässigkeit und operative Exzellenz durch Einführung von Observability (Prometheus, Grafana, NewRelic), Incident Management und Post-Mortems, die Ausfallzeiten bei Kundendienstleistungen verringerten.
• Mentoring und Unterstützung von Ingenieuren, Förderung des technischen Wachstums, der Zusammenarbeit und einer kundenorientierten Denkweise durch regelmäßiges Feedback, Coaching und Code Reviews.
• Enge Zusammenarbeit mit Produktmanagern, Forschern und Stakeholdern, um Kunden-Insights in technische Lösungen umzusetzen, die Discovery, Engagement und Kundenbindung verbesserten.
• Untersuchung von Anwendungsfällen für Generative AI/LLM (GPT-4, LangChain, RAG), Prototyping intelligenter Assistenten und personalisierter Discovery-Workflows, die die Nutzerzufriedenheit steigerten.
• Erzielt greifbare Ergebnisse: Steigerung des Engagements durch Personalisierung, Beitrag zum Umsatzwachstum und Verringerung von Vorfällen durch Integration von Resilienz und Observability.

• Entwarf und implementierte multimodale Unterhaltungstoolchains, die Passagierinput, Fahrzeugkontext, Large-Language-Modelle (Text-zu-Text und Sprache-zu-Sprache) sowie Bildgenerierungsmodelle kombinieren, um interaktivere und immersivere In-Car-Erlebnisse zu bieten.
• Entwickelte und orchestrierte Tools für LLM-basierte Agenten, inklusive Sitzungsverwaltung, Hintergrundaufgaben, dynamischer Nutzerinteraktionen und persistentem Anwendungszustand.
• Untersuchte Multi-Agenten-Orchestrierungsframeworks für In-Car-Umgebungen, bewertete Kommunikationsprotokolle und Architekturstrategien für koordinierte und zuverlässige Agentenverhalten.

• Aufbau eines KI-Forschungsassistenten mit RAG, LangChain, LangGraph und OpenAI-LLMs in Kombination mit Vektorsuche; Forschungszeit um 30% reduziert.
• Entwicklung maßgeschneiderter Retrieval-Workflows mit LlamaIndex und einem ReAct-Style-Agenten für dynamisches Chunking; Abfragegenauigkeit um 18% verbessert.
• Untersuchung und Optimierung von Embedding-Strategien, wodurch die Abrufkosten pro Anfrage um 15% gesenkt wurden.
• Entwicklung von RAG-Bewertungsframeworks mit RAGAS und Langsmith anhand eigener Datensätze; Abdeckung um 40% gesteigert.
• Feintuning von LLMs (LLaMA 2 auf Vertex AI mit eigenen Inferenz-Containern, dynamischem Batching und Quantisierung); Latenz der Inferenz um 25% verringert.
• Integration von KI-Agenten in LangGraph mit Kurz- und Langzeitspeicher (Mem0); Abschlussquote der Aufgaben um 20% erhöht.
• Erstellung schema-bewusster Generatoren für synthetische Daten; Feintuning nachgelagerter Modelle mit +12% F1-Score.