Retrieval-Augmented Generation Experten in Berlin

Branche: Verlagswesen, Medien Projektsteuerung für Konzeption einer RAG-basierten Archiv-Erschließung: souveräne On-Prem- oder Hybrid-Compute-Architektur für LLM- und Embedding-Betrieb, Pipeline für Transkription und automatische Verschlagwortung, semantische Suche über Audio-/Video-Bestände. Use-Case-Bewertung und Make-or-Buy gemeinsam mit Redaktion, Archiv und Justiziariat unter Berücksichtigung von Urheberrecht, Rundfunkstaatsvertrag und KI-VO. Differentiator: praktische LLM-Infrastruktur-Erfahrung aus zwei eigenen produktiven Plattformen kombiniert mit C-Level- Programmsteuerung in regulierten Branchen.

• Verantwortet end-to-end UX für zwei AI-SaaS-Produkte in Closed Beta, inklusive LLM-Interaction-Design, Prompt-UX und Human-in-the-Loop-Patterns; kommerzielle Distribution für Launch in Q3 2026 unterzeichnet
• Einen selbst entwickelten LLM-Reframing- und RAG-Korrektur-Pipeline gebaut, die die Produktion von mehreren CV- und Case-Study-Profilen ermöglicht
• Liefert echten Code parallel zur Forschung, darunter Three.js/GLSL-Portfolio-Arbeiten, Figma-API-Tools und eine Chrome-MV3-Extension für Session-Sync-Automation

• Verantwortlich für die Full-Stack-Entwicklung einer AI-native Unternehmensplattform auf Basis von TypeScript, React, Vite, tRPC, Hono und PostgreSQL, die KI-gestützte Beratungs-Workflows für B2B-Kunden liefert.
• Entwarf und lieferte ein Multi-Agenten-KI-System mit dem ReAct-Framework und Claude-Skills-Workflow-Mustern, inklusive eines intelligenten PM-Assistenten mit umfangreichen System-Prompts, Slash-Befehlen, Tool-Integrationen und Streaming-Chat-Oberfläche.
• Entwickelte ein LLM-Bewertungs-Framework: rubrikbasierte LLM-als-Richter, Golden Datasets, Regressionstests und automatisierte Qualitätssicherung — für konsistente KI-Ausgabequalität in großem Maßstab.
• Integrierte LangFuse für durchgehendes LLM-Tracking, Konversations-Wiedergaben und Bewertungs-Pipelines, was datengetriebene Prompt-Optimierung ermöglichte und Token-Kosten sowie Antwort-Varianz reduzierte.
• Implementierte Drizzle ORM, pgvector und Knowledge Graphs für strukturierten Datenzugriff, semantische Suche und beziehungsorientiertes KI-Schlussfolgern über die gesamte Plattform.
• Führte die TanStack React Query-Migration in der gesamten Anwendung durch — ersetzte manuelles State-Management durch zentrales Caching und automatisches Refetching, was den Boilerplate-Aufwand für Datenabrufe deutlich reduzierte.
• Setzte AI-native Entwicklung durchgehend ein: Claude Code, Codex, Perplexity SDK und LLM-unterstütztes Testing im gesamten Entwicklungszyklus. Deployment auf Vercel + Azure ACA mit Biome für Linting/Formatting.

• Die End-to-End-Auslieferung von Enterprise-Full-Stack-Webanwendungen geleitet, indem ich Anforderungsanalyse, Lösungsdesign, Frontend- und Backend-Entwicklung, Datenbankdesign, API-Integration, Code-Reviews, Teamkoordination, Agile Umsetzung, CI/CD-Deployments, Produktionssupport, Performance-Optimierung, Sicherheitsimplementierung und die Zusammenarbeit mit Stakeholdern gesteuert habe, um skalierbare, hochwertige Softwarelösungen zu liefern.

• Mentor eines Teams aus 6 ML-Platform-Engineers durch wöchentliche 1:1s, technische Design-Reviews und Best Practices; Verbesserung der Team-Produktivität um 35% durch strukturierte Sprint-Planung und Programme zur Skill-Entwicklung
• Definition der ML-Plattform-Roadmap 2025–2026 in Zusammenarbeit mit Data Science, Cloud Engineering und Product Teams; Priorisierung von automatisierter Model Governance, Cost-Attribution-Systemen und Multi-Environment-Deployment-Strategien
• Zusammenarbeit mit Stakeholdern aus Data Science, SRE und Product, um die Fähigkeiten der ML-Plattform mit den Geschäftszielen abzustimmen; Reduktion der Deployment-Hürden für Data Scientists um 60% durch Self-Service-Plattformen
• Architektur und Lieferung einer produktionsreifen MLOps-Plattform für 50+ Modelle in Produktion mit automatisierten Promotion-Pipelines, Versionierung und Rollback-Funktionen; Erreichung eines SLA von 99,5% Plattform-Uptime
• Design einer verteilten ML-Pipeline-Architektur mit Metaflow und Argo Workflows (Vertex Pipelines-kompatibel); Verkürzung der Modell-Trainingszeit um 30% und der Deployment-Zyklen von 2 Wochen auf 3 Tage durch vollständige CI/CD-Automatisierung
• Aufbau containerisierter ML-Services auf Kubernetes mit Auto-Scaling-Policies, Resource Quotas und Multi-Tenancy-Isolation; Optimierung der Infrastrukturkosten um 180K $ pro Jahr (25% Reduktion)
• Implementierung von Monitoring, Alerting und Performance-Tracking mit Prometheus, Grafana und Custom Instrumentation; Reduktion der Debugging-Zeit für Modelle um 50% und Einführung von SLOs für die Modell-Performance
• Leitung der Entwicklung einer RAG-basierten Document-Intelligence-Plattform mit LangChain, LangGraph und Vektor-Datenbanken; Implementierung von Agentic-AI-Workflows für die automatisierte Verarbeitung von Finanzdokumenten
• Implementierung von Infrastructure-as-Code mit Terraform für reproduzierbare Umgebungseinrichtung und GitOps-Workflows; Reduktion von Infrastruktur-Drift-Vorfällen um 80%
• Design von rollenbasiertem Zugriff für die ML-Plattform, Implementierung von Model-Lineage-Tracking und Aufbau von Audit Trails für regulatorische Compliance nach Enterprise-IAM-Best Practices

• Enterprise-Retrieval-Augmented-Generation-(RAG)-Anwendungen mit LangChain, LangGraph, Vektordatenbanken, Embeddings und Open-Source-LLMs entworfen und bereitgestellt, die über vLLM auf GCP-GPU-Infrastruktur betrieben wurden.
• Agentic-AI-Workflows mit LangGraph entwickelt, inklusive Planung, Schlussfolgern, Tool-Ausführung, persistenter Speicherung, Sitzungsverwaltung und Human-in-the-Loop-Freigabemechanismen.
• LLM-gestützte Automatisierungssysteme entwickelt, die BigQuery, SQL-Pipelines und externe Werbe-APIs wie Meta, TikTok, Amazon, Snapchat, Google und Pinterest integrieren und manuelle operative Abläufe reduzieren.
• Multi-Agent-AI-Systeme für Enterprise-Analytics- und Entscheidungsunterstützungs-Workflows entworfen, die autonome Aufgabenausführung und intelligente Dateninteraktionen ermöglichen.
• Retrieval-Optimierungsstrategien umgesetzt, darunter Multi-Retriever-Architekturen, semantische Suche, Kontextoptimierung und Query-Verbesserungstechniken, wodurch die Relevanz der Antworten um etwa 40 % verbessert wurde.
• Strukturierte Prompting-Strategien, Function-Calling-Schemata und Validierungs-Workflows entwickelt, um die Zuverlässigkeit von mehrstufigen LLM-Anwendungen zu verbessern.
• Skalierbare AI-Services mit Python, FastAPI, Cloud Run, Pub/Sub, BigQuery, Docker und cloud-nativen Bereitstellungsarchitekturen entworfen.

KI-Plattform-Backend – Senior Developer

Engagiert, um ein Backend für eine KI-Plattform von Grund auf zu konzipieren und aufzubauen, inklusive Multi-Provider-LLM-Orchestrierung und Echtzeitinfrastruktur für KI-Influencer-Personas im großen Maßstab.

Aufgaben und Verantwortlichkeiten

• Architektur und Implementierung einer Multi-LLM-Orchestrierungsschicht mit Semantic Kernel zur Integration von GPT-4 und weiteren Anbietern für die Kernplattformlogik und KI-Influencer-Personas, Reduzierung des Modellwechsel-Overheads durch Abstraktion der Anbieter-APIs hinter einer einheitlichen Schnittstelle.
• Entwurf und Entwicklung eines Backends von Grund auf in C# / .NET 10, einschließlich Domain-Modellierung mit DDD, versionierter RESTful-API-Schicht und Cloud-Infrastrukturaufbau auf Azure.
• Aufbau einer Echtzeit-Chat-Infrastruktur mit Server-Sent Events (SSE), Nachrichtenpersistenz und Zustellungsgarantien für den Live-Betrieb von KI-Influencer-Personas im großen Maßstab.
• Entwicklung eines Medienverwaltungsdienstes mit Integration von Cloud-Objektspeicher für Upload und Abruf influencer-generierter Inhalte.
• Erstellung einer Integrations- und Unit-Test-Suite mit Daten-Seeding für zuverlässige Regressionstests über alle Kernplattform-Flows, deutliche Reduzierung der Produktionsfehlerrate.

Werkzeuge und Technologien: C#, .NET, ASP.NET Core, Python, TypeScript, MySQL, Semantic Kernel, EF Core, Minimal APIs, LLM Orchestration, Prompt Engineering, Agentic AI, Generative AI, AI-Assisted Engineering, Claude Code, GitHub Copilot, Google Gemini, OpenAI API, Ollama, Redis, Azure, Azure Container Apps, Azure Database for MySQL, Docker, GitHub Actions, Clean Architecture, Vertical Slice Architecture, CQRS, Domain-Driven Design, REST API, xUnit, Integration Testing, Unit Testing, Jira, Confluence, Scrum

• Wandelt natürliche Sprache mit RAG und pgvector in JQL um. Gibt strukturiertes JSON mit einer Query, einer Chart-Spezifikation und einer Klartext-Antwort zurück. Ein zweistufiger Router beantwortet allgemeine Fragen ganz ohne den JQL-Pipeline-Pfad.
• Austauschbare LLM-Backends: Ollama, vLLM, Groq, Anthropic Claude, AWS Bedrock - zur Laufzeit umschaltbar, ohne Codeänderungen. Self-healing JQL: Bei Jira-Validierungsfehlern wird der Fehler an das LLM zurückgegeben und bis zu 4 Mal erneut versucht. OCI Vault für Secrets. Bereitgestellt auf Oracle Cloud A1 mit GPU-Inferenz über ein Tailscale-Privatnetzwerk. Open Source.

• Entwickelte ein JTBD-basiertes Priorisierungs-Framework für über 3.000 gesammelte Feature-Anfragen, identifizierte 27 Makler-Jobs, validierte 8 davon in 25 Nutzerinterviews und nutzte die daraus resultierende Job-Map als Live-Priorisierungsfilter für alle Eingangskanäle (Upvoty, CSAT, Beratungstickets).
• Verantwortlich für die Scout24-Lighthouse-Initiative: Document Intelligence mit vollständiger RAG-Architektur (semantisches Chunking, bge-m3 Embeddings, pgvector, BM25+Dense Hybrid-Retrieval).
• Reduzierte die Durchlaufzeit von Kunden-Feature-Anfragen auf 3,1 Tage durch Code-Analyse, Ticket-Spezifikation und eigenständige Implementierung mithilfe eines Coding-Agenten (Codex).
• Entwickelte einen LLM-basierten Support-Agenten (GPT-4o mini, Codex-generierte Merge Requests), der Eskalationen auf 3rd-Level von 40 % auf 5 % aller monatlichen Tickets reduzierte.
• Integrierte sechs Partner durch technische Koordination, Spezifikation, Backlog- und Release-Management und führte sieben Full-Stack-Entwickler.
• Beseitigte innerhalb von sechs Wochen regulatorische Risiken für Makler durch Risikoanalyse (BGH-Urteil zum Fernabsatz/GDPR), neue Audit-Funktionen und Koordination mit Rechts- und Datenschutzbeauftragten.

Enterprise-KI-Inhaltskategorisierung und KI-gestützte Web-Recherche.

• Multi-LLM-Evaluierungs-Framework mit annotierten Daten aufgebaut
• LLM-Fehlerraten anhand annotierter Datensätze iteriert
• KI-gestützte Web-Recherche-Pipeline implementiert Technologie-Stack: LLM, evals, OpenRouter, Python, Node.js, TypeScript, React

• Entwickelte und implementierte ein hybrides Empfehlungssystem (Content-Based + Collaborative Filtering)
• Baute End-to-End-ML-Pipelines inklusive Datenverarbeitung, Feature Engineering, Modelltraining und Bewertung
• Entwickelte RAG-basierte LLM-Systeme mit LangChain und Vektordatenbanken für semantische Suche und Wissensabruf
• Etablierte MLOps-Workflows mit MLflow für Experiment-Tracking, Versionierung und Deployment-Bereitschaft
• Implementierte Deep-Learning-Modelle (Computer Vision & Klassifikation) mit PyTorch und TensorFlow

• KI- und Data-Science-Lösungen geliefert, darunter LLM-basierte Chatbots und Datenpipelines, wodurch die operative Effizienz verbessert wurde.
• An Produktfunktionen mitgearbeitet, messbare Wirkung erzielt und starke Kundenbeziehungen gepflegt.

IOG (IOHK) ist eines der weltweit führenden Unternehmen für Forschung und Engineering im Bereich Blockchain-Infrastruktur.

• Ein lang laufendes R&D-Projekt in ein zusammenhängendes, produktionsreifes Testnet umgewandelt; dafür das 35-köpfige Engineering-Team (Core, QA, SRE) aufgebaut und skaliert.
• Strategische Ausrichtung definiert und die technologische Entwicklung als wichtiges Mitglied der Führung mit den Geschäftszielen abgestimmt.
• Softwareentwicklungsprozesse optimiert und agile Methoden eingeführt, was die operative Effizienz und die Code-Sicherheit verbessert hat.
• Projekte in einem schnelllebigen Startup-Umfeld durch effektives Projektmanagement und gute Ressourcenplanung umgesetzt.

• Tätigkeit als Senior People-&-Transformation-Berater für Startups und mittelständische Unternehmen; Leitung von Restrukturierungen, Neugestaltung des HR Operating Models und digitalen HR-Initiativen End-to-end.
• Steuerung der Auswahl und Implementierung von HRIS/ATS (inkl. Personio, Greenhouse etc.), Prozessdesign, Stakeholder-Alignment und interne Kommunikation zur Gewährleistung von Adoption und messbarem operativem Impact.
• Beratung von Führungskräften zu Workforce Planning, arbeitsrechtlichen Fragestellungen, Organisationsstruktur und Entscheidungsprozessen in Veränderungs- und Wachstumsphasen.
• Entwicklung pragmatischer Recruiting-Strategien für kritische Rollen (inkl. AI/Tech), Verbesserung der Sourcing-Ansätze, Funnel-Qualität und Einstellungsgeschwindigkeit.
• Ausgewählte Projekte:
• Marley Spoon SE: Unterstützung eines umfassenden Restrukturierungsprozesses mit Beratung zu Arbeitsrecht und Personalplanung.
• Promedio GmbH/Osteopro: HR-Digitalisierung, HRIS-Implementierung und Launch einer modernen Corporate Website (cross-funktionale Transformation).
• Journee GmbH: Beratung zu Tech-Recruiting und Talentstrategie für Senior-AI-Profile.
• PTW Europa GmbH: Erste HRIS-Implementierung, Prozessdesign und interne Kommunikation.
• Schwerpunkte: HR-Strategie, digitale HR-Transformation, HRIS/ATS-Implementierung, Change Management, Restrukturierung, Recruiting und Future Skills (KI im HR).