Llama Experten in Berlin

• ▶ Echtzeit-Sprachassistenten entwickelt (STT → LLM → TTS-Pipeline), mehrere STT-Anbieter einschließlich faster-whisper und Azure Speech getestet und bewertet. Latenz von unter 3 Sekunden erreicht, Groq API (Llama 3) mit Multi-Turn-Speicher eingesetzt – einschließlich direkter Behandlung von Sonderfällen bei Diktaten sowie der Erkennung von Namen und Zugangscodes.

• Tätigkeit als technischer Berater zur Optimierung mehrschichtiger Ensemble-Modelle, die ResNet, CNN-BiGRU-Attention und XGBoost kombinieren.
• Begleitung der Implementierung eines Logistic-Regression-Meta-Learners zur Lösung von Problemen mit unausgeglichenen Klassen; dabei wurden 92.86% Genauigkeit und 0.9644 AUC bei den Datensätzen PTB-XL und Chapman-Shaoxing erreicht.

• Enterprise-Retrieval-Augmented-Generation-(RAG)-Anwendungen mit LangChain, LangGraph, Vektordatenbanken, Embeddings und Open-Source-LLMs entworfen und bereitgestellt, die über vLLM auf GCP-GPU-Infrastruktur betrieben wurden.
• Agentic-AI-Workflows mit LangGraph entwickelt, inklusive Planung, Schlussfolgern, Tool-Ausführung, persistenter Speicherung, Sitzungsverwaltung und Human-in-the-Loop-Freigabemechanismen.
• LLM-gestützte Automatisierungssysteme entwickelt, die BigQuery, SQL-Pipelines und externe Werbe-APIs wie Meta, TikTok, Amazon, Snapchat, Google und Pinterest integrieren und manuelle operative Abläufe reduzieren.
• Multi-Agent-AI-Systeme für Enterprise-Analytics- und Entscheidungsunterstützungs-Workflows entworfen, die autonome Aufgabenausführung und intelligente Dateninteraktionen ermöglichen.
• Retrieval-Optimierungsstrategien umgesetzt, darunter Multi-Retriever-Architekturen, semantische Suche, Kontextoptimierung und Query-Verbesserungstechniken, wodurch die Relevanz der Antworten um etwa 40 % verbessert wurde.
• Strukturierte Prompting-Strategien, Function-Calling-Schemata und Validierungs-Workflows entwickelt, um die Zuverlässigkeit von mehrstufigen LLM-Anwendungen zu verbessern.
• Skalierbare AI-Services mit Python, FastAPI, Cloud Run, Pub/Sub, BigQuery, Docker und cloud-nativen Bereitstellungsarchitekturen entworfen.

• Wandelt natürliche Sprache mithilfe von RAG und pgvector in JQL um. Liefert strukturiertes JSON mit einer Abfrage, einer Diagrammspezifikation und einer Antwort in Klartext. Ein zweistufiger Router beantwortet allgemeine Fragen, ohne die JQL-Pipeline überhaupt zu verwenden.
• Austauschbare LLM-Backends: Ollama, vLLM, Groq, Anthropic Claude, AWS Bedrock – zur Laufzeit umschaltbar, ohne Codeänderungen. Selbstheilendes JQL: Bei einem Jira-Validierungsfehler wird der Fehler an das LLM zurückgegeben und bis zu 4-mal erneut versucht. OCI Vault für Geheimnisse. Auf Oracle Cloud A1 bereitgestellt, mit GPU-Inferenz über ein privates Tailscale-Netzwerk. Open Source.

• IT-Beratung, Coaching und Umsetzung mit Schwerpunkt auf KI

• Entwickle und präsentiere Lösungen mit GenAI-Software wie langchain, vercel ai sdk, copilotkit
• Arbeite mit Kunden zusammen, um ihre Herausforderungen zu verstehen und die besten Lösungen auf Basis von Open-Source-Datenprodukten zu liefern
• Baue RAG- und GraphRAG-Lösungen mit Neo4j, lancedb und Postgres
• Setze eine LLMOps-Plattform mit kubernetes, terraform, helmfile, Arize phoenix, mlflow auf
• Entwerfe und baue Datenpipelines mit dbt, Trino, Spark, Iceberg, Airflow, ArgoCD, terraform, kubernetes
• Lieferte eine nutzerzentrierte technische Strategie für Agriculture 4.0 und Precision Livestock Farming und half meinem Kunden, Fördermittel von Bpifrance zu sichern
• Entwickelte ein Prospecting-Tool für einen führenden französischen Solar-Carport-Installateur mit Geospatial Computing (GIS), wodurch der Vertriebsprozess schneller wurde
• Baute eine Digital-Twin-Architektur für Solar-Carports und EV-Ladestationen, die Echtzeit-Monitoring und intelligentes Laden möglich machte

• Pionierarbeit bei der ersten Enterprise-KI-SAP-Integration bei ALDI SÜD, Einführung KI-gesteuerter Automatisierung in einem der größten SAP S/4HANA-Programme im Einzelhandel, wodurch 50 % der manuellen Pre-Cycle-Validierungen entfallen sind und ein reproduzierbares Automatisierungs-Framework in 11 Ländern geschaffen wurde
• Verantwortlich für das gesamte SAP-Projekt-Lifecycle-Management für Implementierungen in SAP S/4HANA und Manhattan Systems, Unterstützung von über 7.300 ALDI SÜD-Filialen in Europa und Australien
• Hauptansprechpartner für C-Level-Stakeholder in 11 Ländern für strategische SAP-Transformationsprogramme
• Orchestrierung von Automatisierungs-, Performance- und Volumentests für kritische Releases mit 99,9 % SLA-Einhaltung während der umsatzstärksten Phasen
• Führung funktionsübergreifender internationaler Teams mit über 15 Spezialisten, Lieferung von Projekten 20 % schneller als Branchendurchschnitt
• Standardisierung von SAP-Prozessen in 11 Ländern als Teil einer der größten SAP-Einführungen im Einzelhandel
• Direkte Verwaltung eines Budgets von 2 Mio. € mit einer Budgettreue von 98 % über 12 gleichzeitige Projekte
• Reduzierung der SAP S/4HANA-Migrationskosten um 18 % durch strategische Vertragsnachverhandlungen und Optimierung

• Vram.run: Rust, TypeScript, HF-Inference-API mit 19 Anbietern, über 220 Hardware-Konfigurationen und mehr als 30 Cloud-GPUs. Suche nach einem Modell, um zu sehen, welche API-Anbieter es bereitstellen, welche GPUs es lokal ausführen können (und wie schnell) und was ein Cloud-Leasing kosten würde. Oder suche nach deiner Hardware und finde die passende. Beinhaltet auch ein Rust-CLI.
• Psychotron: JavaScript, Web Audio API, AudioWorklet, Canvas 2D. Frontend für Flash-Fiction-Hörbuch mit einer Web-Audio-DSP-Kette mit Pitch-Shifting, 12-stimmigem Chor, Flanger, 13-Band-EQ und Convolver-Hall. Beinhaltet eine 2D-Canvas-Effekt-Morphing-Engine und einen synchronisierten Teleprompter.
• RecentWork: Swift, macOS, FSEvents, launchd. macOS-Daemon, der Projektverzeichnisse überwacht und einen flachen Ordner mit Symlinks auf kürzlich geänderte Dateien pflegt. Über Homebrew installierbar.
• Mini-llm: Bash, macOS, launchd, Ollama, llama.cpp, MLX, Open WebUI. Ein einzelner Befehl verwandelt einen Mac Mini in einen Headless-KI-Server.
• ThatSlop: JavaScript. Chrome-/Firefox-Erweiterung zur KI-Inhaltserkennung auf LinkedIn und Twitter.
• Smux: Bash, tmux. Benutzerfreundlicher tmux-Wrapper, der über Homebrew installierbar ist.
• Learn Rust Course: Rust. Kurs zum Rust-Speichermodell für C++-Programmierer, geschrieben aus der Erfahrung des Übergangs von C++ zu Rust bei Irreducible.

Geeks Ltd ist ein in Großbritannien ansässiges Technologieunternehmen; WordUp ist das KI-gestützte Sprachlernprodukt mit Fokus auf personalisiertes Vokabellernen und intelligente Lernerlebnisse.

• Koordination der KI-Produktlieferung über Product, Engineering, Data, Operations und Führung hinweg, dabei Nutzerbedürfnisse in klar abgegrenzte Initiativen übersetzen, Arbeitsschritte planen, Blocker sichtbar machen, Übergaben begleiten und Fortschritte kommunizieren.
• Verantwortung für Suche, Empfehlung, Retrieval und Content-Anreicherung end-to-end, von Anforderungen und Architektur über Implementierung mit Python/FastAPI bis hin zu Testing, Deployment, Monitoring und schneller Iteration.
• Entwicklung von Retrieval-, Ranking- und Personalisierungs-Services mit niedriger Latenz unter Nutzung von AWS, OpenSearch, DynamoDB, Embeddings und wiederverwendbaren APIs, mit <1s Latenz, 22% höherem Engagement und 12% höherer Premium-Conversion.
• Einsatz von KI-Coding-Assistenten für Codebase-Analyse, Scaffolding, Refactoring, Tests, Debugging und Dokumentation, wobei jede Ausgabe auf Korrektheit, architektonische Passung, Sicherheit, Wartbarkeit und Nutzerwert geprüft wird.
• Vertretung der technischen Arbeit in Planung und Stakeholder-Gesprächen, direkte Anforderungsaufnahme, konstruktives Hinterfragen von Prioritäten, Erklärung von Delivery-Abwägungen und Unterstützung des Teams bei ergebnisorientierten Entscheidungen.

• Aufbau eines KI-Forschungsassistenten mit RAG, LangChain, LangGraph und OpenAI-LLMs in Kombination mit Vektorsuche; Forschungszeit um 30% reduziert.
• Entwicklung maßgeschneiderter Retrieval-Workflows mit LlamaIndex und einem ReAct-Style-Agenten für dynamisches Chunking; Abfragegenauigkeit um 18% verbessert.
• Untersuchung und Optimierung von Embedding-Strategien, wodurch die Abrufkosten pro Anfrage um 15% gesenkt wurden.
• Entwicklung von RAG-Bewertungsframeworks mit RAGAS und Langsmith anhand eigener Datensätze; Abdeckung um 40% gesteigert.
• Feintuning von LLMs (LLaMA 2 auf Vertex AI mit eigenen Inferenz-Containern, dynamischem Batching und Quantisierung); Latenz der Inferenz um 25% verringert.
• Integration von KI-Agenten in LangGraph mit Kurz- und Langzeitspeicher (Mem0); Abschlussquote der Aufgaben um 20% erhöht.
• Erstellung schema-bewusster Generatoren für synthetische Daten; Feintuning nachgelagerter Modelle mit +12% F1-Score.

• Hybride semantische und schlüsselwortbasierte Suche sowie LLM-basierte Anforderungs­extraktion aus Konversationsanfragen entwickelt, die Suchgenauigkeit um 85 % gesteigert, Suchen ohne Treffer um 70 % und die Suchzeit um 60 % reduziert.
• Produktionsreife API mit Monitoring-Dashboards für über 100.000 Produkte bereitgestellt, Antwortzeiten unter 2 s gehalten und die Zeit von Suche bis Kauf um 40 % verkürzt.
• Technologien: Python, BGE-M3, Qwen2.5, FastAPI, Qdrant, Meilisearch, Docker, Prometheus, vLLM.