TensorRT Experten in Deutschland

• Von Experten betreute KI-Systeme für wissenschaftliches Schlussfolgern, Modellevaluation und Forschungs-Workflows.
• Entwickelte den IAS Problem Solver, ein orchestriertes System für schwieriges mathematisches Schlussfolgern; es erreichte 84 % in einem eingereichten Antwortsatz auf dem Leipziger Mathematik-Benchmark.
• Entwickelte eine fortsetzbare State-Machine-Pipeline für die Generierung von Benchmarks in der Forschungsmathematik: Quellenauswahl, LLM-Agent-basierte Phänomenfindung, Aufgabensynthese, Gold-Antwort- und Zertifikatsgenerierung sowie Validierung, Probe, Reparatur, menschliches Feedback und Quality Gates, mit Fokus auf Aufgaben, die schwierig, natürlich, verifizierbar und kosteneffizient sind.
• Die aktuelle Arbeit erweitert dies zu budgetbewussten KI-Forschungs-Workflows für reale wissenschaftliche Probleme mit Expertenprüfung.

Tech-Stack: Python, OpenAI/OpenRouter-kompatible APIs, Embeddings, RAG, SQLite.

• KI-basierte Wahrnehmungs- und multimodale Systeme für reale Umgebungen entwickelt und umgesetzt
• Machine-Learning- und Deep-Learning-Modelle mit Python, PyTorch, TensorFlow und OpenCV gebaut, trainiert und evaluiert
• Mit Vision-Language-Modellen (VLMs), Large Language Models (LLMs), transformerbasierten Architekturen und multimodalen KI-Systemen gearbeitet
• LoRA-basierte Fine-Tuning-Techniken angewendet und mit Diffusionsmodellen für generative und multimodale KI-Anwendungen experimentiert
• Multimodale Wahrnehmungspipelines mit Kamera-, LiDAR- und Sensordaten entwickelt
• End-to-End-Workflows für Datenverarbeitung, Modelltraining, Evaluation, Benchmarking und Robustheitsanalyse entworfen
• HuggingFace Transformers und moderne Deep-Learning-Frameworks für KI-Experimente und Deployment-Workflows genutzt
• GPU-beschleunigtes Rechnen, CUDA-basierte Verarbeitung sowie ONNX- und TensorRT-Optimierung für effiziente Inferenz und großskaliges Modelltraining eingesetzt
• Mit Industriepartnern wie Valeo und REHAU an angewandten KI- und intelligenten Systemprojekten zusammengearbeitet
• Skalierbare KI-Architekturen und prototypische Softwarelösungen für Automatisierungs- und Wahrnehmungsaufgaben entwickelt

• Hatte direkte Linienverantwortung für ein Team von 4 Platform Engineers — inklusive Hiring, Performance Reviews und Karriereentwicklung — und habe dabei einen gemeinsamen Rahmen für Engineering-Standards sowie eine Coaching-Kultur aufgebaut, die die Delivery über Kundenprojekte hinweg beschleunigt hat.
• Habe ein Team von Engineers geführt, um ein cloud-natives Voice-AI-System für einen großen Inspektionskunden zu entwerfen. Damit konnten 2.500 Außendienst-Inspektoren ihre Arbeit komplett freihändig per Echtzeit-Transkription und AI Agents dokumentieren — manuelle Dateneingabe über 440.000 Inspektionen pro Monat wurde eliminiert und die Kosten pro Nutzer von 9 $ auf 1 $ gesenkt. Stack: AWS (DynamoDB, S3, Transcribe, CloudFront, API Gateway, Bedrock), ElevenLabs, Claude.
• Habe ein Team von Engineers geführt, um das Management von Kubernetes-Clustern über mehrere Regionen für einen globalen SaaS-Marktführer zu automatisieren. Dadurch sank die Bereitstellungszeit von 3 Wochen auf unter einen Tag und 90 % der Konfigurationsfehler wurden eliminiert. Stack: EKS, Terragrunt, Python, Bash, ArgoCD.
• Accelerator - Cloud-agnostische KI-Plattform: Ich habe eine cloud-agnostische, Kubernetes-native Plattform als Accelerator entworfen und ausgeliefert. Damit wurde das Multi-Tenant-Management von selbst gehosteten LLMs im Enterprise-Maßstab ermöglicht, inklusive gleichzeitiger Bereitstellung mehrerer Basismodelle und dynamischem Serving von LoRA-Adaptoren. Ich habe die Produktionsinfrastruktur mit Open-Source-Tools (ArgoCD, Karpenter, vLLM, SGLang) entworfen, inklusive automatisiertem Modell-Lifecycle-Management, API-Security (Keycloak + LiteLLM) und kostenoptimierter GPU-Bereitstellung.

• Thema: Objekterkennung und semantische Segmentierung für (AUV)-Systeme mit transformerbasierten Vision-Modellen und Sensorfusion.
• Entwicklung und Implementierung einer durchgängigen Multi-Sensor-Fusion-Wahrnehmungspipeline (Kamera, LiDAR, IMU) in ROS
• Entwicklung eines CNN-basierten Machine-Learning-Modells (YOLOv8) und transformerbasierter Vision-Modelle für die Echtzeit-Objekterkennung
• Verarbeitung und Clustering von 3D-LiDAR-Point-Clouds mit DBSCAN, RANSAC und Voxel-Grid-Filtering für eine robuste Objektlokalisierung in verrauschten Umgebungen.
• Entwicklung von Bayesian-Netzwerk-Modellen (GeNle) für probabilistisches Schließen und sensorbasierte Entscheidungsfusion unter Unsicherheit.
• Einsatz von Kalman-Filtering zur Schätzung des Sensorzustands, zeitlichen Ausrichtung und glatten Objektverfolgung, wodurch False Positives in sicherheitskritischen Szenarien reduziert wurden.
• Auswertung der Systemleistung unter realistischen Fahrdynamiken, Verbesserung der Tracking-Stabilität und der Robustheit der gesamten Wahrnehmung.
• Aufbau von Deep-Learning-Pipelines für Training, Validierung und Performancebewertung von Wahrnehmungsmodellen mit Sensordaten.

• Entwicklung von durchgängig reproduzierbaren ML-Pipelines (PyTorch) mit Datenversionierung (DVC), Experiment-Tracking (MLflow), automatisierten Tests (PyTest) und CI/CD über alle Trainings-Workflows.
• Skalierung von Vision Transformer- und CNN-Trainings auf NVIDIA A100 GPU-Cluster (CUDA, DDP, SLURM); Durchführung von Hyperparameter-Optimierung (W&B Sweeps) zur Reduzierung des Trainingsaufwands und zur Identifizierung optimaler Konfigurationen.
• Entwicklung eines Echtzeit-3D-Systems zur Generierung menschlicher Bewegungen (ViT, VQ-VAE, SMPL-X/PIXIE) für persönlichkeitsabhängige Avatar-Synthese; Erreichen von Spitzenwerten mit FID = 6,15 und P-FID = 10,31 im UDIVA-Benchmark.
• Validierung der Modell-Ausdruckskraft durch strukturierte Nutzerstudien und Erreichen einer 86%-Genauigkeit bei der Unterscheidung zwischen extrovertierten und introvertierten Avatar-Verhalten.
• Optimierung von Inferenz-Pipelines durch Deployment von PyTorch-Modellen mittels TensorRT und ONNX Runtime in nativen C++-Code; Durchführung von Performance-Benchmarks.

• Automatisierte Fahreranalyse durch Programmierung zeitlicher Regel-Engines zur Bewertung der Sicherheit beim Spurwechsel, Kopfhaltungskontrollen im Rückspiegel, Blinkerzyklen und Einhaltung von Ampeln und Verkehrszeichen
• Echtzeit-Verkehrszeichenerkennung und mehrstufige Ampelklassifikation synchronisiert mit zeitreihengenauer CAN-Bus-Telemetrie und HD-Karten-Raumprioren zur Bewertung der Verkehrsregelkonformität
• Trainierte und bereitgestellte separate Deep-Learning-Modelle, optimiert für die Innenraumüberwachung und die Außenbereichswahrnehmung
• Verknüpfte Wahrnehmungsausgaben mit kameraintrinsischen Parametern und Horizont-Stabilitätschecks, um unter Annahme einer ebenen Geometrie die 3D-Entfernung von Objekten auf der Bodenebene zu schätzen
• Bereitstellung eines Split-Compute-Edge-Netzwerks über VPN für eine Flotte von 10 Fahrzeugen und Implementierung einer Zero-Allocation-Host-Memory-Pipeline zur Eliminierung der Frame-Akkumulationslatenz (6×21 FPS pro Fahrzeug)

• Entwicklung von Methoden für monokulare 3D-Gesichtsrekonstruktion und personalisierte geometrische Modellierung aus mobilen Bildern
• Entwicklung lernbasierter Ansätze für Gesichtsformschätzung, videobasierte Gesichts­analyse und datenschutzfreundliches visuelles Lernen

• Leitete die EU-Markteintrittsstrategie für L3/L4-autonome Logistikfahrzeuge und trieb die technologische Lokalisierung sowie den Einsatz des Smart-Robotics-Portfolios der Muttergesellschaft voran.
• Stimmte die Technik führender Anbieter autonomer Fahrtechnologien in China und Europa ab und übersetzte komplexe Kundenanforderungen in präzise Ingenieursvorgaben gemäß EU-Normen.
• Initiierte strategische gemeinsame F&E-Projekte mit führenden europäischen Universitäten, Forschungsinstituten und Unternehmen, um den Übergang neuester Robotikkonzepte in kommerzielle Produkte zu beschleunigen.
• Entwarf die End-to-End-Architektur intelligenter Lagerlösungen und führte funktionsübergreifende Teams bei der Optimierung der Hardwareintegration für autonome Fahrzeuge und Roboter sowie der Gesamtssystemleistung.
• Leitete die F&E für hochauflösende Simulationen und KI-Algorithmen mit NVIDIA Isaac Sim & Lab und etablierte robuste "Sim-to-Real"-Pipelines, um dynamische Pfadplanungsoptimierung, intelligente Hindernisvermeidung und komplexe Navigationssysteme vor der physischen Implementierung zu trainieren und zu validieren.
• Beibehielt praktische Kontrolle über die Kernsystemarchitektur mit Fokus auf Performance-Tuning auf niedrigster Ebene, Beschleunigung der KI-Modellinferenz mit TensorRT/ONNX Runtime und Sensorintegration.

• KI-gestützte Automatisierung mit Fokus auf Effizienz, Informationsverarbeitung und Assistenzsysteme
• Automatisierte E-Mail-Klassifizierung (OpenAI, FastAPI)
• Vertragsanalyse für LegalTech (Llama 3, LangGraph)
• Interne Wissenssuche mit RAG (VLLM, Hugging Face)
• Anomalieerkennung auf Edge-Geräten (LLAVA, TensorRT)
• Agentensystem für Management-Reports (LangGraph, Zapier)

• Entwicklung von LLM-basierten Automatisierungs-Utilities, darunter strukturierte Reasoning-Pipelines, LLM-as-a-Judge-Bewertungstools und Multi-Model-Vergleichs-Frameworks.
• Aufbau von RAG-Pipelines für interne Forschungs-Workflows mit LangChain, ChromaDB und FastAPI, um semantische Suche und mehrstufiges Reasoning zu ermöglichen.
• Integration von LLM-Microservices in bestehende ML-Systeme mit Docker, FastAPI und GitLab CI/CD sowie reproduzierbare Deployment-Workflows.
• Entwurf von Inferenz-APIs, die Vision-Modelle und LLM-Reasoning für multimodale Analysen und Entscheidungsfindung kombinieren.
• Optimierung der embeddings-basierten Suche durch Pruning von Vektorspeichern, verbesserte Chunking-Logik und dynamische Retriever-Auswahl.
• Durchführung von Prompt Engineering und Feintuning der Systemanweisungen für Konsistenz, Robustheit und bessere Reasoning-Qualität.
• Erstellung von Benchmarking-Suites zur Bewertung von LLM-Latenz, Reasoning-Qualität, Retrieval-Genauigkeit und Robustheit unter verschiedenen Prompt-Templates.