OpenTelemetry Experten in Berlin

Backend für KI-Plattform – Senior Developer

Beauftragt, das Backend einer KI-Plattform von Grund auf zu konzipieren und aufzubauen – einschließlich Multi-Provider-LLM-Orchestrierung und Echtzeitinfrastruktur für KI-Influencer-Personas im großen Maßstab.

Aufgaben und Verantwortlichkeiten

• Architektur und Implementierung einer Multi-LLM-Orchestrierungsschicht mit Semantic Kernel zur Integration von GPT-4 und weiteren Anbietern für die zentrale Plattformlogik und KI-Influencer-Personas. Reduzierung des Aufwands beim Modellwechsel durch Abstraktion der Anbieter-APIs hinter einer einheitlichen Schnittstelle.
• Entwurf und Entwicklung eines Backends von Grund auf mit C# / .NET 10, einschließlich Domain-Modellierung mit DDD, versionierter RESTful-API-Schicht und Aufbau der Cloud-Infrastruktur auf Azure.
• Aufbau einer Echtzeit-Chat-Infrastruktur mit Server-Sent Events (SSE), Nachrichtenspeicherung und Zustellgarantien für den Live-Betrieb von KI-Influencer-Personas im großen Maßstab.
• Entwicklung eines Medienverwaltungsdienstes mit Anbindung an Cloud-Objektspeicher für den Upload und Abruf von durch Influencer generierten Inhalten.
• Erstellung einer Integrations- und Unit-Test-Suite mit Daten-Seeding für zuverlässige Regressionstests aller zentralen Plattformabläufe, wodurch die Produktionsfehlerrate deutlich sank.

Werkzeuge und Technologien: C#, .NET, ASP.NET Core, Python, TypeScript, MySQL, Semantic Kernel, EF Core, Minimal APIs, LLM Orchestration, Prompt Engineering, Agentic AI, Generative AI, AI-Assisted Engineering, Claude Code, GitHub Copilot, Google Gemini, OpenAI API, Ollama, Redis, Azure, Azure Container Apps, Azure Database for MySQL, Docker, GitHub Actions, Clean Architecture, Vertical Slice Architecture, CQRS, Domain-Driven Design, REST API, xUnit, Integration Testing, Unit Testing, Jira, Confluence, Scrum

Übertragungsnetzbetreiber – Plattform zur Netzwerkbereitstellung (Teamleitung)

• Entwarf den Saga-Orchestrator in Python, der Netzwerkstrukturen mit Rollback bereitstellt.
• Gliederte IP, Identität und Ressourcenverteilung in Bounded Contexts mit eigenen Datenbanken und typisierten Clients auf.
• Implementierte den Datenzugriff mit DDD-Repositories und Units of Work, ohne SQL im Domänencode.
• Führte Integrationstests mit echten PostgreSQL- und RabbitMQ-Containern sowie API-Fuzzing für jeden Service ein.
• Führte einen Agenten-Workflow ein, bei dem jede Änderung mit einer Spezifikation beginnt und ein Mensch jeden Merge freigibt.
• Rollte die automatische OpenTelemetry-Instrumentierung per GitOps über achtzehn Kubernetes-Cluster aus.
• Leitete die Reaktion auf Vorfälle bei festgefahrener Bereitstellung und hielt jeden Ausfall in einem Post-Mortem fest.

Verwendete Sprachen und Software: Python, FastAPI, Pydantic v2, SQLAlchemy async, PostgreSQL, RabbitMQ, Celery, pytest, testcontainers, schemathesis, Helm, Flux CD, GitLab CI, OpenTelemetry, pi coding agent.

Softwareproduktunternehmen – SaaS für Rechenzentrumssimulation (Backend-Entwicklung)

• Entwickelte als zweitgrößter von mehr als zwanzig Mitwirkenden die asynchrone Simulationspipeline.
• Kennzeichnete jedes Image in den GitHub-Actions-Deploy-Workflows mit Commit-SHA und SemVer.
• Diagnostizierte den RabbitMQ-Speicheralarm, der alle Simulationen zum Stillstand brachte, und korrigierte die Limits im Helm-Chart.
• Stellte die Testsuite auf pytest im Function-Style um und ließ die Testabdeckung in jeder Pipeline ausweisen.

Verwendete Sprachen und Software: Python, FastAPI, SQLAlchemy, Alembic, Celery, RabbitMQ, Redis, PostgreSQL, S3, EKS, Helm, Keycloak, GitHub Actions, pytest, mypy, ruff, SonarQube.

Interne KI-Plattform – Modellbereitstellung und Telemetrie

• Entwickelte den FastAPI-Service, der Open-Weight-Modelle auf GPU-Tiers als OpenAI-kompatible Endpunkte bereitstellt.
• Aktualisierte das EKS-Produktionssystem um zwei Kubernetes-Minor-Versionen und behob zonengebundene Speicherfehler.
• Erfasste jeden Modellaufruf mit Tokenanzahl, Kosten und Latenz über den OpenTelemetry-Operator.

Verwendete Sprachen und Software: Python, FastAPI, vLLM, LangGraph, pydantic-ai, OpenAI- und Anthropic-APIs, EKS, Helm, Flux CD, Terraform, GitLab CI, OpenTelemetry, Grafana.

• Tätigkeit als technischer Berater zur Optimierung mehrschichtiger Ensemble-Modelle, die ResNet, CNN-BiGRU-Attention und XGBoost kombinieren.
• Begleitung der Implementierung eines Logistic-Regression-Meta-Learners zur Lösung von Problemen mit unausgeglichenen Klassen; dabei wurden 92.86% Genauigkeit und 0.9644 AUC bei den Datensätzen PTB-XL und Chapman-Shaoxing erreicht.

• Bootstrapping eines CloudOps-Teams und Aufbau eines Multi-Cloud Provider-Backends für eine Low-Code Internal Developer Platform (IDP) mit env zero

• Einführung von User Story Mapping, ADRs, Meilensteinen und Backlog-Management

• Konzeption und Entwicklung der Kern-APIs, Setup von CI/CD-Pipelines, OpenTofu/Terraform-Skripte

• Vertretung und Kommunikation des Teams bei Third-Party Stakeholdern (z. B. env zero)

• (Cross-)Team-Coaching zu DevOps, Softwaredesign, Terraform, Golang und Agilen Methoden

Java 21 · Spring Boot 3 · Keycloak · PostgreSQL · Docker · Nginx · GitHub Actions · DigitalOcean · React 18 · TypeScript · Plasmo

• Eine produktionsreife Job-Application-Tracker-Lösung von Grund auf konzipiert und live gestellt: REST-API mit 5-stufigem Workflow, Pagination, Sortierung und dynamischem Filtern — komplette Verantwortung von Design bis zum Live-Deployment in der Cloud auf DigitalOcean.
• Produktives Identity Management umgesetzt: OAuth 2.0 / OpenID Connect / JWT / RBAC über Keycloak, unter Anwendung von Hexagonaler Architektur und DDD-Prinzipien.
• Automatisierte CI/CD-Pipeline gebaut (GitHub Actions); mit Docker containerisiert; Nginx Reverse Proxy mit pathbasiertem Routing und SSL-Terminierung.
• Eine Chrome-Erweiterung entwickelt (Plasmo-Framework, Manifest V3), die Job-Bewerbungen direkt von LinkedIn in den Tracker übernimmt — zeigt ein komplettes Produktverständnis über Backend-API und Browser-Client hinweg.

• Leitung des Aufbaus des internen Automatisierungs- und Risikomanagement-Portals von Passify, Verbindung von Workflows zwischen Teams über SharePoint und Power Automate.
• Moderation von Retrospektive-Workshops und Erstellung von PRDs und Design-Tickets im PDLC.
• Unterstützung der ISO 27001-Dokumentation und Einhaltung, mit Fokus auf Kundensupport, Benutzerregistrierung und interne Kommunikationsprozesse.
• Mithilfe bei der Abstimmung von Design, Entwicklung und Betrieb in einem modularen Designzyklus, um sicherzustellen, dass jede Version sowohl Geschäfts- als auch Nutzeranforderungen erfüllt.
• Beitrag zur Feature-Planung und Validierung für Subunternehmer-Workflows, Schulungs-Dashboards und Verbesserungen des Terminal-Portals.

• Verantwortlich für den Produktlebenszyklus der souveränen KI-Plattform und Betriebssystem-Teams für Enterprise- und Regierungskunden sowie interne Stakeholder (Infra, Lösungslieferung, Support, Umsatz)
• Plattform von einer 200-Nutzer-Beta auf einen vollständigen Rollout mit über 70.000 Mitgliedern bei der Bundesagentur für Arbeit (BA) aufgebaut und dabei ISO 42001- und EU-KI-Verordnungskonformität sichergestellt
• Die Umstellung auf eine mandantenfähige Shared Inference-Architektur entworfen, wodurch die GPU-Cluster-Auslastung von 20 % auf 85 % stieg und die Infrastrukturkosten pro Kunde für SaaS um 40 % sanken
• Modellquantisierung eingeführt, sodass Kunden fortschrittliche LLMs auf älterer Hardware (A100-GPUs) statt auf H100 ausführen können, wodurch über 70 % der Kosten pro Abfrage eingespart werden
• Komplexe Helm-Konfigurationen in einen dynamischen Modellmanager überführt, wodurch sich die Zeit für Installation oder Austausch von Modellen um rund 80 % verkürzte
• Eine teure Eigenentwicklung eines Dashboard-Services gestoppt, stattdessen auf eine API-first-Datenstrategie umgeschwenkt, die Kunden direkt nutzen können, und so €100.000+ an Opex und Capex eingespart
• Ein sicherheitsorientiertes Agenten-Marktplatz- und Control-Plane-Leuchtturmprojekt für eine Tier-1-Bank aufgebaut, das internen Teams die Bereitstellung autonomer Agenten innerhalb strenger regulatorischer Vorgaben ermöglicht

• Entwicklung eines Proof of Concept für verteiltes Tracing mit OpenTelemetry innerhalb einer Microservices-Architektur, wodurch die Systembeobachtbarkeit verbessert und die mittlere Fehlerbehebungszeit reduziert wurde.
• Aufbau und Wartung von Backend-Services mit Java und Spring Boot, um hohe Zuverlässigkeit und Leistung in Zahlungsabläufen sicherzustellen.
• Implementierung umfassender automatisierter Tests mit JUnit und Mockito, Erreichung einer Testabdeckung von 95 %, um Codequalität und Wartbarkeit zu gewährleisten.
• Einblick in Zahlungsabwicklungsprozesse gewonnen, End-to-End-Systemzuverlässigkeit validiert und Domänenwissen in Finanzprozessen aufgebaut.
• Eingesetzte Technologien: Java, Spring Boot, Microservices, REST API, Kafka, Grafana, Datadog, Docker, MongoDB