Cloud Engineers in Berlin

KI-Plattform Backend – Senior Developer

Engagiert, um ein Backend für eine KI-Plattform von Grund auf zu konzipieren und aufzubauen, inklusive Multi-Provider-LLM-Orchestrierung und Echtzeitinfrastruktur für KI-Influencer-Personas im großen Maßstab.

Aufgaben und Verantwortlichkeiten

• Architektur und Implementierung einer Multi-LLM-Orchestrierungsschicht mit Semantic Kernel zur Integration von GPT-4 und weiteren Anbietern für die Kernplattformlogik und KI-Influencer-Personas, Reduzierung des Modellwechsel-Overheads durch Abstraktion der Anbieter-APIs hinter einer einheitlichen Schnittstelle.
• Entwurf und Entwicklung eines Backends von Grund auf in C# / .NET 10, einschließlich Domain-Modellierung mit DDD, versionierter RESTful-API-Schicht und Cloud-Infrastrukturaufbau auf Azure.
• Aufbau einer Echtzeit-Chat-Infrastruktur mit Server-Sent Events (SSE), Nachrichtenpersistenz und Zustellungsgarantien für den Live-Betrieb von KI-Influencer-Personas im großen Maßstab.
• Entwicklung eines Medienverwaltungsdienstes mit Integration von Cloud-Objektspeicher für Upload und Abruf influencer-generierter Inhalte.
• Erstellung einer Integrations- und Unit-Test-Suite mit Daten-Seeding für zuverlässige Regressionstests über alle Kernplattform-Flows, deutliche Reduzierung der Produktionsfehlerrate.

Werkzeuge und Technologien: C#, .NET, ASP.NET Core, Python, TypeScript, MySQL, Semantic Kernel, EF Core, Minimal APIs, LLM Orchestration, Prompt Engineering, Agentic AI, Generative AI, AI-Assisted Engineering, Claude Code, GitHub Copilot, Google Gemini, OpenAI API, Ollama, Redis, Azure, Azure Container Apps, Azure Database for MySQL, Docker, GitHub Actions, Clean Architecture, Vertical Slice Architecture, CQRS, Domain-Driven Design, REST API, xUnit, Integration Testing, Unit Testing, Jira, Confluence, Scrum

• Mobile Spiele für iOS und Android eigenständig entworfen, entwickelt, veröffentlicht und gewartet.
• Anwendungsarchitektur, Gameplay-Systeme, UI, Monetarisierung, Analytics und Plattform-Integrationen umgesetzt.
• Den kompletten Release-Lifecycle betreut, einschließlich Tests, Store-Veröffentlichung, Produktions-Monitoring und iterativer Verbesserungen auf Basis von Analytics.

• Eine hybride Kubernetes-Plattform über Bare Metal und Cloud aufgebaut und betrieben, um Multi-GPU-Workloads, die Isolation von Sicherheitszonen und Disaster Recovery zu validieren.
• Selbst gehostete KI-Coding-Agenten im Git-Workflow der Plattform betrieben – von der Bearbeitung von Issues bis zur Prüfung von Pull Requests; jede Änderung wird in CI durch Manifest-Diffs und Policy-Prüfungen abgesichert.
• Eine Plattform für Sensorfusion und GPU-Edge-Inferenz mitentwickelt, die vom European Defense Tech Hub aus 50 Lösungen für Feldtests ausgewählt wurde.

OpsWorker verwandelt Kubernetes-Alerts in Root-Cause-Analysen, zusätzlich zu dem Monitoring, das ein Team bereits betreibt. Ich leite die technische Seite: die Agentenarchitektur, die AWS-Infrastruktur, auf der das Ganze läuft (vollständig in EU-Regionen), und die Engineering-Entscheidungen dahinter, standardmäßig nur lesend im Cluster, der Mensch bleibt für die Bewertung im Loop. Der Stack darunter: Amazon Bedrock und Bedrock AgentCore, Agenten gebaut mit dem Strands Agents SDK, die Claude- und OpenAI-APIs sowie die Kubernetes-API.

• Dozent für den GenAI-Track des Master School Institute of Technology
• Entwicklung einer Full-Stack-KI-Anwendung (React + Python/FastAPI) für den automatisierten Lieferanten-Produktimport mit intelligenter Spalten- und Kategorienklassifizierung (4-Layer, hierarchisch) inkl. Human-in-the-Loop-Validierung

• Kontext: Teams aus dem Gesundheitswesen und Labor brauchten eine schnellere Dokumentenanalyse, Unterstützung bei der Behandlungsplanung und zuverlässige KI-Workflows für MR-/VR-gestützte Einsätze.
• Beitrag: Ich habe die KI-Plattform für das Gesundheitswesen, Modell-/Agenten-Workflows, die Bereitstellungsplattform für VR-Brillen, REST-APIs, Next.js/React-Oberflächen und CI/CD-Pipelines aufgebaut.
• Auswirkung: Ich habe eine produktionsreife Grundlage für ein KI-Produkt geliefert, die die Prüfung klinischer Dokumente verbessert, Laborautomatisierung unterstützt und die Bereitstellung von VR-Flotten über verschiedene Umgebungen hinweg beherrschbar gemacht hat.

Tech: TypeScript, Next.js, Node.js, React, Java, Spring Boot, Python, PyTorch, TensorFlow, Docker, PostgreSQL, OpenAPI, GitLab, GitHub Actions.

• Versicherungsdienstleister*

Herausforderung: Geschäftskritische Dokumente liefen über externe OCR-Dienstleister mit laufenden Kosten, Abhängigkeit und Datenschutzrisiken bei sensiblen Versicherungsdaten.

Umsetzung:

• Architektur und produktive Umsetzung einer On-Premise-OCR-Lösung mit vollständiger Datenhoheit
• Verfahren zur Erkennung von Dokumentstrukturen als Basis der automatisierten Weiterverarbeitung
• ML-, NLP- und LLM/VLM-basierte Informationsextraktion, insbesondere aus Rechnungen und Angeboten

Erfolg: Ablösung der externen Dienstleister: volle Datenhoheit, DSGVO-konforme Verarbeitung und 75 % geringere laufende OCR-Kosten p. a.

Verwendete Technologien: Python, Docker, Microservices, FastAPI, PyTorch, Torchvision, MongoDB, MySQL

• Beratung einer NGO im Bereich Rechenzentrumsnachhaltigkeit in öffentlich geförderten Projekten (BMUKN mit NADIKI und Umweltbundesamt mit SIEC)
• Entwicklung von Python-APIs und Webanwendungen, Bereitstellung auf AWS/ECS mit Terraform
• Erfassung von Kennzahlen zum Stromverbrauch von Servern, CPUs und GPUs für KI-Workloads
• Verwendete Technologien: AWS, EC2, ECS, Fargate, CloudMap, VPC, Route53, Lambda, EventBridge, CodeBuild/CodePipeline/CodeDeploy, Terraform, Docker, Linux, Bash-Scripting, Python, Flask, SQLAlchemy, SQL, MariaDB, InfluxDB, Telegraf, Prometheus, Zabbix, Kubernetes, Letsencrypt, Zertifikatsverwaltung

Java 21 · Spring Boot 3 · Keycloak · PostgreSQL · Docker · Nginx · GitHub Actions · DigitalOcean · React 18 · TypeScript · Plasmo

• Eine produktionsreife Job-Application-Tracker-Lösung von Grund auf konzipiert und live gestellt: REST-API mit 5-stufigem Workflow, Pagination, Sortierung und dynamischem Filtern — komplette Verantwortung von Design bis zum Live-Deployment in der Cloud auf DigitalOcean.
• Produktives Identity Management umgesetzt: OAuth 2.0 / OpenID Connect / JWT / RBAC über Keycloak, unter Anwendung von Hexagonaler Architektur und DDD-Prinzipien.
• Automatisierte CI/CD-Pipeline gebaut (GitHub Actions); mit Docker containerisiert; Nginx Reverse Proxy mit pathbasiertem Routing und SSL-Terminierung.
• Eine Chrome-Erweiterung entwickelt (Plasmo-Framework, Manifest V3), die Job-Bewerbungen direkt von LinkedIn in den Tracker übernimmt — zeigt ein komplettes Produktverständnis über Backend-API und Browser-Client hinweg.

• Unterstützte den Wechsel des Unternehmens von einer On-Premise-Architektur zu AWS-Cloud-Diensten, modernisierte die Infrastruktur und optimierte die Betriebseffizienz.
• Setzte Fachwissen in Automatisierung und Softwareimplementierung ein, um Skalierbarkeit, Zuverlässigkeit und Rentabilität zu steigern.
• Implementierte Poetry und Ruff, um das Python-Abhängigkeitsmanagement und die Code-Qualitätsprüfungen zu optimieren, was die Entwicklungseffizienz verbesserte und Fehler reduzierte.
• Implementierte eine automatisierte CI/CD-Strategie mit GitHub Actions, die die Bereitstellungszeiten verkürzte und manuelle Eingriffe minimierte.
• Führte eine Deployment-Automatisierung für Kubernetes ein, um die Skalierbarkeit und Zuverlässigkeit von Anwendungen im gesamten Unternehmen zu verbessern.
• Bewertete und implementierte Apache Airflow für das Workflow-Management, was zu einer effizienteren Planung und Überwachung von Datenpipelines führte.
• Erstellte Datenschnittstellen für Energiehändler, die ihnen ermöglichten, ihre Gewinnmargen durch verbesserte Datenanalyse und Entscheidungswerkzeuge zu optimieren.

• Entwicklung von GitHub Actions / Pipelines für automatisches Anwendungsdeployment
• Unterstützung bei der Bereitstellung von HELM Charts für die CI/CD Infrastruktur
• Neuaufbau und Migration eines Kubernetes Clusters mittels Rancher
• Erstellung von IaC mittels Terraform für Kubernetes und weitere Dienste (Monitoring, Datenbanken)
• Bereitstellung eines hochverfügbaren Percona Galera Clusters (MySQL)
• Implementierung einer zentralen Monitoring und Logging Infrastruktur

• Ich habe die Mobile-App refaktoriert, indem ich Stores, Models, API-Client, Screens und Komponenten in TypeScript neu implementiert habe.
• Ich habe einen leistungsfähigen On-Device-Speicher für Stores hinzugefügt, als Vorbereitung auf den Offline-Modus.
• Ich habe RNUILib integriert, um schnell ein minimalistisches und modernes UI-Design zu erreichen.
• Ich habe native Pakete implementiert, um zusätzliche Funktionen wie die Anzeige von Anrufer-IDs zu bieten.
• Ich habe die Feature-Entwicklung und UX-Verbesserungen nach der ersten Refaktorierung und dem Redesign geplant.

• Bereitstellung einer Kubernetes-Plattform auf Open Telekom Cloud CCE mit umfassender Netzwerk-Isolation
• Aufbau einer VPC-Architektur mit öffentlichen, privaten und Daten-Subnetzen
• Integration von Managed Services: RDS PostgreSQL, DCS Redis, DMS Apache Kafka
• Implementierung von Monitoring mit Cloud Eye und Log Tank Service

WIRKUNG: Cloud-Infrastruktur-Ingenieur liefert produktionsreife Plattform in 5 Tagen mit vollständiger Netzwerkisolierung

• Entwicklung, Betrieb und Support von BI-Plattformen und Microservice-Architekturen
• Entwicklung eines Open-Source-BI-Scheduling-Tools