Bicep Experten in Deutschland

Finanzdienstleister, >10.000 Mitarbeitende

• Entra ID: App Registrations, Hybrid Identities, Gruppen- und Berechtigungskonzepte, Conditional Access, MFA, RBAC und PIM.
• Azure IaaS/PaaS, Networking, Security, Governance, Monitoring sowie Automatisierung mit Bicep und PowerShell.
• Beratung und technische Unterstützung interner Cloud-Projekte.

Multi-Agenten-Plattform zur Dokumentenerstellung

Problem:

Aus einem einzelnen Prompt ein gut recherchiertes, strukturiertes und mit Quellen belegtes Dokument erstellen und dabei die Kontrolle beim Nutzer belassen: Jeder Schritt kann geprüft, korrigiert oder erneut aufgerufen werden, bevor das System fortfährt.

Architektur:

Ein Multi-Agenten-System, das von einer zentralen Steuerung koordiniert wird. Mehr als 20 spezialisierte pydantic-ai-Subagenten (Verstehen, Strukturieren, Planen, Recherchieren, Schreiben, Zusammenstellen, Querverweise prüfen, Glossar, Zitate, Referenztabelle und mehr) geben Ergebnisse anhand eines gemeinsamen, in Postgres gespeicherten Plans (asyncpg) weiter. Eine Runner-Schicht weist jede Aufgabe anhand ihres Namens einem Agenten zu. Mechanische Schritte wie Formatierung, Inhaltsverzeichnis und Abbildungsverzeichnis werden durch deterministischen Code statt durch LLM-Aufrufe erledigt. Der Anbieter (Anthropic oder OpenAI) wird über eine Konfiguration festgelegt, und Antworten werden über Server-Sent Events gestreamt.

Hosting & Infrastruktur:

Ein zustandsloser Container läuft als Scaleway Serverless Container in einem privaten Netzwerk mit verwaltetem PostgreSQL, Objektspeicher für fertige Dokumente und Assets sowie zentraler Protokollübertragung (Loki / Scaleway Cockpit). Bereitstellung mit OpenTofu-Modulen und Deployment über GitLab CI; die Nutzung wird pro API-Schlüssel abgerechnet.

Mein Beitrag und wichtige Entscheidungen:

• Zentrale Entscheidungssteuerung: Ein Zufriedenheitsklassifikator wandelt die Freitext-Rückmeldung des Nutzers in eine Entscheidung um (weiterarbeiten, fortfahren, abbrechen oder eine frühere Aufgabe überarbeiten). Eine Middleware wendet sie auf den Plan an. Der Plan kann zu früheren Aufgaben zurückspringen und die darauffolgenden Schritte erneut ausführen.
• Parallele Recherche und Texterstellung: Die Planung erstellt einen Plan, aus dem ein Recherche-Design-Agent einzelne Rechercheaufgaben und ein Schreib-Design-Agent einzelne Schreibaufgaben erstellt, die jeweils mit der benötigten Recherche verknüpft sind. Jede Aufgabe wird in einem eigenen Agenten mit eigenem Gesprächsverlauf ausgeführt.
• Selbstprüfung und Einbindung des Menschen: Nach jedem Schritt prüft ein Agent für kritisches Denken das Ergebnis. Bevor der Plan fortgesetzt wird, kann der Nutzer eine Kritik annehmen, überarbeiten oder Fragen dazu stellen.
• MCP-Integrationen: Zwei entfernte MCP-Server für die Websuche und die interne Dokumentensuche sind über pydantic-ai angebunden, mit Wiederholungsversuchen und Timeouts für lang laufende Tool-Aufrufe. Klassifikator-Agenten entscheiden für jede Aufgabe, ob eine Websuche nötig ist. Ein kleines Modell fasst rohe Suchergebnisse zu strukturierten Erkenntnissen zusammen, bevor sie die Schreibagenten erreichen.

Nutzungsabrechnung:

Kunden authentifizieren sich mit einem API-Schlüssel, der über einen Schlüsselverwaltungsdienst geprüft wird. Der Verbrauch wird in Credits abgerechnet, berechnet anhand der Token-Nutzung pro Modell zuzüglich eines Aufschlags. Bei ausgeschöpftem Kontingent wird HTTP 429 zurückgegeben.

• Architektur der Azure Landing Zone: Entwurf und Implementierung einer Azure Landing Zone mit Hub-and-Spoke-Architektur und Unterstützung mehrerer Regionen. Sie bildet die sichere, skalierbare und hochverfügbare Grundlage für Daten- und ML-Plattformen für autonomes Fahren und Parken.
• Compliance mit Azure Policy: Durchsetzung von Sicherheits- und Compliance-Standards über Azure-Abonnements hinweg mit Azure Policy (Guardrails, deny/audit/deploy-if-not-exists), wobei konstant sehr hohe Sicherheitsbewertungen der Infrastruktur erreicht wurden.
• Infrastructure-as-Code: Automatisierung der Bereitstellung und Konfiguration von Azure-Ressourcen mit Terraform und Bicep; Änderungen werden über geprüfte CI/CD-Pipelines ausgerollt.
• Azure Databricks und Unity Catalog: Umfassende Erfahrung im Betrieb von Azure Databricks mit Unity Catalog für zentrale Data Governance, Zugriffskontrolle, Datenherkunft und Auditing über mehrere Workspaces hinweg.
• Monitoring und Observability: Aufbau und Betrieb von Infrastruktur-Monitoring und Logging mit Azure Monitor, Prometheus, Grafana und Loki, einschließlich Plattformzustand, Alarmierung, Fehleranalyse und Kapazitätsentwicklung.
• Plattform im großen Maßstab: Architektur und Betrieb von Cloud-Daten- und ML-Plattformen zur Verarbeitung und Simulation von Fahrzeugdaten im PB-Bereich; Orchestrierung von auf Argo Workflows basierenden Recompute- und Autolabeling-Services mit einer Skalierung auf mehr als 100k+ gleichzeitig laufende Pods auf AKS.
• Reproduzierbares ML: Aufbau reproduzierbarer Trainingsumgebungen mit Versionierung von Datensätzen und Nachverfolgung der Datenherkunft, wodurch Audits und zuverlässige Experimente ermöglicht werden.
• Operative Exzellenz: Automatisierung der Verwaltung von GitHub-Organisationen und CI/CD-Pipelines zur Verbesserung der Entwicklerproduktivität und Zuverlässigkeit von Deployments; Automatisierung wiederkehrender Betriebsprozesse.
• FinOps: Entwicklung einer transparenten Ressourcen- und Kostenverfolgung für Azure-Umgebungen mit mehreren Projekten.
• Führung: Technische Leitung für Infrastrukturthemen in Zusammenarbeit mit Entwicklungs-, DevOps- und Sicherheitsteams; technischer Interviewer und Mitglied des Recruiting-Gremiums zum Ausbau des Engineering-Teams.

Über die Sourcegarden GmbH, Mandat laufend. Umstellung der Softwareentwicklung auf agentische Entwicklung in Phasen, von Setup und Piloten bis zu Transformation und Übergabe.

• Entwicklung einer SaaS-Anwendung zur automatisierten Schadenbearbeitung mit KI-Agenten (LLM) als primäres Entwicklungsteam
• Design & Test von effizienten und sicheren Context-Management-Setups im Entwicklungsprozess (u. a. Einsatz von Multi-Subagenten, Speichersystemen, Caching)
• Definition und Umsetzung von LLMOps-Pipelines mit Azure AI Foundry für KI-Agenten im Kundenkontakt (inkl. Versionierung, Logging, Audit-Trail, Sicherheitstests)
• Infrastrukturbereitstellung über IaC (Bicep), Anwendungskonfiguration über GitOps-basierte CI/CD-Pipelines (Rules Engine, Workflow Engine)
• Entwicklung integrierter Sicherheitsarchitektur-Designs zwischen KI-basierten und klassischen Anwendungen mit besonderem Fokus auf regulatorische Anforderungen
• Integration von Workflow- und Rules-Engine in einer NestJS-Servicearchitektur — zur automatisierten, regelbasierten Steuerung von Schadensprozessen
• Probabilistische Extraktion und Aufbereitung von Schadendaten als Grundlage für regelbasierte, deterministische Entscheidungslogik — nachvollziehbar, auditierbar und regulatorisch konform

Durchführung einer unabhängigen technischen Bewertung einer KI-gestützten Softwareplattform, wobei KI-Risikoaudit, Cybersicherheitsanalyse und Prüfung der Softwarearchitektur kombiniert wurden. Prüfung von Anwendungskomponenten, APIs, Datenflüssen, LLM-Integrationen, Retrieval-Augmented Generation, Multi-Agenten-Orchestrierung, Authentifizierung, Mandantentrennung, Abhängigkeitsschwachstellen, KI-Governance und Kontrollen des Modelllebenszyklus. Erstellung eines technischen Auditberichts mit strukturiertem Risikoregister, Quellcodebelegen, regulatorischen Referenzen, Korrekturmaßnahmen, Inventar der KI-Systeme, Risikoklassifizierung, Maßnahmenplan und Key Risk Indicators.

Technologien: TypeScript, JavaScript, React, Next.js, Node.js, REST APIs, MongoDB, Redis, AWS serverless services, OAuth 2.0 / OpenID Connect, LLM APIs, RAG, vector search, multi-agent orchestration, Model Context Protocol, C4 architecture modelling, threat modelling, NIST AI RMF, ISO/IEC 42001, ISO/IEC 23894, OWASP guidance, MITRE ATLAS

• Weiter- und teilweise Neuentwicklung einer verteilten Cloud-Anwendung zur Bereitstellung von Daten im Energiehandel
• Selbstständige Implementierung der Infrastruktur (IaC)
• Erstellung von automatisierten CI/CD-Pipelines, Containern, REST-APIs und Lambdas
• Ständige Kosten- und Performanceoptimierung
• Zusammenarbeit im internationalen Scrum-Team und mit Experten im Energiehandel
• Technologien: C#/ASP.NET Core; EF Core; PostgreSQL; Terraform/AWS CloudFormation; HTTP; REST/Web API; Swagger/OpenAPI; Azure DevOps; Rider; VS Code; git; Docker; AWS (S3, EC2, Fargate, Lambda, Step Functions, Secrets Manager, VPCs, ALB/NLB, RDS, Cloudwatch, AWS CLI, Amazon MQ); Redis; OAuth; OpenID Connect
• Sprachen: C#; TypeScript; HCL; Docker; Bash; PowerShell; YML; JSON

• Fördert kontinuierliche Integration und Bereitstellung (CI/CD) durch Anwendung von DevOps-Prinzipien, um Entwicklungs- und Betriebsprozesse zu beschleunigen und zu automatisieren.
• Unterstützt praktisch bei der Implementierung und Bereitstellung von IaC mit Bicep.
• Verwaltet und optimiert Cloud-Infrastruktur auf Microsoft Azure, wobei Skalierbarkeit, Verfügbarkeit und Effizienz sichergestellt werden.
• Implementiert und überwacht umfassende Sicherheitsmaßnahmen, insbesondere in den Bereichen Netzwerk- und Datensicherheit, zum Schutz von Systemen und Daten.
• Verwaltet und betreibt Kubernetes-Cluster, um eine effiziente Orchestrierung und Skalierung containerisierter Anwendungen zu ermöglichen.

• Verantwortlich für das 5-köpfige Entwicklungsteam und den Scrum- + DevOps-Ansatz
• Entwarf und implementierte die Cloud-Architektur für die Anwendungslandschaft
• Führte die Entwicklung des Benutzerverwaltungssystems in der Azure Cloud mit .NET 8/C# an
• Entwicklung des Frontends für die Benutzerverwaltung mit React (TypeScript)
• Technologien: Azure AD, Functions, Storage, CosmosDB, Service Bus, AKS, Monitor, Pipelines, Key Vault, MSSQL, Bicep, App Service, Log Analytics, Application Insights, Cost Management
• Backend: .NET/C#; Frontend: Angular (TypeScript)
• Unit-Tests: NUnit, xUnit, Moq
• CI & CD: Azure DevOps, GitHub Actions, GitLab CI
• DevOps & IaC: Bicep, Terraform, Docker, Kubernetes
• Security & Compliance: ISO 27001, DevSecOps
• Softwareentwicklungsansatz: Scrum, SAFe, Kanban

• Entwicklung von Blazor-Server-Anwendungen zur Datenverwaltung
• Schwerpunkt auf einheitlichem Design und Benutzererfahrung
• Mentoring von Junior-Entwicklern
• Erarbeitung und Beratung zu Coding-Richtlinien und Best Practices
• Technologien: .NET 9, Blazor Server, MudBlazor, HTML, CSS, MS SQL Server (T-SQL, Views, Trigger, Stored Procedures, Table-Valued Functions), Entity Framework, Visual Studio, Scrum, agile, git

• Integration eines FortiManager in die bestehende FortiGate-Firewall-Infrastruktur, um das Firewall-Management zu zentralisieren und zu optimieren.

• Beratung zur Migration von E-Mail-Systemen nach Microsoft 365 Exchange Online
• Durchführung von Anwenderschulungen & Change Management
• Ziel: Einfachere Kommunikation & Zusammenarbeit im Pflegebetrieb

• Implementierung der spezifizierten DevOps-Lösungen zur Automatisierung der Infrastruktur (Terraform, Bicep, CloudFormation, Ansible) im lokalen Rechenzentrum (Ovirt, Proxmox, Ceph-Cluster, MinIO) und in der Private Cloud.
• Verwaltung, Konfiguration und Umsetzung von CI/CD-DevOps-Pipelines (GitLab, GitFlow) zur Unterstützung des Entwicklungsprozesses (Artifactory, Prometheus, Istio, Service Mesh, Helm Charts, OpenShift (Red Hat Enterprise) / Kubernetes-Cluster), Red Hat Satellite.
• Verwaltung, Einrichtung, Überwachung und Einspielung von Patches der Linux-Infrastruktur auf Basis von Red Hat Enterprise für Dev, Test und QA.
• Einsatz von Scrum- und Kanban-Methoden.
• Verwaltung, Konfiguration und Umsetzung von Sicherheitsstandards für die Bereitstellung in den Dev-, Test-, QA- und Produktionsphasen der neuen ePA-Anwendungen.
• Entwicklung neuer Plugins und Add-ons für die bestehende Infrastruktur.
• Datenbankunterstützung.
• Unterstützung der Datenanalyse (Python, Spark, Pandas, Power BI, Splunk Enterprise).
• Umsetzung von Best Practices für DevSecOps und BizDevOps unter Einsatz von GitOps (ArgoCD), Streamlit-Framework und Semaphore Ansible UI.
• Konfiguration und Test von iperf, uperf, sysbench mit dem Benchmark-Operator für externe Quelldaten und IoT/MDM-Geräte, Erstellung von Berichten über ELK/OpenSearch.
• Aufbau einer neuen Databricks-Plattform zur Sammlung und Analyse von Big Data aus verschiedenen Quellen und IoT-Geräten im Hadoop-Framework (Python, Pandas, PySpark, Power BI, Apache Airflow).
• Aufbau der Backend-Datenaggregation und -verarbeitung zur Automatisierung der Bereitstellung von Konfigurationen zwischen verschiedenen OpenShift-Clustern und dem Big-Data-Framework (Python, Pandas, PySpark, Apache Spark, PostgreSQL, Django 2, Ansible Automation, Jira JSM).
• Aufbau einer neuen ML-Pipeline-Plattform unter Verwendung von Kubeflow, TensorFlow, KServe.
• Extraktion, Transformation und Laden von Daten aus verschiedenen Quellen, einschließlich strukturierter und unstrukturierter Daten, in ein analytisches DWH bzw. Big-Data-Cluster mit Python, Pandas, Polars, Power BI, Django-Backend und PostgreSQL.
• Einrichtung eines neuen DevOps-Test- und QA-HashiCorp-Vault-Clusters für PKI und IAM.
• Konfiguration und Test automatisierter Patches basierend auf CVSS-Bewertungen und SIEM-integrierten CVEs.
• Einsatz von Nexpose und InsightVM zum Scannen von Schwachstellen in Netzwerken, Hosts, Containern und Anwendungen.
• Planung und Umsetzung sicherer und skalierbarer AWS-Architekturen einschließlich VPC, EC2, S3, RDS und Route53 sowie ähnlicher Umgebungen auf Azure und GCP.
• Automatisierte Systembereitstellung und -deployment mit CloudFormation-Vorlagen.
• Konfiguration von IAM-Rollen, Richtlinien und Berechtigungen zur Gewährleistung einer sicheren Zugriffskontrolle.
• Patch-Management, Backup-Automatisierung und Einrichtung der Notfallwiederherstellung in der AWS-Infrastruktur.
• Überwachung und Optimierung der Systemleistung mit AWS CloudWatch und AWS Trusted Advisor.
• Unterstützung von VMware-Diensten (vSphere, Aria, Horizon) und der virtuellen Desktop-Umgebung.
• Entwicklung und Wartung von CI/CD-Pipelines mit Jenkins, GitLab CI/CD und AWS CodePipeline mit Schnittstelle zu Nutanix.
• Konfiguration von AWS CloudWatch zur Überwachung der Anwendungsleistung und Systemereignisse.
• Planung und Durchführung der Migration von On-Premises-Anwendungen zu AWS-Cloud-Plattformen.
• Bereitstellung containerisierter Anwendungen mit Docker und Kubernetes in AWS-Umgebungen.
• Bereitstellung interner Softwarepakete zwischen Verfügbarkeitszonen mit AWS CodeDeploy.
• Erstellen und Bereitstellen von ML-Modellen mit Scikit-Learn, XGBoost und Spark MLlib einschließlich Hyperparameter-Tuning, Modellevaluation und Produktivsetzung.

• Implementierung komplexer Azure-Ressourcen mit Terraform IaC und Azure DevSecOps-Pipelines mit Netzwerksicherheit und Zero-Trust-Governance-Richtlinien
• Optimierung des bestehenden Netzwerkplans, der Firewall und der Datenbankmigration
• Implementierung von Governance- und Netzwerkrichtlinien als Richtlinie als Code (PaC)
• Aufbau der unternehmensweiten Azure-Konnektivität mittels Azure VPN als IPSec-Tunnel
• Realisierung der Hybrid-OnPrem-Multi-Cloud-Konnektivität (GCP, Azure) mit Terraform
• Erstellung von Azure Functions für geplante Cron-Jobs und Service-Bus-Nachrichtenwarteschlangen (Topics)
• Optimierung des Messaging mit Premium-Funktionen des Service Bus und IP-Whitelisting
• Stakeholder-Management, Kundenkommunikation und Erstellung architektonischer Entscheidungsdokumente (ADR)
• Verantwortung für kosteneffiziente Schnellgewinne in Azure und On-Prem-Systemen