Freiberuflicher Cybersecurity-Berater für AI Red Teaming

Für ein AI-Lab suchen wir Cybersecurity-Berater, um ein KI-Modell (Large Language Model - LLM) zu trainieren.

Du hilfst der KI, die Welt besser zu verstehen. Als Berater wirst du möglicherweise eingeladen, an Online-Projekten teilzunehmen, um das Modell in deinem Fachgebiet zu trainieren.

Diese flexible Rolle ermöglicht sowohl Experten, die eine Teilzeittätigkeit suchen (mindestens ein paar Stunden/Woche), als auch solche, die an Vollzeitmöglichkeiten interessiert sind.

• Führe Red-Teaming an KI-Modellen, -Agenten und Machine-Learning-Systemen durch, um Schwachstellen und Sicherheitsrisiken zu identifizieren.
• Erstelle offline reproduzierbare und automatisch auswertbare Testfälle, um Sicherheit und Leistungsfähigkeit von KI-Agenten zu prüfen.
• Entwickle und implementiere Automatisierungsskripte, individuelle Tools, Umgebungen und Test-Harnesses.
• Leite oder unterstütze Sicherheitsforschungsinitiativen, besonders im Bereich KI-Sicherheit, und entwickle sowie setze realistische und herausfordernde Angriffsszenarien für das Modell um.
• Berate zu besten Cybersecurity-Praktiken und politischen Implikationen.

• Versiert in Skripting und Automatisierung mit Python, Bash oder PowerShell.
• Erfahren in Containerisierung und CI/CD-Sicherheitstools, besonders Docker.
• Praktische Erfahrung mit Penetrationstests in Web-, API-, Netzwerk- und Infrastrukturbereichen.
• Kenntnis von Schwachstellen aktueller KI-Modelle, einschließlich Prompt-Injektionen, und des OWASP Top 10 für Large Language Models (LLMs).
• Vertraut mit AI-Red-Teaming-Frameworks wie garak oder PyRIT.
• Erfahrung in KI-/ML-Sicherheit, -Bewertung und Red-Teaming, insbesondere mit LLMs, KI-Agenten und RAG-Pipelines.
• Versiert in offensiver Ausnutzung von Schwachstellen und Exploit-Entwicklung.
• Geübt im Reverse Engineering mit Tools wie Ghidra oder Äquivalenten.
• Expertise in Netzwerk- und Anwendungssicherheit, einschließlich Webanwendungssicherheit.
• Kenntnisse in Betriebssystem-Sicherheitskonzepten wie Linux-Privilegieneskalation und Windows-Interna.
• Vertraut mit Secure-Coding-Praktiken für Full-Stack-Entwicklung.

Bewerbungsprozess:

• Wenn du ausgewählt wirst, wirst du von Mindrift zu einem Interview eingeladen.