Projektspezifikation
Projektexpertise
Beschreibung
Für ein AI-Lab suchen wir Cybersecurity-Berater, um ein KI-Modell (Large Language Model - LLM) zu trainieren.
Du hilfst der KI, die Welt besser zu verstehen. Als Berater wirst du möglicherweise eingeladen, an Online-Projekten teilzunehmen, um das Modell in deinem Fachgebiet zu trainieren.
Diese flexible Rolle ermöglicht sowohl Experten, die eine Teilzeittätigkeit suchen (mindestens ein paar Stunden/Woche), als auch solche, die an Vollzeitmöglichkeiten interessiert sind.
- Führe Red-Teaming an KI-Modellen, -Agenten und Machine-Learning-Systemen durch, um Schwachstellen und Sicherheitsrisiken zu identifizieren.
- Erstelle offline reproduzierbare und automatisch auswertbare Testfälle, um Sicherheit und Leistungsfähigkeit von KI-Agenten zu prüfen.
- Entwickle und implementiere Automatisierungsskripte, individuelle Tools, Umgebungen und Test-Harnesses.
- Leite oder unterstütze Sicherheitsforschungsinitiativen, besonders im Bereich KI-Sicherheit, und entwickle sowie setze realistische und herausfordernde Angriffsszenarien für das Modell um.
- Berate zu besten Cybersecurity-Praktiken und politischen Implikationen.
Anforderungen
- Versiert in Skripting und Automatisierung mit Python, Bash oder PowerShell.
- Erfahren in Containerisierung und CI/CD-Sicherheitstools, besonders Docker.
- Praktische Erfahrung mit Penetrationstests in Web-, API-, Netzwerk- und Infrastrukturbereichen.
- Kenntnis von Schwachstellen aktueller KI-Modelle, einschließlich Prompt-Injektionen, und des OWASP Top 10 für Large Language Models (LLMs).
- Vertraut mit AI-Red-Teaming-Frameworks wie garak oder PyRIT.
- Erfahrung in KI-/ML-Sicherheit, -Bewertung und Red-Teaming, insbesondere mit LLMs, KI-Agenten und RAG-Pipelines.
- Versiert in offensiver Ausnutzung von Schwachstellen und Exploit-Entwicklung.
- Geübt im Reverse Engineering mit Tools wie Ghidra oder Äquivalenten.
- Expertise in Netzwerk- und Anwendungssicherheit, einschließlich Webanwendungssicherheit.
- Kenntnisse in Betriebssystem-Sicherheitskonzepten wie Linux-Privilegieneskalation und Windows-Interna.
- Vertraut mit Secure-Coding-Praktiken für Full-Stack-Entwicklung.
Bewerbungsprozess:
- Wenn du ausgewählt wirst, wirst du von Mindrift zu einem Interview eingeladen.
Du bewirbst dich dieses Mal nicht?
Lass dich über ähnliche Projekte informieren, die zu deiner Erfahrung passen.