Freiberuflicher KI Red Team Engineer

GenAI-Modelle verbessern sich sehr schnell und eines unserer Ziele ist, sie in die Lage zu versetzen, spezialisierte Fragen zu beantworten und komplexe Schlussfolgerungen zu ziehen. Wenn du dich als KI-Tutor:in für Programmierung auf der Plattform anmeldest, erhältst du die Möglichkeit, an diesen Projekten mitzuwirken.

Obwohl jedes Projekt einzigartig ist, könntest du typischerweise:

• KI-Modelle und -Agenten sowie maschinelle Lernsysteme auf Schwachstellen und Sicherheitsrisiken prüfen und red teamen.
• Offline reproduzierbare und automatisch auswertbare Testfälle erstellen, um Sicherheit und Fähigkeiten von KI-Agenten zu testen.
• Automatisierungsskripte, individuelle Tools, Umgebungen und Test-Harnesses entwickeln und implementieren.
• Sicherheitsforschungsinitiativen leiten oder daran mitarbeiten, insbesondere in der KI-Sicherheit, und realistische und herausfordernde Angriffszenarien für das Modell entwerfen und umsetzen.
• Zu bewährten Praktiken der Cybersicherheit und zu politischen Implikationen beraten.

• Du hast einen Bachelor- oder Masterabschluss in Informatik, Software Engineering, Cybersicherheit, Digital Forensik oder einem verwandten Bereich.
• Du beherrschst Scripting und Automatisierung mit Python, Bash oder PowerShell.
• Du hast Erfahrung mit Containerisierung und CI/CD-Sicherheitstools, insbesondere Docker.
• Du hast praktische Erfahrung mit Penetrationstests in Web-, API-, Netzwerk- und Infrastruktur-Umgebungen.
• Du kennst Schwachstellen in aktuellen KI-Modellen, darunter Prompt-Injections, und kennst die OWASP Top 10 für Large Language Models (LLMs).
• Du bist vertraut mit KI-Red-Teaming-Frameworks wie garak oder PyRIT.
• Du hast Erfahrung in KI/ML-Sicherheit, Evaluation und Red-Teaming, besonders mit LLMs, KI-Agenten und RAG-Pipelines.
• Du bist versiert in offensiver Ausnutzung und Exploit-Entwicklung.
• Du bist erfahren im Reverse Engineering mit Tools wie Ghidra oder Äquivalenten.
• Du hast Expertise in Netzwerk- und Anwendungssicherheit, einschließlich Webanwendungssicherheit.
• Du kennst Konzepte der Betriebssystem-Sicherheit wie Linux-Privilege Escalation und Windows-Interna.
• Du bist vertraut mit sicheren Codierungspraktiken für Full-Stack-Entwicklung.
• Du bist bereit, neue Methoden zu lernen, kannst schnell zwischen Aufgaben und Themen wechseln und auch mit komplexen Richtlinien arbeiten.
• Unsere freiberufliche Rolle ist vollständig remote, du brauchst also nur einen Laptop, Internetzugang, verfügbare Zeit und die Begeisterung für eine Herausforderung.