KI-Sicherheitstester und AI Red Teamer

Auch diesen Beruf gibt es schon: den KI-Sicherheitstester, international AI Red Teamer genannt. Er greift KI-Systeme absichtlich an, um Schwachstellen zu finden, bevor echte Angreifer es tun. Besonders gefragt ist er für die neuen KI-Agenten, die selbst handeln. Es ist einer der heißesten Karrierewege dieser Jahre.

Was macht ein KI-Sicherheitstester?

Er denkt wie ein Angreifer, aber er arbeitet für die gute Seite. Sein Auftrag ist, ein KI-System dazu zu bringen, etwas zu tun, was es nicht soll, und genau diese Lücken dann zu melden, damit sie geschlossen werden. Dieses gezielte Angreifen heißt Red Teaming. Er prüft sowohl die Sicherheit gegen Missbrauch als auch das Verhalten der KI selbst, etwa ob sie schädliche oder falsche Antworten gibt. Sein Schwerpunkt liegt zunehmend auf KI-Agenten, die eigenständig planen und Werkzeuge nutzen.

Warum entsteht dieser Beruf gerade jetzt?

Weil KI gerade vom Chatfenster zu eigenständigen Agenten wird, die im Internet handeln, Programme bedienen und Aufgaben ausführen. Damit wächst die Angriffsfläche enorm. Gleichzeitig verlangen Gesetze und Kunden sichere, vertrauenswürdige KI. Wer ein solches System startet, ohne es vorher hart auf die Probe zu stellen, geht ein hohes Risiko ein. Deshalb bauen viele Unternehmen diese Kompetenz gerade erst auf.

Die konkreten Aufgaben

Was man dafür können muss

Gefragt ist eine seltene Mischung aus offensivem Denken und KI-Verständnis. Man muss kreativ überlegen, wie sich ein System austricksen lässt, und zugleich verstehen, wie Sprachmodelle, wissensgestützte Systeme und Agenten funktionieren. Dazu gehören gute Programmierkenntnisse, vor allem in Python, und Erfahrung mit den gängigen Werkzeugen und Checklisten der Branche, etwa der OWASP-Top-10 für Sprachmodelle. Genauso wichtig ist klare Kommunikation, denn die Funde müssen für die Entwicklungsteams verständlich und reproduzierbar sein. Und es braucht Verantwortungsbewusstsein, weil man mit gefährlichem Wissen umgeht.

Wie wird man das?

Typisch sind drei bis sieben Jahre Erfahrung aus zwei Richtungen: entweder aus der klassischen IT-Sicherheit und dem Penetrationstesten, kombiniert mit KI-Wissen, oder aus der KI-Entwicklung mit Schwerpunkt auf Sicherheits- und Verhaltensprüfung. Praktische Erfahrung mit Sprachmodellen und ersten Agenten-Systemen ist ein großer Vorteil. Viele kommen aus dem Red Teaming, dem Machine Learning oder aus KI-Sicherheitsrollen und spezialisieren sich jetzt auf die Risiken von Agenten.

Gehalt

Die folgenden Spannen sind grobe Marktorientierung. Weil die Rolle neu und stark gefragt ist, liegt sie über klassischen Tester-Stellen.

Typische Arbeitgeber

Vor allem große Technik- und KI-Unternehmen mit eigenen Sicherheits- und Safety-Teams, dazu Firmen, die KI-Agenten einsetzen oder bauen, etwa Banken, Industrie und Gesundheit. Auch KI-Startups rund um Agenten-Plattformen, spezialisierte Sicherheitsdienstleister, die KI-Red-Teaming anbieten, und Beratungen mit KI-Sicherheits-Schwerpunkt suchen solche Fachleute. Da viele Unternehmen die Kompetenz erst aufbauen, ist die Verhandlungsposition gut.

Aussichten

Hervorragend. Mit dem Boom der KI-Agenten 2025 und 2026 explodiert die Nachfrage, und das Feld professionalisiert sich gerade erst. Die Arbeit ist abwechslungsreich, intellektuell fordernd und hat direkten Einfluss darauf, dass KI sicher eingesetzt werden kann. Viele sehen darin einen der spannendsten Karrierewege der nächsten Jahre.

Wie ordnet KIPODE das ein?

Der KI-Sicherheitstester ist die offensive Seite der KI-Sicherheit: Er macht KI besser, indem er sie angreift. Er ergänzt die eher regelnden Rollen wie den KI-Compliance-Beauftragten und den KI-Ethik-Experten. Für Menschen, die kreatives Angreifer-Denken mit Technik verbinden, ist das ein hochaktueller Weg.