6. Oktober 2026 · 5 Min. Lesezeit

Was ist KI-Red-Teaming und wie steigt man ein?

KI-Red-Teaming ist die Praxis, ein KI-Modell gezielt mit schwierigen, kniffligen oder provozierenden Eingaben zu testen, um herauszufinden, wo es versagt, sich unsicher verhält oder in die Irre geführt werden kann. Der Einstieg gelingt über Remote-Expertenrollen auf Plattformen wie Mercor und Micro1, doch es gibt weniger Angebote als bei allgemeiner Bewertungsarbeit, rechnen Sie also mit gründlicher Suche.

Was Red Teaming in einfachen Worten bedeutet

Der Name stammt aus der Sicherheitsbranche, wo ein „Red Team“ den Angreifer spielt, um Schwachstellen aufzudecken, bevor echte Angreifer es tun. In der KI ist die Idee ähnlich: Statt einem Modell einfache Fragen zu stellen, fühlen Sie ihm auf den Zahn. Widerspricht es sich selbst? Lässt es sich dazu überreden, seine eigenen Regeln zu ignorieren? Behauptet es selbstsicher Falsches? Geht es verantwortungsvoll mit sensiblen Themen um?

Das Ziel ist nicht, aus Spaß etwas kaputt zu machen. Die Ergebnisse helfen den Teams, die das Modell entwickeln, seine Schwachstellen zu verstehen, zu beheben und Verbesserungen zu messen. Red Teaming steht neben anderer Arbeit mit menschlichem Feedback wie dem Bewerten und Ranken, das in Was RLHF ist und was KI-Trainer tatsächlich tun beschrieben wird.

Wie die Arbeit typischerweise aussieht

Die genauen Aufgaben variieren je nach Projekt und werden meist im Angebot und beim Onboarding beschrieben. Allgemein können Red-Teamer:

Test-Prompts schreiben, die Schwächen aufdecken sollen, im Rahmen der Projektregeln.
Dokumentieren, was das Modell getan hat, warum es ein Problem war und wie gut es sich reproduzieren ließ.
Den Schweregrad oder die Kategorie eines Fehlers nach den Projektrichtlinien einstufen.
Modellversionen vergleichen oder frühere Probleme erneut prüfen, um zu sehen, ob sie behoben wurden.
Neue Testkategorien vorschlagen, die das Team übersehen haben könnte.

Klares Schreiben ist genauso wichtig wie Einfallsreichtum. Ein guter Bericht ermöglicht es jemand anderem, das Problem nachzustellen und zu verstehen, warum es wichtig ist. Projekte haben meist Regeln dazu, was Sie versuchen dürfen und was nicht und wie mit verstörendem Material umzugehen ist; halten Sie sich genau daran und gehen Sie nicht davon aus, dass eine Aufgabe grenzenlos ist.

Wer sich gut eignet

Es gibt keinen einheitlichen Hintergrund. Angebote und Projekte schätzen oft:

Fachexpertise. Ein Arzt, Jurist oder Ingenieur erkennt in seinem Fachgebiet eine subtil falsche Antwort, die ein Generalist übersehen würde. Deshalb sind Fachexperten beim Testen spezialisierter Inhalte nützlich.
Analytisches und neugieriges Denken. Sie fragen gern „Was wäre, wenn“ und bemerken Randfälle.
Sorgfältiges Schreiben. Sie können einen Fehler präzise und sachlich beschreiben.
Sprachkenntnisse. Modelle können sich in verschiedenen Sprachen unterschiedlich verhalten, daher können mehrsprachige Tester bei manchen Projekten wertvoll sein.
Belastbarkeit und Urteilsvermögen. Manches Material kann unangenehm sein. Prüfen Sie, was ein Projekt beinhaltet, bevor Sie es annehmen.

Erfahrung in Sicherheit oder Softwareentwicklung kann helfen, ist aber nicht immer erforderlich. Lesen Sie das Angebot, statt zu raten. Wenn Sie unsicher sind, ob Ihr Fachgebiet zählt, hilft Ihnen vielleicht unser Beitrag Was ein Fachexperte im KI-Training ist.

Wo die Jobs sind und was sie angeben

Red Teaming tritt in mehreren Formen auf: als eigene Rollen und als Teil breiterer Evaluator- oder Expertenprüfungs-Rollen. Auf SOJI hat die Kategorie KI-Sicherheit und Red Teaming zum Zeitpunkt des Schreibens (Okt. 2026) 4 aktive Jobs, mit einem Median des angegebenen Minimums von etwa $60 pro Stunde und einem höchsten angegebenen Maximum von bis zu $84. Diese Zahlen sind die Angaben der Angebote, in USD; sie variieren je nach Projekt und sind nicht das, was Menschen verdienen. Viele Rollen sind projektbasiert mit schwankenden Stunden, und manche zahlen pro Aufgabe, prüfen Sie also die Einheit.

Weil es nur wenige eigene Angebote gibt, lohnt es sich auch, die Kategorie KI-Evaluator und alle Jobs nach Rollen zu durchsuchen, die gezieltes Testen, Sicherheitsprüfung oder ähnliche Arbeit erwähnen.

So bewerben Sie sich

Lesen Sie die Anforderungen sorgfältig. Beachten Sie die geforderte Erfahrung, die zulässigen Standorte und ob die Rolle pro Stunde oder pro Aufgabe bezahlt wird.
Erstellen Sie ein konkretes Profil. Plattformen verwenden Ihr Profil und Ihren Lebenslauf in der Regel für mehrere Angebote wieder. Betonen Sie Ihr Fachgebiet, Ihre analytische Arbeit und Ihr Schreiben. Unser Leitfaden zum Schreiben eines Lebenslaufs ohne KI-Erfahrung zeigt, wie.
Beantworten Sie Screening-Fragen wahrheitsgemäß. Häufig geht es um Ihren gewünschten Stundensatz, wie bald Sie anfangen können, Wochenstunden und Jahre an Erfahrung mit einer Fähigkeit.
Bereiten Sie sich ehrlich auf das Interview vor. Bei Mercor dreht sich das typische Interview um Ihr Fachgebiet, nicht um KI. Nutzen Sie niemals Abkürzungen und erfinden Sie keine Erfahrung; siehe So bestehen Sie das Mercor-Interview und die Bewertung.
Bewerben Sie sich auf mehrere passende Angebote. Die Screening-Schritte werden geteilt, daher ist es in Ordnung, sich auf mehr als ein passendes Angebot zu bewerben.

Die Zuordnung zu einem Projekt ist nicht garantiert. Die Verfügbarkeit ändert sich, und manche werden binnen Tagen zugeordnet, andere warten Wochen.

Die Arbeit realistisch einordnen

Red Teaming kann interessant sein, ist aber dennoch Auftragsarbeit, meist projektbasiert. Die Stunden können schwanken, ein Projekt kann enden, und Sie müssen möglicherweise unangenehme Inhalte lesen. Überlegen Sie, ob das zu Ihnen passt, und lesen Sie den Auftragnehmervertrag sorgfältig, bevor Sie zusagen. Wenn Sie es mit anderen Optionen abwägen, ist unser Beitrag zu den Vor- und Nachteilen von KI-Training-Jobs eine nützliche Ergänzung.

Kurze Checkliste

Vergewissern Sie sich, dass die Rolle für Ihr Land offen ist (prüfen Sie „Zulässige Standorte“).
Prüfen Sie, ob die Vergütung pro Stunde oder pro Aufgabe erfolgt.
Sehen Sie sich an, welche Inhalte das Projekt umfasst und ob Sie damit zurechtkommen.
Richten Sie Ihr Profil auf analytische, schriftliche und fachliche Stärken aus.
Beantworten Sie Screening-Fragen korrekt.
Vergewissern Sie sich vor der Bewerbung, dass das Angebot noch offen ist.

Einschränkungen

Dies ist ein allgemeiner Überblick und keine Beschreibung eines bestimmten Projekts. Eigene Red-Teaming-Angebote sind selten, die Anforderungen unterscheiden sich je Angebot, und SOJI kann nicht garantieren, dass Sie angenommen, zugeordnet oder mit einem bestimmten Betrag vergütet werden. Steuerliche und rechtliche Fragen zur Auftragnehmertätigkeit hängen von Ihrem Land ab und werden hier nicht behandelt; prüfen Sie die Regeln vor Ort.

Offenlegung

SOJI ist ein unabhängiges Jobportal und weder mit Mercor noch mit Micro1 verbunden. Wenn Sie sich über unsere Empfehlungslinks bewerben und eingestellt werden, erhalten wir möglicherweise eine Provision, die für Sie kostenlos ist; sie hat keinen Einfluss darauf, welche Jobs wir veröffentlichen. Mehr auf unserer Seite „Über uns“.