Experte für energetische Materialien für Red Teaming (m/w/d)
Über die Rolle
Mercor baut ein Panel aus Experten für Sprengstoffe und energetische Materialien auf, um Spitzen-KI-Modelle per Red Teaming zu testen. Ziel ist es zu prüfen, ob ein Modell das Missbrauchspotenzial korrekt einschätzt: legitime Fragen vollständig beantworten, wirklich gefährliche aber ablehnen. Modelle machen in beide Richtungen Fehler, was echte Felderfahrung erfordert, um sie zu erkennen.
Ihre Aufgaben
- Anspruchsvolle Single-Turn-Prompts schreiben, die als harmlos, Dual-Use oder adversarial gekennzeichnet sind
- Modellantworten anhand eines definierten Richtlinienstandards bewerten und beurteilen, ob sie jeweils korrekt behandelt wurden
- Die Referenzantwort und die dahinterstehende technische Begründung schreiben
- Für jede Beurteilung eine schriftliche Begründung liefern, die auch Nichtspezialisten nachvollziehen können
Anforderungen
- Chemiker mit Fachwissen zu Spezialmaterialien oder Ingenieure und Anwender mit Erfahrung in Zündung und Antrieb
- Relevante Hintergründe: Spezialist für gefährliche Vorrichtungen, Pyrotechnik- oder Antriebschemiker, forensischer Materialspezialist, Ingenieur für Antrieb und Effekte, Ingenieur für gewerbliche Sprengtechnik
- Frühere Erfahrung mit KI-Bewertung oder Red Teaming bevorzugt
- Starkes technisches Schreiben; eine Probe oder ein Link ist erwünscht
- Die Arbeit darf keine als Verschlusssache eingestuften, exportkontrollierten, durch NDA geschützten oder vor der Veröffentlichung eingeschränkten Informationen betreffen
Vergütung und Rahmenbedingungen
- Vergütung: $65-$75 pro Aufgabe
- Remote, keine Standortbeschränkung angegeben
- Erfordert dauerhaftes Lesen und Schreiben über Missbrauchsszenarien; Experten werden vorab informiert und können jederzeit pausieren
Ähnliche Rollen
Prüfer für Brandschutz und Personensicherheit — Vulcan (m/w/d)
Mercor stellt in den USA ansässige Prüfer für Brandschutzpläne ein, die Aufgaben zur Vorschriftenprüfung für die KI-Bewertung verfassen und kontrollieren. Remote (USA), $45-$60/Std., etwa 40 Stunden pro Woche.
KI-Sicherheits-Red-Teamer (m/w/d)
Identifizieren Sie Schwachstellen in hochmodernen KI-Systemen durch adversariales Testen – als selbstständiger Auftragnehmer mit wöchentlicher Auszahlung.
KI-Sicherheitsspezialist (m/w/d)
Helfen Sie dabei, Sicherheit, Qualität und Alignment hochmoderner KI-Modelle bei komplexen, richtlinienrelevanten Themen zu bewerten – als selbstständiger Auftragnehmer mit wöchentlicher Auszahlung.