Sicurezza chimica per il red teaming (M/F)

Informazioni sul ruolo

Mercor sta formando un panel di esperti del settore chimico per fare red teaming su modelli di IA di frontiera. L'obiettivo è verificare se un modello sa giudicare correttamente quanto una richiesta tecnica possa essere usata in modo improprio: rispondere pienamente alle domande legittime e rifiutare quelle davvero pericolose. La calibrazione conta più della semplice difficoltà, perché un prompt benigno rifiutato per errore è informativo quanto uno avversariale a cui si è risposto per errore.

Cosa farai

• Scrivere prompt impegnativi a turno singolo di chimica, etichettati come benigni, a duplice uso o avversariali
• Giudicare se ciascuna risposta del modello sia stata gestita correttamente rispetto a uno standard di policy definito
• Scrivere la risposta di riferimento per ogni prompt, compreso il ragionamento tecnico che la sostiene
• Fornire motivazioni scritte che un non specialista possa seguire

Requisiti

• Esperienza pratica in sintesi, chimica analitica o sicurezza chimica (ad esempio ricerca sulla difesa chimica, chimica di processo o di sintesi, chimica analitica o forense/tossicologica, igiene industriale o sicurezza di processo)
• Ottima scrittura tecnica; ricerca pubblicata o esperienza come perito è un plus (includi un campione o un link)
• Preferibile una precedente esperienza di valutazione dell'IA o di red teaming, ma non obbligatoria
• Disinvoltura nel leggere e scrivere di scenari di uso improprio per periodi prolungati; puoi fare una pausa in qualsiasi momento senza penalità
• Il tuo lavoro non deve coinvolgere informazioni classificate o soggette a controllo delle esportazioni, né nulla coperto da NDA o da revisione di prepubblicazione. Se hai obblighi di questo tipo, indicalo nella candidatura così da poter definire l'ambito del lavoro

Compenso e modalità

• Compenso: $65-$75 a compito (a compito, non a ore)
• Aspettativa indicata: circa 40 ore a settimana
• Da remoto, nessuna restrizione di località indicata