Esperto di materiali energetici per il red teaming (M/F)
Informazioni sul ruolo
Mercor sta formando un panel di esperti di esplosivi e materiali energetici per fare red teaming su modelli di IA di frontiera. L'obiettivo è verificare se un modello valuta correttamente il potenziale di uso improprio: rispondere pienamente alle domande legittime e rifiutare quelle davvero pericolose. I modelli sbagliano in entrambe le direzioni, e per accorgersene serve vera esperienza sul campo.
Cosa farai
- Scrivere prompt impegnativi a turno singolo etichettati come benigni, a duplice uso o avversariali
- Valutare le risposte dei modelli rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente
- Scrivere la risposta di riferimento e il ragionamento tecnico che la sostiene
- Fornire per ogni giudizio una motivazione scritta che anche un non specialista possa seguire
Requisiti
- Chimici con competenze su materiali speciali, oppure ingegneri e operatori con esperienza in innesco e propulsione
- Background rilevanti: specialista di ordigni pericolosi, chimico di pirotecnia o propulsione, specialista forense di materiali, ingegnere di propulsione ed effetti, ingegnere di demolizioni commerciali
- Preferibile una precedente esperienza di valutazione dell'IA o di red teaming
- Ottima scrittura tecnica; un campione o un link è gradito
- Il lavoro non deve coinvolgere informazioni classificate, soggette a controllo delle esportazioni, coperte da NDA o con restrizioni di prepubblicazione
Compenso e modalità
- Compenso: $65-$75 a compito
- Da remoto, nessuna restrizione di località indicata
- Comporta lunghi periodi di lettura e scrittura su scenari di uso improprio; gli esperti vengono informati in anticipo e possono fare una pausa in qualsiasi momento
Ruoli correlati
Revisore di sicurezza antincendio e tutela delle persone — Vulcan (M/F)
Mercor assume revisori di progetti antincendio con sede negli Stati Uniti per scrivere e verificare compiti di revisione normativa per la valutazione dell'IA. Da remoto (USA), $45-$60/h, circa 40 ore a settimana.
Red Teamer per la sicurezza dell'IA (M/F)
Individua le vulnerabilità dei sistemi di IA all'avanguardia attraverso test avversariali, come collaboratore indipendente con pagamento settimanale.
Specialista di sicurezza dell'IA (M/F)
Contribuisci a valutare la sicurezza, la qualità e l'allineamento dei modelli di IA all'avanguardia su temi complessi e sensibili dal punto di vista delle policy, come collaboratore indipendente con pagamento settimanale.