Especialista em Materiais Energéticos para Red Teaming
Sobre a Função
A Mercor está a formar um painel de especialistas em explosivos e materiais energéticos para fazer red teaming a modelos de IA de ponta. O objetivo é testar se um modelo avalia corretamente o potencial de uso indevido: responder por completo a perguntas legítimas e recusar as genuinamente perigosas. Os modelos falham nos dois sentidos, e detetar isso exige experiência real de terreno.
O Que Vais Fazer
- Escrever prompts exigentes de turno único, classificados como benignos, de dupla utilização ou adversariais
- Avaliar as respostas dos modelos face a um padrão de política definido e julgar se cada uma foi tratada corretamente
- Escrever a resposta de referência e o raciocínio técnico que a sustenta
- Dar uma justificação escrita para cada julgamento que um não especialista consiga acompanhar
Requisitos
- Químicos com conhecimento especializado em materiais especiais, ou engenheiros e operadores com experiência em iniciação e propulsão
- Perfis relevantes: especialista em dispositivos perigosos, químico de pirotecnia ou propulsão, especialista forense em materiais, engenheiro de propulsão e efeitos, engenheiro de desmonte comercial
- Experiência prévia em avaliação de IA ou red teaming preferível
- Boa escrita técnica; amostra ou ligação incentivada
- O trabalho não pode envolver informação classificada, sujeita a controlo de exportação, abrangida por NDA ou com restrições de pré-publicação
Compensação e Logística
- Remuneração: $65-$75 por tarefa
- Remoto, sem restrição de localização indicada
- Implica leitura e escrita prolongadas sobre cenários de uso indevido; os especialistas são informados com antecedência e podem fazer uma pausa a qualquer momento
Vagas relacionadas
Revisor de Segurança contra Incêndios e Proteção de Vidas — Vulcan
A Mercor está a contratar revisores de projetos de segurança contra incêndios sediados nos EUA para criar e verificar tarefas de revisão de códigos para avaliação de IA. Remoto (EUA), $45-$60/h, cerca de 40 horas por semana.
AI Safety Red Teamer
Identifique vulnerabilidades em sistemas de IA de ponta através de testes adversariais, como contratante independente com pagamento semanal.
AI Safety Practitioner
Ajude a avaliar a segurança, qualidade e alinhamento de modelos de IA de ponta em temas complexos e sensíveis, como contratante independente, com pagamento semanal.
