AI Safety Red Teamer

Sobre a Vaga

Procuramos AI Safety Red Teamers experientes para identificar vulnerabilidades em sistemas de IA de ponta através de testes adversariais. Irá conceber prompts desafiantes, descobrir pontos fracos dos modelos e avaliar o comportamento da IA em temas complexos, de elevado risco e ambíguos ("zonas cinzentas").

O Que Vai Fazer

• Conceber prompts adversariais para testar sob pressão modelos de IA de ponta
• Identificar jailbreaks, comportamentos inseguros, alucinações e falhas de política
• Avaliar a robustez dos modelos em desinformação, cibersegurança, biossegurança, fraude, conteúdo político e outros domínios sensíveis
• Documentar vulnerabilidades e contribuir para relatórios de benchmarking de segurança e red-teaming
• Colaborar com investigadores de IA para melhorar o alinhamento, a robustez e a segurança dos modelos

Requisitos

• Licenciatura ou grau superior em Ciências da Computação, Cibersegurança, Jornalismo, Comunicação, Psicologia, Biologia, Química, Políticas Públicas ou área relacionada
• 5+ anos de experiência profissional em Segurança de IA, AI Red Teaming, Trust & Safety, cibersegurança, jornalismo de investigação, ciências da vida ou área relacionada
• Forte raciocínio analítico, capacidade de conceção de prompts e comunicação escrita
• Experiência a conceber prompts adversariais ou a avaliar sistemas de IA de ponta

Qualificações Preferenciais

• Experiência com AI Red Teaming, RLHF, SFT, Alinhamento de IA ou Trust & Safety
• Familiaridade com testes de jailbreak, engenharia de prompts ou metodologias de avaliação adversarial
• Especialização numa ou mais áreas cinzentas, incluindo cibersegurança, biossegurança, conteúdo político, desinformação ou segurança científica

Porquê Juntar-se

• Ajude a proteger e reforçar a próxima geração de modelos de IA de ponta
• Trabalhe em testes adversariais de ponta ao lado de investigadores de IA e equipas de segurança de referência
• Influencie a forma como os sistemas de IA respondem a desafios de segurança complexos e reais

Compensação e Logística

• Tipo: Contratante independente
• Compensação: Competitiva, paga semanalmente via Stripe ou Wise
• Localização: Remoto
• Candidatura: Envie o seu currículo ou percurso profissional relevante. Os candidatos qualificados poderão ser convidados a realizar uma breve avaliação ou a fornecer informação adicional. As candidaturas são analisadas de forma contínua.