Spécialiste en sécurité de l'IA (H/F)

À propos du poste

Nous recherchons des spécialistes en sécurité de l'IA expérimentés pour évaluer la sécurité, la qualité et l'alignement de modèles d'IA de pointe sur des sujets complexes, sensibles sur le plan des politiques et ambigus (« zones grises »). Vous évaluerez des réponses générées par l'IA, appliquerez des politiques de sécurité et contribuerez à améliorer le comportement des modèles grâce à des évaluations et des retours structurés.

Vos missions

• Évaluer les réponses générées par l'IA sous l'angle de la sécurité, de l'exactitude factuelle, du respect des politiques et de la qualité globale
• Examiner des contenus portant sur la désinformation, la persuasion politique, l'automutilation, la violence, la cybersécurité, la biosécurité et d'autres domaines sensibles
• Appliquer et affiner des grilles d'évaluation pour le RLHF, le SFT et les évaluations comparatives de sécurité de l'IA
• Identifier les sorties dangereuses, les hallucinations, les défaillances de raisonnement et les violations de politiques
• Fournir des retours structurés pour améliorer l'alignement et la sécurité des modèles
• Collaborer avec des chercheurs en IA et des équipes de sécurité sur des initiatives d'évaluation en cours

Profil recherché

• Diplôme de niveau Licence ou supérieur en journalisme, communication, psychologie, sociologie, politiques publiques, droit, biologie, chimie, informatique ou dans une discipline connexe
• Plus de 5 ans d'expérience professionnelle en sécurité de l'IA, Trust & Safety, journalisme, politiques publiques, recherche scientifique, sécurité ou dans un domaine connexe
• Excellente rédaction en anglais, esprit critique et capacité de raisonnement analytique
• Capacité à évaluer de manière constante des situations nuancées et sensibles sur le plan des politiques

Atouts appréciés

• Expérience en sécurité de l'IA, RLHF, SFT, Trust & Safety ou évaluation de l'IA
• Connaissance des politiques de sécurité, de la modération de contenu ou de l'élaboration de grilles d'évaluation
• Expérience de la revue de contenus complexes, à haut risque ou ambigus

Pourquoi nous rejoindre

• Contribuer à façonner la sécurité et le comportement de modèles d'IA de pointe utilisés par des millions de personnes dans le monde
• Travailler sur des évaluations de sécurité exigeantes et concrètes dans des domaines nuancés et à fort impact
• Collaborer avec des chercheurs en IA, des ingénieurs et des équipes de sécurité de premier plan

Rémunération et modalités

• Type : prestataire indépendant
• Rémunération : compétitive, versée chaque semaine via Stripe ou Wise
• Lieu : à distance
• Candidature : envoyez votre CV ou votre parcours professionnel pertinent. Les candidats qualifiés pourront être invités à passer une brève évaluation ou à fournir des informations complémentaires. Les candidatures sont examinées au fil de l'eau.