AI सेफ़्टी रेड टीमर

भूमिका के बारे में

हम अनुभवी AI सेफ़्टी रेड टीमर्स की तलाश में हैं, जो एडवर्सेरियल टेस्टिंग के ज़रिए फ़्रंटियर AI सिस्टम की कमज़ोरियों की पहचान करेंगे। आप चुनौतीपूर्ण प्रॉम्प्ट डिज़ाइन करेंगे, मॉडल की कमज़ोरियाँ उजागर करेंगे, और जटिल, उच्च-जोखिम वाले और अस्पष्ट ("ग्रे-एरिया") विषयों पर AI के व्यवहार का मूल्यांकन करेंगे।

आप क्या करेंगे

• फ़्रंटियर AI मॉडल की कड़ी परीक्षा लेने के लिए एडवर्सेरियल प्रॉम्प्ट डिज़ाइन करना
• जेलब्रेक, असुरक्षित व्यवहार, हैलुसिनेशन और पॉलिसी विफलताओं की पहचान करना
• ग़लत सूचना, साइबर, बायोसिक्योरिटी, धोखाधड़ी, राजनीतिक सामग्री और अन्य संवेदनशील क्षेत्रों में मॉडल की मज़बूती का मूल्यांकन करना
• कमज़ोरियों का दस्तावेज़ीकरण करना और सेफ़्टी बेंचमार्किंग तथा रेड-टीमिंग रिपोर्ट में योगदान देना
• मॉडल अलाइनमेंट, मज़बूती और सुरक्षा बेहतर बनाने के लिए AI शोधकर्ताओं के साथ मिलकर काम करना

आवश्यकताएँ

• कंप्यूटर साइंस, साइबर सिक्योरिटी, पत्रकारिता, संचार, मनोविज्ञान, जीव विज्ञान, रसायन विज्ञान, सार्वजनिक नीति या किसी संबंधित विषय में स्नातक या उससे उच्च डिग्री
• AI सेफ़्टी, AI रेड टीमिंग, ट्रस्ट एंड सेफ़्टी, साइबर सिक्योरिटी, खोजी पत्रकारिता, लाइफ़ साइंसेज़ या किसी संबंधित क्षेत्र में कम से कम 5 वर्ष का पेशेवर अनुभव
• मज़बूत विश्लेषणात्मक तर्कशक्ति, प्रॉम्प्ट डिज़ाइन और लिखित संवाद-कौशल
• एडवर्सेरियल प्रॉम्प्ट डिज़ाइन करने या फ़्रंटियर AI सिस्टम का मूल्यांकन करने का अनुभव

वरीयता प्राप्त योग्यताएँ

• AI रेड टीमिंग, RLHF, SFT, AI अलाइनमेंट या ट्रस्ट एंड सेफ़्टी का अनुभव
• जेलब्रेक टेस्टिंग, प्रॉम्प्ट इंजीनियरिंग या एडवर्सेरियल मूल्यांकन पद्धतियों से परिचय
• साइबर, बायोसिक्योरिटी, राजनीतिक सामग्री, ग़लत सूचना या वैज्ञानिक सुरक्षा सहित एक या अधिक ग्रे-एरिया क्षेत्रों में विशेषज्ञता

क्यों जुड़ें

• अगली पीढ़ी के फ़्रंटियर AI मॉडल को सुरक्षित और मज़बूत बनाने में मदद करें
• अग्रणी AI शोधकर्ताओं और सेफ़्टी टीमों के साथ अत्याधुनिक एडवर्सेरियल टेस्टिंग पर काम करें
• जटिल, वास्तविक दुनिया की सुरक्षा चुनौतियों पर AI सिस्टम की प्रतिक्रिया को प्रभावित करें

पारिश्रमिक और शर्तें

• प्रकार: स्वतंत्र कॉन्ट्रैक्टर
• पारिश्रमिक: प्रतिस्पर्धी, Stripe या Wise के माध्यम से साप्ताहिक भुगतान
• स्थान: रिमोट
• आवेदन: अपना रिज़्यूमे या प्रासंगिक पेशेवर पृष्ठभूमि जमा करें। योग्य आवेदकों से एक संक्षिप्त मूल्यांकन पूरा करने या अतिरिक्त जानकारी देने के लिए कहा जा सकता है। आवेदनों की समीक्षा रोलिंग आधार पर की जाती है।