AI सेफ़्टी प्रैक्टिशनर

भूमिका के बारे में

हम अनुभवी AI सेफ़्टी प्रैक्टिशनर्स की तलाश में हैं, जो जटिल, नीति-संवेदनशील और अस्पष्ट ("ग्रे-एरिया") विषयों पर फ़्रंटियर AI मॉडल की सुरक्षा, गुणवत्ता और अलाइनमेंट का मूल्यांकन करेंगे। आप AI द्वारा तैयार की गई प्रतिक्रियाओं का आकलन करेंगे, सेफ़्टी पॉलिसी लागू करेंगे, और संरचित मूल्यांकन तथा फ़ीडबैक के ज़रिए मॉडल के व्यवहार को बेहतर बनाने में मदद करेंगे।

आप क्या करेंगे

• AI द्वारा तैयार की गई प्रतिक्रियाओं का सुरक्षा, तथ्यात्मक सटीकता, पॉलिसी अनुपालन और समग्र गुणवत्ता के आधार पर मूल्यांकन करना
• ग़लत सूचना, राजनीतिक प्रभावन, आत्म-क्षति, हिंसा, साइबर, बायोसिक्योरिटी और अन्य संवेदनशील क्षेत्रों से जुड़ी सामग्री की समीक्षा करना
• RLHF, SFT और AI सेफ़्टी बेंचमार्किंग के लिए मूल्यांकन रूब्रिक लागू करना और उन्हें बेहतर बनाना
• असुरक्षित आउटपुट, हैलुसिनेशन, रीज़निंग विफलताओं और पॉलिसी उल्लंघनों की पहचान करना
• मॉडल अलाइनमेंट और सुरक्षा प्रदर्शन बेहतर बनाने के लिए संरचित फ़ीडबैक देना
• चल रही मूल्यांकन पहलों पर AI शोधकर्ताओं और सेफ़्टी टीमों के साथ मिलकर काम करना

आवश्यकताएँ

• पत्रकारिता, संचार, मनोविज्ञान, समाजशास्त्र, सार्वजनिक नीति, कानून, जीव विज्ञान, रसायन विज्ञान, कंप्यूटर साइंस या किसी संबंधित विषय में स्नातक या उससे उच्च डिग्री
• AI सेफ़्टी, ट्रस्ट एंड सेफ़्टी, पत्रकारिता, सार्वजनिक नीति, वैज्ञानिक शोध, सुरक्षा या किसी संबंधित क्षेत्र में कम से कम 5 वर्ष का पेशेवर अनुभव
• उत्कृष्ट लिखित अंग्रेज़ी, आलोचनात्मक सोच और विश्लेषणात्मक तर्कशक्ति
• सूक्ष्म और नीति-संवेदनशील परिदृश्यों का लगातार मूल्यांकन करने की क्षमता

वरीयता प्राप्त योग्यताएँ

• AI सेफ़्टी, RLHF, SFT, ट्रस्ट एंड सेफ़्टी या AI मूल्यांकन का अनुभव
• सेफ़्टी पॉलिसी, कंटेंट मॉडरेशन या मूल्यांकन रूब्रिक विकास से परिचय
• जटिल, उच्च-जोखिम वाली या अस्पष्ट सामग्री की समीक्षा का अनुभव

क्यों जुड़ें

• दुनिया भर में लाखों लोगों द्वारा उपयोग किए जाने वाले फ़्रंटियर AI मॉडल की सुरक्षा और व्यवहार को आकार दें
• सूक्ष्म और उच्च-प्रभाव वाले क्षेत्रों में चुनौतीपूर्ण, वास्तविक दुनिया के सुरक्षा मूल्यांकनों पर काम करें
• अग्रणी AI शोधकर्ताओं, इंजीनियरों और सेफ़्टी टीमों के साथ मिलकर काम करें

पारिश्रमिक और शर्तें

• प्रकार: स्वतंत्र कॉन्ट्रैक्टर
• पारिश्रमिक: प्रतिस्पर्धी, Stripe या Wise के माध्यम से साप्ताहिक भुगतान
• स्थान: रिमोट
• आवेदन: अपना रिज़्यूमे या प्रासंगिक पेशेवर पृष्ठभूमि जमा करें। योग्य आवेदकों से एक संक्षिप्त मूल्यांकन पूरा करने या अतिरिक्त जानकारी देने के लिए कहा जा सकता है। आवेदनों की समीक्षा रोलिंग आधार पर की जाती है।