चैटजीपीटी के लिए ओपनएआई के विलंबित “वयस्क मोड” से लॉन्च के समय सॉसी टेक्स्ट वार्तालापों का समर्थन करने की उम्मीद है, लेकिन चैटबॉट की छवियां, आवाज या वीडियो उत्पन्न करने की क्षमता नहीं। से बात हो रही है वॉल स्ट्रीट जर्नलएक अनाम ओपनएआई प्रवक्ता ने आगामी फीचर द्वारा प्रदान की जाने वाली सामग्री को अश्लील साहित्य के बजाय अश्लील के रूप में वर्णित किया, जिससे चैटजीपीटी उपयोगकर्ताओं को वयस्क विषयों के साथ पाठ्य चैट उत्पन्न करने की अनुमति मिलेगी।
इसके अनुसार देरी आंतरिक चिंताओं और फीचर के सुरक्षा उपायों से जुड़ी तकनीकी चुनौतियों के कारण भी हुई वॉल स्ट्रीट जर्नलकी रिपोर्टिंग. OpenAI द्वारा चयनित सलाहकारों की एक परिषद ने जनवरी में कंपनी को चेतावनी दी थी कि ChatGPT का वयस्क मोड बच्चों के लिए सुलभ हो सकता है और चैटबॉट पर अस्वास्थ्यकर भावनात्मक निर्भरता को बढ़ावा दे सकता है, एक अनाम परिषद सदस्य ने कहा कि OpenAI ने “सेक्सी आत्मघाती कोच” बनाने का जोखिम उठाया है।
सामग्री मॉडरेशन मुद्दों ने भी देरी में योगदान दिया है। मामले से वाकिफ सूत्रों ने बताया द जर्नल ओपनएआई एनएसएफडब्ल्यू सामग्री पर चैटजीपीटी के प्रतिबंधों को हटाने के लिए संघर्ष कर रहा है, जबकि अधिक हानिकारक परिदृश्यों को सीमा से दूर रखता है, जैसे कि गैर-सहमतिपूर्ण व्यवहार या बाल यौन शोषण को चित्रित करना।
ओपनएआई ने बच्चों को कामुकता से दूर रखने के लिए जो आयु-भविष्यवाणी प्रणाली विकसित की, वह भी एक बिंदु पर, लगभग 12 प्रतिशत मामलों में नाबालिगों को वयस्कों के रूप में गलत वर्गीकृत कर रही थी। यह देखते हुए कि चैटजीपीटी प्रत्येक सप्ताह 18 वर्ष से कम आयु के लगभग 100 मिलियन उपयोगकर्ताओं को आकर्षित करता है, त्रुटि दर लाखों नाबालिगों को चैटबॉट के साथ कामुक बातचीत करने की अनुमति दे सकती है। एक अनाम प्रवक्ता ने बताया कि ओपनएआई का आयु पूर्वानुमान एल्गोरिदम बाकी उद्योग के समान प्रदर्शन दिखाता है द जर्नललेकिन “कभी भी पूरी तरह से अचूक नहीं होगा।”
टेक्स्ट-आधारित वार्तालापों पर टिके रहने से चैटजीपीटी-निर्माता के लिए यूके के ऑनलाइन सुरक्षा अधिनियम जैसे नियमों के आसपास नेविगेट करना आसान हो सकता है, जिसके लिए ऑनलाइन प्लेटफ़ॉर्म को अश्लील छवियों के लिए आयु सत्यापन लागू करने की आवश्यकता होती है, लेकिन लिखित इरोटिका की नहीं। यह ग्रोक के “मसालेदार” साथियों जैसे प्रतिद्वंद्वी एआई प्रदाताओं के अधिक दृश्य एनएसएफडब्ल्यू अनुभवों के विपरीत है, एक्सएआई के एलोन मस्क ने पिछले सप्ताह घोषणा की थी कि ग्रोक की छवि और वीडियो जनरेटर को कुछ भी उगलने की अनुमति है।आर-रेटेड मूवी में अनुमति दी गई है।”
