OpenAI वयस्क मोड को टेक्स्ट, छवियों पर रेखा खींचने तक सीमित करता है

ओपनएआई अपने विवादास्पद वयस्क मोड के साथ रेत पर एक सावधान रेखा खींच रहा है। कंपनी ने की पुष्टि वॉल स्ट्रीट जर्नल चैटजीपीटी की लंबे समय से विलंबित परिपक्व सामग्री सुविधा केवल टेक्स्ट क्षमताओं के साथ लॉन्च होगी, जिसमें छवि, आवाज और वीडियो निर्माण को सीमा से बाहर रखा जाएगा। यह एक परिकलित मध्य मार्ग है – ओपनएआई जिसे “स्मट” कहता है उसे अनुमति देता है जबकि जिसे वह अश्लील साहित्य के रूप में वर्गीकृत करता है उससे बचता है। अंतर मायने रखता है क्योंकि एआई कंपनियां इस बात से जूझ रही हैं कि वयस्क सामग्री पर नैतिक सीमाएं कहां खींची जाएं।

ओपनएआई आख़िरकार गंदी बात करने के लिए तैयार है – लेकिन केवल लिखित रूप में। चैटजीपीटी के लिए कंपनी का बहुप्रतीक्षित वयस्क मोड एक महत्वपूर्ण सीमा के साथ लॉन्च होगा, जिससे पता चलता है कि एआई कंपनियां परिपक्व सामग्री के प्रति कितनी सावधानी से काम कर रही हैं। एक अनाम प्रवक्ता के अनुसार जिसने बात की वॉल स्ट्रीट जर्नलयह सुविधा चैटबॉट की छवि, आवाज और वीडियो क्षमताओं को दृढ़ता से प्रतिबंधित रखते हुए वयस्क विषयों के साथ टेक्स्ट-आधारित बातचीत का समर्थन करेगी।

Apple ने चुपचाप AirPods Max 2 लॉन्च कर दिया

OpenAI का अंतर कुछ हद तक व्यक्तिपरक रेखा पर केंद्र बना रहा है: स्मट बनाम पोर्नोग्राफ़ी। लिखित इरोटिका स्वीकार्य “स्मट” श्रेणी में आती है, जबकि उत्पन्न छवियां या वीडियो अश्लील क्षेत्र में चले जाएंगे जिसे कंपनी छूने के लिए तैयार नहीं है। यह एक सीमा है जो पारंपरिक मीडिया वर्गीकरणों को प्रतिध्वनित करती है – रोमांस उपन्यास किताबों की दुकानों की अलमारियों पर रखे जाते हैं, लेकिन दृश्य वयस्क सामग्री को बहुत सख्त वितरण नियमों का सामना करना पड़ता है।

सीईओ सैम अल्टमैन ने पहली बार अक्टूबर में इस फीचर को छेड़ा था, जिसमें दावा किया गया था कि ओपनएआई ने सुरक्षा प्रतिबंधों को कम करने के लिए अपने एआई मॉडल के साथ पर्याप्त “गंभीर मानसिक स्वास्थ्य मुद्दों” को हल किया है। इस घोषणा ने उद्योग को अचंभित कर दिया, ऑल्टमैन ने इसकी रूपरेखा तैयार की “सत्यापित वयस्कों के लिए इरोटिका” सोशल मीडिया पर. लेकिन उस घोषणा के बाद से महीनों की देरी से पता चलता है कि कार्यान्वयन अनुमान से अधिक पेचीदा साबित हुआ।

केवल-पाठ दृष्टिकोण OpenAI को कई लाभ देता है। लिखित सामग्री को मॉडरेट करना आसान है और डीपफेक या गैर-सहमति वाली इमेजरी उत्पन्न होने की संभावना कम है – ऐसी समस्याएं जिन्होंने अन्य एआई छवि जनरेटर को परेशान किया है। यह एक परीक्षण मैदान भी बनाता है जहां कंपनी संभावित रूप से अन्य तौर-तरीकों में विस्तार करने से पहले उपयोगकर्ता के व्यवहार को माप सकती है और सुरक्षा प्रणालियों को परिष्कृत कर सकती है। और अगर चीजें किनारे हो जाती हैं, तो टेक्स्ट फीचर को बंद करने से दृश्य सामग्री को खींचने की तुलना में बहुत कम नियामक जांच उत्पन्न होती है जिसका पहले से ही दुरुपयोग हो सकता है।