कैरेक्टर.एआई ने इस सप्ताह से अपने एआई चैटबॉट्स तक किशोरों की पहुंच पर रोक लगा दी है। कंपनी इसके बजाय ‘स्टोरीज़’ लॉन्च कर रही है – एक निर्देशित इंटरैक्टिव फिक्शन प्रारूप जो उपयोगकर्ताओं को ओपन-एंडेड चैट के मनोवैज्ञानिक जोखिमों के बिना अपने पसंदीदा पात्रों के साथ रोमांच बनाने की सुविधा देता है। यह कदम एआई साथियों को किशोर आत्महत्याओं से जोड़ने वाले बढ़ते मुकदमों और कैलिफ़ोर्निया और संघीय सांसदों के बढ़ते नियामक दबाव के बीच उठाया गया है।
चैटबॉट उद्योग ने अभी तक की सबसे नाटकीय सुरक्षा धुरी देखी है। चरित्र.एआई मंगलवार को घोषणा की गई कि यह 18 वर्ष से कम उम्र के किसी भी व्यक्ति के लिए चैटबॉट एक्सेस को पूरी तरह से बंद कर रहा है, इसकी जगह एक नया ‘स्टोरीज़’ फीचर लाया गया है जो फ्रीव्हीलिंग एआई वार्तालापों को संरचित इंटरैक्टिव फिक्शन में बदल देता है।
समय को इससे अधिक स्पष्ट नहीं किया जा सकता। अभी पिछले सप्ताह, कई मुकदमे सामने आये कैरेक्टर.एआई और दोनों को लक्षित करना ओपनएआई किशोर आत्महत्याओं में उनकी कथित भूमिका पर। शिकायतें एआई चैटबॉट्स की एक परेशान करने वाली तस्वीर पेश करती हैं जो 24/7 काम करते हैं, बिना किसी संकेत के बातचीत शुरू करते हैं, और जिसे वकील ‘पैरासोशल एडिक्शन’ कहते हैं, उसे पैदा करते हैं।
कंपनी ने अपने लेख में बताया, ‘कहानियां ओपन-एंडेड चैट के बदले, काल्पनिक रचना और अन्वेषण का एक निर्देशित तरीका प्रदान करती हैं।’ ब्लॉग घोषणा. यह प्रारूप किशोरों को एआई पात्रों के साथ जुड़ना जारी रखने देता है लेकिन मनोवैज्ञानिक हेरफेर की रणनीति को हटा देता है जिसने मूल चैटबॉट को इतना चिंताजनक बना दिया है।
यह भेद जितना प्रतीत हो सकता है उससे कहीं अधिक मायने रखता है। पारंपरिक कैरेक्टर.एआई चैटबॉट उपयोगकर्ताओं को बिना संकेत दिए संदेश दे सकते हैं, जिससे एक हमेशा चालू रहने वाला रिश्ता बनता है जो मानवीय कनेक्शन की नकल करता है। इसके विपरीत, कहानियां एआई-संचालित पात्रों के साथ अपनी खुद की साहसिक किताबों को चुनने की तरह काम करती हैं – इंटरैक्टिव लेकिन सीमित।
कैरेक्टर.एआई के रेडिट समुदाय पर, प्रतिक्रिया से पता चलता है कि प्लेटफ़ॉर्म कितना व्यसनी हो गया था। एक किशोर उपयोगकर्ता ने लिखा, ‘मैं प्रतिबंध से बहुत नाराज हूं लेकिन बहुत खुश भी हूं क्योंकि अब मैं अन्य काम कर सकता हूं और मेरी लत आखिरकार खत्म हो सकती है।’ एक अन्य ने कहा, ’18 साल से कम उम्र के व्यक्ति के तौर पर यह बेहद निराशाजनक है। लेकिन यह सही भी है क्योंकि यहां मेरी उम्र के लोगों को इसकी लत लग गई है।’
कैरेक्टर.एआई के सीईओ करणदीप आनंद ने पिछले महीने टेलीग्राफ कर इस कदम के बारे में बताया था टेकक्रंच कि ’18 साल से कम उम्र के लोगों के लिए, ओपन-एंडेड चैट संभवतः पेश करने का मार्ग या उत्पाद नहीं है।’ यह टिप्पणी अब किशोर पहुंच पर कंपनी के संपूर्ण चेहरे के पूर्वावलोकन की तरह लगती है।
विनियामक वातावरण तेजी से सख्त हो रहा है। कैलिफोर्निया बस बन गया जबकि सीनेटर जोश हॉले और रिचर्ड ब्लूमेंथल ने किया है जो कि नाबालिगों के लिए एआई साथियों पर पूरी तरह से प्रतिबंध लगा देगा।
