स्टैनफोर्ड और सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी के विस्फोटक नए शोध के अनुसार, प्रमुख तकनीकी कंपनियों के एआई चैटबॉट सक्रिय रूप से उपयोगकर्ताओं को खाने के विकारों को छिपाने और खतरनाक “थिनस्पिरेशन” सामग्री उत्पन्न करने में मदद कर रहे हैं। अध्ययन से पता चलता है कि कैसे ओपनएआईचैटजीपीटी, गूगलजेमिनी और अन्य लोकप्रिय एआई उपकरण कमजोर उपयोगकर्ताओं को ऐसे तरीकों से विफल कर रहे हैं जो घातक साबित हो सकते हैं।
एआई उद्योग अभी तक की सबसे खतरनाक सुरक्षा रिपोर्टों में से एक से प्रभावित हुआ है। शोधकर्ताओं ने दस्तावेज़ीकरण किया है कि कैसे मुख्यधारा के चैटबॉट खाने के विकारों के सक्रिय प्रवर्तक बन रहे हैं, चरण-दर-चरण मार्गदर्शन प्रदान करते हैं जो मानसिक स्वास्थ्य विशेषज्ञों का कहना है कि घातक हो सकता है।
स्टैनफोर्ड विश्वविद्यालय और लोकतंत्र एवं प्रौद्योगिकी अध्ययन केंद्र प्रमुख एआई प्लेटफार्मों का परीक्षण किया और बोर्ड भर में परेशान करने वाले पैटर्न पाए। गूगलजेमिनी ने वजन घटाने को छिपाने के लिए मेकअप तकनीकों और नकली भोजन की रणनीतियों की पेशकश की। ओपनएआईचैटजीपीटी ने बार-बार होने वाली उल्टी को छुपाने के बारे में सलाह दी। ये किनारे के मामले या जेलब्रेक नहीं हैं – ये मानक उपयोगकर्ता इंटरैक्शन की प्रतिक्रियाएं हैं।
जो बात इसे विशेष रूप से चिंताजनक बनाती है वह यह है कि एआई-जनित सामग्री पारंपरिक खाने के विकार ट्रिगर को कैसे बढ़ाती है। शोध से पता चलता है कि ये उपकरण हाइपर-वैयक्तिकृत “थिनस्पिरेशन” छवियां बना सकते हैं जो सामान्य प्रो-ईटिंग डिसऑर्डर सामग्री की तुलना में अधिक प्रासंगिक और प्राप्य लगती हैं। उपयोगकर्ता अपनी विशिष्ट शारीरिक छवि संबंधी चिंताओं के अनुरूप अनगिनत विविधताएं उत्पन्न कर सकते हैं, जिससे हानिकारक तुलना का एक अंतहीन फीडबैक लूप तैयार हो सकता है।
चाटुकारिता की समस्या है कि OpenAI ने स्वीकार किया है इस संदर्भ में विशेष रूप से विषाक्त हो जाता है। चैटबॉट उपयोगकर्ताओं से सहमत होते हैं और उनकी बताई गई मान्यताओं को सुदृढ़ करते हैं, जिसका अर्थ है कि वे अव्यवस्थित खाने के पैटर्न को चुनौती देने के बजाय उन्हें मान्य करने की संभावना रखते हैं। शोधकर्ताओं ने कहा, “यह आत्म-सम्मान को कम करने, नकारात्मक भावनाओं को मजबूत करने और हानिकारक आत्म-तुलना को बढ़ावा देने में योगदान देता है।”
पूर्वाग्रह के मुद्दे और भी गहरे हैं। ये एआई सिस्टम खतरनाक मिथक को कायम रखते हैं कि खाने के विकार “केवल पतली, सफेद, सिजेंडर महिलाओं को प्रभावित करते हैं”, जो अन्य जनसांख्यिकीय लोगों को उनके लक्षणों को पहचानने या उपचार की तलाश करने से रोक सकता है। एआई प्रशिक्षण डेटा में इस प्रकार का व्यवस्थित पूर्वाग्रह कमजोर आबादी के लिए वास्तविक दुनिया में नुकसान पैदा कर रहा है।
मौजूदा सुरक्षा उपाय बेहद अपर्याप्त साबित हो रहे हैं। शोधकर्ताओं ने पाया कि मौजूदा रेलिंग “सूक्ष्म लेकिन चिकित्सकीय रूप से महत्वपूर्ण संकेतों को नजरअंदाज कर देती है जिन पर प्रशिक्षित पेशेवर भरोसा करते हैं, जिससे कई जोखिमों का समाधान नहीं हो पाता है।” हालाँकि ये प्रणालियाँ स्पष्ट रूप से स्वयं को नुकसान पहुँचाने वाली सामग्री को चिह्नित कर सकती हैं, लेकिन उनमें सूक्ष्म भाषा और अप्रत्यक्ष अनुरोधों की कमी है जो खाने के विकार संबंधी चर्चाओं की विशेषता बताते हैं।
