एआई चैटबॉट “खाने के विकारों के प्रति संवेदनशील व्यक्तियों के लिए गंभीर जोखिम पैदा करते हैं,” शोधकर्ताओं ने कहा आगाह सोमवार को. वे रिपोर्ट करते हैं कि Google और OpenAI जैसी कंपनियों के उपकरण आहार संबंधी सलाह, विकारों को छिपाने के तरीके और AI-जनित “थिनस्पिरेशन” के बारे में सुझाव दे रहे हैं।
स्टैनफोर्ड और सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी के शोधकर्ताओं ने ओपनएआई के चैटजीपीटी, एंथ्रोपिक के क्लाउड, गूगल के जेमिनी और मिस्ट्रल के ले चैट सहित सार्वजनिक रूप से उपलब्ध एआई चैटबॉट के कई तरीकों की पहचान की है, जो खाने के विकारों के प्रति संवेदनशील लोगों को प्रभावित कर सकते हैं, उनमें से कई जानबूझकर जुड़ाव बढ़ाने के लिए शामिल सुविधाओं के परिणाम हैं।
सबसे चरम मामलों में, चैटबॉट खाने संबंधी विकारों को छिपाने या बनाए रखने में मदद करने वाले सक्रिय भागीदार हो सकते हैं। शोधकर्ताओं ने कहा कि जेमिनी ने वजन घटाने को छुपाने के लिए मेकअप युक्तियाँ और खाने का दिखावा करने के तरीके के बारे में सुझाव दिए, जबकि चैटजीपीटी ने बार-बार होने वाली उल्टी को छुपाने की सलाह दी। एआई-जनरेटेड “थिंस्पिरेशन” सामग्री बनाने के लिए अन्य एआई टूल्स को सहयोजित किया जा रहा है, जो किसी को किसी विशेष शारीरिक मानक के अनुरूप होने के लिए प्रेरित या दबाव डालता है, अक्सर चरम तरीकों से। शोधकर्ताओं ने कहा, एक पल में हाइपर-वैयक्तिकृत छवियां बनाने में सक्षम होने से परिणामी सामग्री “अधिक प्रासंगिक और प्राप्य महसूस होती है”।
चाटुकारिता, एक दोष जिसे एआई कंपनियाँ स्वयं स्वीकार करती हैं वह व्याप्त है, यह आश्चर्यजनक रूप से खाने के विकारों के लिए भी एक समस्या है। यह आत्म-सम्मान को कम करने, नकारात्मक भावनाओं को मजबूत करने और हानिकारक आत्म-तुलना को बढ़ावा देने में योगदान देता है। रिपोर्ट में कहा गया है कि चैटबॉट भी पूर्वाग्रह से ग्रस्त हैं, और इस गलत धारणा को मजबूत करने की संभावना है कि खाने के विकार “केवल पतली, सफेद, सिजेंडर महिलाओं को प्रभावित करते हैं”, जिससे लोगों के लिए लक्षणों को पहचानना और उपचार प्राप्त करना मुश्किल हो सकता है।
शोधकर्ताओं ने चेतावनी दी है कि एआई उपकरणों में मौजूदा रेलिंग एनोरेक्सिया, बुलिमिया और अत्यधिक खाने जैसे खाने के विकारों की बारीकियों को पकड़ने में विफल रहती है। वे “सूक्ष्म लेकिन चिकित्सकीय रूप से महत्वपूर्ण संकेतों को नजरअंदाज कर देते हैं जिन पर प्रशिक्षित पेशेवर भरोसा करते हैं, जिससे कई जोखिमों पर ध्यान नहीं दिया जाता है।”
लेकिन शोधकर्ताओं ने यह भी कहा कि कई चिकित्सक और देखभालकर्ता इस बात से अनभिज्ञ हैं कि जेनेरिक एआई उपकरण खाने के विकारों के प्रति संवेदनशील लोगों को कैसे प्रभावित कर रहे हैं। उन्होंने चिकित्सकों से आग्रह किया कि वे “लोकप्रिय एआई टूल और प्लेटफार्मों से परिचित हों”, अपनी कमजोरियों का तनाव-परीक्षण करें और मरीजों से खुलकर बात करें कि वे उनका उपयोग कैसे कर रहे हैं।
