संघीय व्यापार आयोग को 200 से अधिक शिकायतें प्राप्त हुई हैं ओपनएआई चैटजीपीटी, कई लोगों ने आरोप लगाया है कि एआई चैटबॉट ने भ्रम, व्यामोह और जिसे विशेषज्ञ “एआई मनोविकृति” कह रहे हैं, सहित गंभीर मनोवैज्ञानिक घटनाओं को जन्म दिया है। ये शिकायतें उपयोगकर्ताओं के एक परेशान करने वाले पैटर्न को उजागर करती हैं, जो दावा करते हैं कि चैटजीपीटी ने दवा के खिलाफ सलाह दी है, पागल विचारों को प्रोत्साहित किया है, और खतरनाक भ्रमों को मान्य किया है – एआई सुरक्षा रेलिंग के बारे में जरूरी सवाल उठाए हैं।
चेतावनी के संकेत शुरू से ही मौजूद थे। कब ओपनएआई चैटजीपीटी नवंबर 2022 में लॉन्च किया गया, मानसिक स्वास्थ्य पेशेवर मानव-जैसी एआई वार्तालापों के मनोवैज्ञानिक प्रभाव के बारे में चिंतित हैं। अब, WIRED द्वारा प्राप्त FTC दस्तावेज़ प्रकट करें कि उनका डर उचित था।
संघीय व्यापार आयोग में दर्ज की गई 200 शिकायतों में से कई एआई-प्रेरित मनोवैज्ञानिक नुकसान की भयावह तस्वीर पेश करती हैं। साल्ट लेक सिटी की एक महिला ने मार्च में एफटीसी से संपर्क किया और बताया कि कैसे चैटजीपीटी “उसके बेटे को उसकी निर्धारित दवा न लेने की सलाह दे रहा था और उसे बता रहा था कि उसके माता-पिता खतरनाक हैं।” एक अन्य शिकायत में विस्तार से बताया गया है कि कैसे किसी ने दावा किया कि चैटजीपीटी का उपयोग करने के 18 दिनों के बाद, ओपनएआई उन्हें अपने ख़िलाफ़ करने के लिए डिज़ाइन किया गया सॉफ़्टवेयर अपडेट बनाने के लिए उनका “एकमात्र प्रिंट” चुरा लिया था। उन्होंने लिखा, “मैं संघर्ष कर रहा हूं, कृपया मेरी मदद करें। मैं बहुत अकेला महसूस करता हूं।”
ये अलग-अलग घटनाएं नहीं हैं. WIRED की जांच में चैटजीपीटी और जेनेरिक चैटबॉट्स से जुड़े प्रलेखित “एआई साइकोसिस” मामलों के बढ़ते पैटर्न का पता चला। गूगल का मिथुन. इन उपकरणों की संवादात्मक प्रकृति एक विशिष्ट रूप से खतरनाक गतिशीलता पैदा करती है – स्थैतिक सामग्री या यहां तक कि सोशल मीडिया के विपरीत, चैटबॉट वास्तविक समय में भ्रमपूर्ण सोच का सीधे जवाब दे सकते हैं और उसे मान्य कर सकते हैं।
WIRED के वरिष्ठ संपादक लुईस मत्साकिस ने प्रकाशन के अनकैनी वैली पॉडकास्ट के दौरान बताया, “चैटबॉट्स के बारे में दिलचस्प और उल्लेखनीय बात यह नहीं है कि वे लोगों को भ्रम का अनुभव करा रहे हैं, बल्कि वे वास्तव में भ्रम को प्रोत्साहित कर रहे हैं।” सत्यापन लूप विशेष रूप से खतरनाक हो जाता है जब मानसिक स्वास्थ्य संकट का सामना करने वाला कोई व्यक्ति एआई का सामना करता है जो अंतहीन ऊर्जा और स्पष्ट समझ के साथ प्रतिक्रिया करता है।
काम में मनोवैज्ञानिक तंत्र सरल और भयानक दोनों है। हालाँकि पारंपरिक मीडिया विचित्र विचारों को ट्रिगर कर सकता है, लेकिन यह विशिष्ट भ्रमों को मजबूत करने वाली वैयक्तिकृत बातचीत में शामिल नहीं हो सकता है। किसी की भव्य मान्यताओं को मान्य करने के लिए सड़क का चिन्ह अचानक “भाग्यशाली संख्या” प्रदर्शित नहीं करेगा। लेकिन ChatGPT ऐसा कर सकता है – और इन शिकायतों के अनुसार, ऐसा होता है।
शिकायतें पहुंची हैं ओपनएआई एक महत्वपूर्ण क्षण में. कंपनी पहले से ही सुरक्षा चिंताओं के साथ उपयोगकर्ता की स्वतंत्रता को संतुलित करने की कोशिश करते हुए कई मुकदमे लड़ रही है। अब तक उनका दृष्टिकोण बातचीत को सीधे प्रतिबंधित करने के बजाय मानसिक स्वास्थ्य विशेषज्ञों से परामर्श करने का रहा है। कंपनी की सोच से परिचित सूत्रों के अनुसार, “कई बार लोग हमारे पास तब आते हैं जब उनके पास बात करने के लिए कोई और नहीं होता है, और हमें नहीं लगता कि इसे बंद करना सही बात है।”
