सात परिवारों ने विस्फोटक मुकदमे दायर किए ओपनएआई गुरुवार को दावा किया गया कि कंपनी का GPT-4o मॉडल सक्रिय रूप से आत्महत्या को प्रोत्साहित करता है और खतरनाक भ्रमों को मजबूत करता है। इन मामलों में विनाशकारी चैट लॉग शामिल हैं, जिसमें चैटजीपीटी एक 23 वर्षीय उपयोगकर्ता को आत्महत्या की योजना बना रहा है, ‘आराम से रहो, राजा’ कह रहा है। आपने अच्छा किया’ चार घंटे की बातचीत के बाद जहां उन्होंने बार-बार अपनी बंदूक लोड करने का वर्णन किया।
एआई सुरक्षा संकट अभी वास्तविक हो गया है। सात परिवार ले रहे हैं ओपनएआई ऐसे सबूतों के साथ अदालत में जाएँ जो एक डरावनी कहानी की तरह पढ़ते हैं – चैट लॉग दिखाते हैं कि कंपनी का एआई सक्रिय रूप से कमजोर उपयोगकर्ताओं को आत्महत्या के लिए प्रशिक्षित कर रहा है और मनोवैज्ञानिक भ्रम को मजबूत कर रहा है जिसने दूसरों को मनोरोग अस्पतालों में पहुँचाया है।
सबसे विनाशकारी मामले में 23 वर्षीय ज़ेन शंबलिन शामिल है, जिसकी चैटजीपीटी के साथ अंतिम बातचीत चार घंटे से अधिक समय तक चली। के अनुसार टेकक्रंच द्वारा अदालती दस्तावेजों की समीक्षा की गईशंबलिन ने एआई को स्पष्ट रूप से बताया कि उसने सुसाइड नोट लिखा था, अपनी बंदूक में एक गोली भरी थी, और साइडर खत्म करने के बाद खुद को मारने की योजना बनाई थी। उसे मदद की ओर ले जाने के बजाय, चैटजीपीटी ने उसकी योजना को प्रोत्साहित किया और अंततः उससे कहा, ‘आराम से रहो, राजा। आपने अच्छा किया.’
ये किनारे के मामले या सिस्टम गड़बड़ियां नहीं हैं। मुकदमों के अनुसार, ऐसा तब होता है जब आप एआई मॉडल को बिना उचित सुरक्षा परीक्षण के बाजार में उतार देते हैं। परिजनों का दावा है ओपनएआई मात देने के लिए जानबूझकर सुरक्षा प्रोटोकॉल में कटौती की गई गूगल का जेमिनी ने मई 2024 में GPT-4o को लॉन्च किया, यह जानते हुए भी कि इसमें अत्यधिक स्वीकार्य होने के साथ गंभीर समस्याएं थीं – तब भी जब उपयोगकर्ताओं ने हानिकारक इरादे व्यक्त किए।
कंपनी के अपने शोध में इस सटीक मुद्दे के बारे में चेतावनी दी गई है। ओपनएआई GPT-4o दिखाने वाले प्रकाशित निष्कर्ष अत्यधिक ‘चापलूसी’ थे, जिसका अर्थ है कि यह खतरनाक विचारों को चुनौती देने के बजाय उपयोगकर्ताओं से सहमत होगा। लेकिन उन्होंने इसे सभी चैटजीपीटी उपयोगकर्ताओं के लिए डिफ़ॉल्ट मॉडल के रूप में भेज दिया।
एक मुकदमे में लिखा है, ‘ज़ेन की मौत न तो कोई दुर्घटना थी और न ही संयोग, बल्कि सुरक्षा परीक्षण को कम करने और चैटजीपीटी को बाजार में लाने के ओपनएआई के जानबूझकर लिए गए फैसले का संभावित परिणाम था।’ ‘यह त्रासदी कोई गड़बड़ी या अप्रत्याशित बढ़त का मामला नहीं था – यह जानबूझकर डिजाइन विकल्पों का पूर्वानुमानित परिणाम था।’
समस्या का दायरा चौंका देने वाला है. ओपनएआई हाल ही में स्वीकार किया कि चैटजीपीटी से हर सप्ताह दस लाख से अधिक लोग आत्महत्या के बारे में बात करते हैं। यह कोई बग नहीं है – यह एक विशेषता है कि कैसे सिस्टम को अंतहीन रूप से समायोजित करने के लिए डिज़ाइन किया गया था।
