ओपनएआई अभी तक के सबसे विवादास्पद एआई सुरक्षा मुकदमे में जवाबी कार्रवाई की गई। कंपनी के कानूनी बचाव में दावा किया गया है कि 16 वर्षीय एडम राइन ने चैटजीपीटी की सेवा की शर्तों का उल्लंघन किया जब उसने सुरक्षा सुविधाओं को दरकिनार कर दिया जिससे अंततः उसे वह योजना बनाने में मदद मिली जिसे एआई ने “सुंदर आत्महत्या” कहा था। अब इसी तरह के आठ मामले लंबित हैं और जूरी ट्रायल सामने आ रहा है, यह प्रतिक्रिया इस बात को फिर से आकार दे सकती है कि एआई कंपनियां उपयोगकर्ता के नुकसान के लिए दायित्व कैसे संभालती हैं।
ओपनएआई पीछे नहीं हट रहा है. कंपनी ने अभी तक एक ऐसे मामले में अपना सबसे आक्रामक कानूनी बचाव दायर किया है जो सिलिकॉन वैली में एआई सुरक्षा मानकों को फिर से परिभाषित कर सकता है।
मंगलवार को, ओपनएआई मैथ्यू और मारिया राइन द्वारा उनके 16 वर्षीय बेटे एडम की आत्महत्या पर दायर गलत मौत के मुकदमे का जवाब दिया। माता – पिता ने अगस्त में कंपनी और सीईओ सैम अल्टमैन पर मुकदमा दायर कियायह दावा करते हुए कि चैटजीपीटी ने “ड्रग ओवरडोज़ से लेकर डूबने से लेकर कार्बन मोनोऑक्साइड विषाक्तता तक हर चीज़ के लिए तकनीकी विनिर्देश प्रदान करने के बाद उनके बेटे को उसकी मौत की योजना बनाने में मदद की।”
ओपनएआई का बचाव एक विवादास्पद तर्क पर केंद्रित है: एडम ने जानबूझकर सुरक्षा सुविधाओं को दरकिनार करके मंच की सेवा की शर्तों का उल्लंघन किया। कंपनी का दावा है कि ChatGPT ने किशोर को नौ महीने के उपयोग के दौरान 100 से अधिक बार मदद लेने का निर्देश दिया, लेकिन उसने हानिकारक जानकारी निकालने के लिए रेलिंग के आसपास तरीके ढूंढ लिए।
“उपयोगकर्ता हमारी सेवाओं पर लगाए गए किसी भी सुरक्षात्मक उपाय या सुरक्षा शमन को नजरअंदाज नहीं कर सकते हैं,” OpenAI की शर्तें बताती हैं. कंपनी FAQ चेतावनियों की ओर भी इशारा करती है कि उपयोगकर्ताओं को स्वतंत्र सत्यापन के बिना ChatGPT आउटपुट पर भरोसा नहीं करना चाहिए – एक बचाव जो अनिवार्य रूप से उपयोगकर्ताओं पर जिम्मेदारी डालता है, यहां तक कि मानसिक स्वास्थ्य संकट से जूझ रहे नाबालिगों पर भी।
राइन परिवार के वकील जे एडेलसन ने तुरंत जवाबी कार्रवाई की। उन्होंने एक बयान में कहा, “ओपनएआई हर किसी में गलती ढूंढने की कोशिश करता है, जिसमें आश्चर्यजनक रूप से यह कहना भी शामिल है कि एडम ने चैटजीपीटी के साथ उसी तरह जुड़कर इसके नियमों और शर्तों का उल्लंघन किया है, जिस तरह से इसे कार्य करने के लिए प्रोग्राम किया गया था।”
दांव अधिक बड़ा नहीं हो सका. चूँकि रेन्स ने अपना मूल मुकदमा दायर किया, सात और मामले सामने आए हैं को लक्षित ओपनएआई तीन अतिरिक्त आत्महत्याएं और चार कथित एआई-प्रेरित मनोवैज्ञानिक प्रकरण। प्रत्येक मामला एक समान पैटर्न का अनुसरण करता है: कमजोर उपयोगकर्ता चैटजीपीटी के साथ लंबी बातचीत करते हैं जो आत्म-नुकसान की ओर बढ़ती है।
23 वर्षीय ज़ेन शंबलिन ने अपने भाई की स्नातक उपाधि में भाग लेने के लिए आत्महत्या में देरी करने पर विचार किया। अदालती फाइलिंग के अनुसार, चैटजीपीटी की प्रतिक्रिया: “भाई… स्नातक की पढ़ाई छूट जाना विफलता नहीं है। यह सिर्फ समय है।” जब 26 वर्षीय जोशुआ एननेकिंग अपनी मृत्यु से पहले मंच से जुड़े, तो चैटजीपीटी उन्हें पेशेवर मदद या संकट संसाधनों की ओर पुनर्निर्देशित करने में विफल रहा।
