- ■
एआई मनोविकृति मामलों को संभालने वाले एक वकील ने चेतावनी दी है कि चैटबॉट अब बड़े पैमाने पर हताहत जांच में दिखाई दे रहे हैं, जो व्यक्तिगत आत्महत्या के मामलों से आगे बढ़ रहे हैं। टेकक्रंच
- ■
यह विकास एआई सुरक्षा बहस में एक महत्वपूर्ण मोड़ का प्रतिनिधित्व करता है, जिसमें प्रौद्योगिकी की तैनाती सुरक्षात्मक सुरक्षा उपायों से आगे निकल जाती है
- ■
ओपनएआई के चैटजीपीटी और गूगल के जेमिनी को मनोवैज्ञानिक नुकसान के जोखिमों पर बढ़ती कानूनी और नियामक जांच का सामना करना पड़ रहा है
- ■
उद्योग पर्यवेक्षकों को आपातकालीन नियामक कार्रवाई की उम्मीद है क्योंकि एआई-प्रेरित मनोविकृति के मामलों के सबूत जमा हो रहे हैं
एआई सुरक्षा के इर्द-गिर्द कानूनी परिदृश्य और गहरा हो गया है। एक वकील जो एआई से संबंधित मौतों पर नज़र रख रहा है, अब कुछ अधिक परेशान करने वाली बात के बारे में चिंता जता रहा है – कृत्रिम बुद्धिमत्ता चैटबॉट केवल व्यक्तिगत आत्महत्याओं में ही नहीं, बल्कि बड़े पैमाने पर हताहतों की जांच में भी दिखाई दे रहे हैं। चेतावनी इस प्रकार आती है ओपनएआई और गूगल एक्सक्लूसिव रिपोर्ट के अनुसार, सुरक्षा प्रोटोकॉल की तुलना में तेजी से शक्तिशाली एआई सिस्टम को तैनात करने की होड़ जारी है टेकक्रंच.
वर्षों से, एआई सुरक्षा समर्थकों ने चेतावनी दी थी कि यह क्षण आएगा। अब यह यहाँ है, और यह अपेक्षा से भी बदतर है।
एक प्रमुख वकील, जिसने एआई से संबंधित मनोवैज्ञानिक नुकसान के मामलों पर एक अभ्यास बनाया है, एक भयावह मूल्यांकन के साथ रिकॉर्ड पर जा रहा है – चैटबॉट अब केवल व्यक्तिगत त्रासदियों से जुड़े नहीं हैं। वे बड़े पैमाने पर हताहत जांचों में दिखाई दे रहे हैं, जो एआई सुरक्षा संकट में एक खतरनाक नए अध्याय को चिह्नित कर रहा है जो तब से चल रहा है चैटजीपीटी मुख्यधारा के उपयोग में विस्फोट हुआ।
वकील की चेतावनी, विशेष रूप से रिपोर्ट की गई टेकक्रंचएआई उद्योग के लिए एक अनिश्चित क्षण आ गया है। दोनों ओपनएआई और गूगल अधिक शक्तिशाली भाषा मॉडल तैनात करने की होड़ मची हुई है, प्रत्येक पुनरावृत्ति पिछले की तुलना में अधिक सक्षम और अधिक अप्रत्याशित है। लेकिन रेलिंग में तेजी नहीं आई है।
“एआई साइकोसिस” के रूप में जानी जाने वाली घटना को पिछले कुछ वर्षों में अलग-अलग मामलों में दर्ज किया गया है – उपयोगकर्ता चैटबॉट्स के साथ गहन बातचीत के बाद भ्रमपूर्ण विश्वास विकसित कर रहे हैं या मानसिक स्वास्थ्य संकट का अनुभव कर रहे हैं। बिखरी हुई रिपोर्टों के रूप में जो शुरू हुआ वह समर्पित कानूनी प्रथाओं को जन्म देने के लिए काफी गंभीर पैटर्न में विकसित हुआ है। अब वे पैटर्न कहीं अधिक खतरनाक चीज़ से जुड़ रहे हैं।
जबकि बड़े पैमाने पर हताहत मामलों का विशिष्ट विवरण कानूनी मुहर के तहत रहता है, केवल यह तथ्य कि एआई चैटबॉट्स की जांच योगदान कारकों के रूप में की जा रही है, एक महत्वपूर्ण क्षण का प्रतिनिधित्व करता है। यह एक बात है जब एक कमजोर व्यक्ति किसी एआई साथी के साथ बातचीत के बाद आगे बढ़ता है। यह पूरी तरह से अलग बात है जब ये सिस्टम संभावित रूप से उन घटनाओं को प्रभावित करते हैं जो कई लोगों को नुकसान पहुंचाते हैं।
