ओपनएआई अभी-अभी एक बम गिराया गया: चैटजीपीटी पर हर सप्ताह दस लाख से अधिक लोग आत्महत्या के बारे में बात करते हैं। कंपनी ने अभूतपूर्व डेटा जारी किया है जिसमें दिखाया गया है कि उसके 800 मिलियन साप्ताहिक उपयोगकर्ताओं में से 0.15% ने “संभावित आत्मघाती योजना या इरादे के स्पष्ट संकेतक” के साथ बातचीत की है, जबकि सैकड़ों हजारों लोगों ने एआई के साथ अपनी चैट में मनोविकृति या उन्माद के लक्षण दिखाए हैं।
संख्याएँ चौंका देने वाली हैं, और वे मजबूर कर रही हैं ओपनएआई उस चीज़ का सामना करना जो कंपनी के लिए अस्तित्वगत संकट बन सकता है। चैटजीपीटी के साथ हर हफ्ते दस लाख से अधिक लोग बातचीत कर रहे हैं, जिसमें “संभावित आत्मघाती योजना या इरादे के स्पष्ट संकेतक” शामिल हैं। नया डेटा सोमवार को जारी किया गया एआई दिग्गज द्वारा।
यह चैटजीपीटी के विशाल 800 मिलियन साप्ताहिक उपयोगकर्ता आधार का केवल 0.15% है, लेकिन कच्चे आंकड़े इस बात की गंभीर तस्वीर पेश करते हैं कि कैसे एआई संकट में लोगों के लिए एक डिजिटल विश्वासपात्र बन गया है। इसी तरह का एक और प्रतिशत चैटबॉट के प्रति “भावनात्मक लगाव के ऊंचे स्तर” को दर्शाता है, जबकि सैकड़ों हजारों लोग अपने साप्ताहिक इंटरैक्शन में मनोविकृति या उन्माद के लक्षण प्रदर्शित करते हैं।
खुलासा इस प्रकार हुआ ओपनएआई एआई सुरक्षा को लेकर बढ़ते कानूनी और नियामक दबाव का सामना करना पड़ रहा है। कंपनी फिलहाल हो रही है एक 16 वर्षीय लड़के के माता-पिता द्वारा मुकदमा दायर किया गया जिसने अपनी जान लेने से कुछ सप्ताह पहले चैटजीपीटी को आत्मघाती विचार बताए थे। कैलिफोर्निया और डेलावेयर के राज्य अटॉर्नी जनरल ने कंपनी को चेतावनी दी है कि उसे युवा उपयोगकर्ताओं की बेहतर सुरक्षा करनी चाहिए – एक ऐसी मांग जो पटरी से उतर सकती है ओपनएआई यदि योजनाबद्ध कॉर्पोरेट पुनर्गठन को नजरअंदाज किया गया।
चैटजीपीटी में सीईओ सैम ऑल्टमैन ने दावा किया, “हम गंभीर मानसिक स्वास्थ्य मुद्दों को कम करने में सक्षम हैं”। इस महीने की शुरुआत में एक एक्स पोस्टहालाँकि उन्होंने उस समय कोई विशेष जानकारी नहीं दी। सोमवार के डेटा रिलीज़ से ऐसा प्रतीत होता है ओपनएआई उस दावे को ठोस आंकड़ों के साथ पुष्ट करने का प्रयास करें।
कंपनी का कहना है कि चैटजीपीटी संकट में उपयोगकर्ताओं को कैसे प्रतिक्रिया देता है, इसे बेहतर बनाने के लिए उसने 170 से अधिक मानसिक स्वास्थ्य विशेषज्ञों से परामर्श किया। नवीनतम GPT-5 मॉडल पिछले संस्करणों की तुलना में मानसिक स्वास्थ्य के मुद्दों पर “वांछनीय प्रतिक्रिया” देने में 65% सुधार दिखाता है। विशिष्ट आत्महत्या-संबंधी वार्तालाप परीक्षणों में, GPT-5 अब 91% अनुपालन प्राप्त करता है ओपनएआई सुरक्षा दिशानिर्देश, पहले की पुनरावृत्तियों में 77% से अधिक।
लेकिन इसका अभी भी मतलब है कि 9% प्रतिक्रियाएँ कंपनी के स्वयं के सुरक्षा मानकों को पूरा करने में विफल रहती हैं – आत्महत्या के बारे में दस लाख से अधिक साप्ताहिक बातचीत पर लागू होने पर एक महत्वपूर्ण अंतर। कंपनी मानती है कि ये इंटरैक्शन “बेहद दुर्लभ” और “मापना मुश्किल” है, फिर भी अनुमान है कि ये मुद्दे साप्ताहिक रूप से सैकड़ों हजारों लोगों को प्रभावित करते हैं।
