- ■
ओपनएआई कर्मचारियों ने हमले से कुछ महीने पहले जून 2025 में संदिग्ध जेसी वान रूटसेलेर से हिंसक चैटजीपीटी वार्तालापों को चिह्नित किया था
- ■
कंपनी नेतृत्व ने “विश्वसनीय और आसन्न जोखिम” की कमी का हवाला देते हुए अधिकारियों से संपर्क करने से इनकार कर दिया वॉल स्ट्रीट जर्नल
- ■
स्वचालित समीक्षा प्रणाली ने संबंधित सामग्री को पकड़ लिया, लेकिन आंतरिक सुरक्षा प्रोटोकॉल ने वृद्धि को अनिवार्य नहीं किया
- ■
यह मामला एआई सुरक्षा बुनियादी ढांचे में महत्वपूर्ण कमियों को उजागर करता है और तकनीकी कंपनियों के हस्तक्षेप करने के कर्तव्य पर सवाल उठाता है
ओपनएआई टम्बलर रिज स्कूल में गोलीबारी से कुछ महीने पहले कर्मचारियों ने लाल झंडे देखे थे। जेसी वान रूटसेलर की परेशान करने वाली बातचीत चैटजीपीटी पिछले जून में स्वचालित सुरक्षा प्रणालियाँ शुरू हुईं और अधिकारियों से संपर्क करने के बारे में आंतरिक बहस छिड़ गई। लेकिन कंपनी नेतृत्व ने आगे नहीं बढ़ने का फैसला किया, यह निर्धारित करते हुए कि खतरा “विश्वसनीय और आसन्न” नहीं था, जिस पर कार्रवाई की जा सके। यह निर्णय अब एआई कंपनियों की जिम्मेदारी के बारे में एक तत्काल बहस के केंद्र में है जब उनके सिस्टम संभावित हिंसा का पता लगाते हैं।
वार्तालाप लॉग एक चेतावनी संकेत की तरह लग रहे थे जिसे कोई भी देखना नहीं चाहता था। पिछले जून में, जेसी वान रूटसेलर साथ बैठे थे चैटजीपीटी और बंदूक हिंसा से जुड़े परिदृश्यों का परेशान करने वाले विस्तार से वर्णन किया गया है। यात्रा के लिए आदान-प्रदान पर्याप्त ग्राफिक थे ओपनएआई स्वचालित सामग्री मॉडरेशन प्रणाली, उन्हें मानव समीक्षा के लिए चिह्नित करती है।
अनेक ओपनएआई बातचीत की समीक्षा करने वाले कर्मचारी चिंतित हो गए। के अनुसार वॉल स्ट्रीट जर्नलइन टीम के सदस्यों ने कंपनी नेतृत्व को कानून प्रवर्तन को सूचित करने के लिए प्रेरित किया कि वे वास्तविक दुनिया की हिंसा के संभावित अग्रदूत के रूप में क्या देखते हैं। लेकिन आंतरिक चर्चा के बाद, ओपनएआई के नेतृत्व ने एक कॉल की जो बाद में उन्हें परेशान करेगी: उन्होंने फैसला किया कि रूटसेलर के पोस्ट हस्तक्षेप के लिए सीमा को पूरा नहीं करते हैं।
कंपनी का तर्क एक विशिष्ट कानूनी मानक पर केंद्रित है। नेताओं ने निर्धारित किया कि बातचीत “दूसरों को गंभीर शारीरिक नुकसान पहुंचाने का विश्वसनीय और आसन्न जोखिम” नहीं थी। पत्रिका सूचना दी. यह वाक्यांश उपयोगकर्ता सुरक्षा के इर्द-गिर्द तकनीकी उद्योग प्रोटोकॉल में महत्व रखता है, जो संबंधित सामग्री और कार्रवाई योग्य खतरों के बीच कंपनियों द्वारा खींची जाने वाली रेखा का प्रतिनिधित्व करता है।
महीनों बाद, टम्बलर रिज सेकेंडरी स्कूल में सामूहिक गोलीबारी ब्रिटिश कोलंबिया में उन जून की बातचीत को एक चूके हुए अवसर के सबूत में बदल दिया गया। त्रासदी जोर पकड़ चुकी है ओपनएआई एक असुविधाजनक स्पॉटलाइट में, एआई कंपनियों को गोपनीयता चिंताओं और सतर्क अधिकारियों को कब ओवरराइड करना चाहिए, इसके बारे में कठिन सवाल खड़े हो गए हैं।
