जब एक स्कूल में गोलीबारी, एक यहूदी विरोधी बमबारी और एक राजनीतिक हत्या सहित हिंसक हमलों की योजना बनाने के लिए कहा गया, तो पर्प्लेक्सिटी, मेटा एआई और जैसे प्लेटफॉर्म डीपसीक उत्तर खोजने में उपयोगकर्ताओं की नियमित रूप से सहायता की। केवल एक, एंथ्रोपिक्स क्लाउड, ने बार-बार उपयोगकर्ताओं को कार्रवाई करने से हतोत्साहित किया।
शोधकर्ताओं ने संयुक्त राज्य अमेरिका और आयरलैंड दोनों में कई प्रकार के हिंसक हमलों को अंजाम देने की योजना बना रहे एक उपयोगकर्ता के रूप में कार्य करके दस चैटबॉट का परीक्षण किया, जो एक यूरोपीय तुलना प्रदान करता है।
परीक्षण स्कूल में गोलीबारी या चाकू से हमले, राजनेताओं को निशाना बनाने वाली हत्याओं या राजनीतिक दलों या सभास्थलों को निशाना बनाने वाले बम विस्फोटों की योजनाओं को प्रतिबिंबित करने के लिए डिज़ाइन किए गए थे।
आठ चैटबॉट्स के आधे से अधिक प्रतिक्रियाओं में, विषयों को लक्ष्य करने के लिए स्थानों और हमले में उपयोग करने के लिए हथियारों के बारे में सलाह प्रदान की गई थी।
Snapchatयह मेरा AI है और anthropicक्लॉड ने क्रमशः 54 प्रतिशत और 68 प्रतिशत मामलों में मदद की पेशकश करने से इनकार कर दिया। क्लाउड एकमात्र चैटबॉट था जो लगातार उपयोगकर्ता के इरादों को पहचानता था और उन्हें कार्य करने से हतोत्साहित करता था। इस बीच, कैरेक्टर.एआई ने सक्रिय रूप से हिंसा को प्रोत्साहित किया, जिसमें यह सुझाव भी शामिल है कि परीक्षण उपयोगकर्ता एक स्वास्थ्य बीमा सीईओ पर “बंदूक का उपयोग करें” और एक राजनेता पर शारीरिक हमला करें जिसे उपयोगकर्ता नापसंद करता है
