मैरीलैंड हाई स्कूल में एआई सुरक्षा प्रणाली ने एक छात्र के डोरिटोस बैग को बंदूक समझकर पुलिस की प्रतिक्रिया शुरू कर दी, जिसके कारण छात्र को हथकड़ी लगाई गई और उसकी तलाशी ली गई। केनवुड हाई स्कूल की घटना महत्वपूर्ण सुरक्षा अनुप्रयोगों में एआई विश्वसनीयता के बारे में बढ़ती चिंताओं को उजागर करती है क्योंकि स्कूल तेजी से स्वचालित खतरे का पता लगाने वाली प्रणालियों को तैनात कर रहे हैं।
एक नियमित स्नैक ब्रेक तब ताकी एलन के लिए एक दुःस्वप्न में बदल गया ओमनिलेर्ट का बाल्टीमोर काउंटी के केनवुड हाई स्कूल में एआई-संचालित गन डिटेक्शन सिस्टम ने डोरिटोस के उनके बैग को संभावित बन्दूक के रूप में चिह्नित किया। महत्वपूर्ण सुरक्षा अनुप्रयोगों में एआई की सीमाओं का एक स्पष्ट उदाहरण बनने पर छात्र ने खुद को हथकड़ी और घुटनों पर पाया।
एलन ने बताया, “मैं बस एक डोरिटोस बैग पकड़े हुए था – इसमें दो हाथ थे और एक उंगली बाहर थी, और उन्होंने कहा कि यह बंदूक जैसा लग रहा था।” सीएनएन सहयोगी WBAL. किशोरी ने दर्दनाक अनुभव का वर्णन किया: “उन्होंने मुझे घुटनों के बल खड़ा कर दिया, मेरे हाथ मेरी पीठ के पीछे रख दिए और मुझे हथकड़ी पहना दी।”
इस घटना से स्कूल के सुरक्षा प्रोटोकॉल में खतरनाक संचार विफलता का पता चलता है। प्रिंसिपल केटी स्मिथ के माता-पिता को दिए गए बयान के अनुसार, सुरक्षा विभाग ने वास्तव में बंदूक का पता लगाने वाले अलर्ट की समीक्षा की और उसे रद्द कर दिया। लेकिन स्मिथ को तुरंत पता नहीं था कि अलर्ट रद्द कर दिया गया है, फिर भी उन्होंने स्कूल संसाधन अधिकारी को स्थिति की सूचना दी, जिन्होंने तब स्थानीय पुलिस को बुलाया।
सर्वव्यापीएआई गन डिटेक्शन सिस्टम के पीछे की कंपनी ने सावधानीपूर्वक शब्दों में प्रतिक्रिया दी, जिससे शिक्षा प्रौद्योगिकी क्षेत्र में हैरानी बढ़ गई है। वहीं कंपनी ने बताया सीएनएन उन्हें “अफसोस है कि यह घटना घटित हुई,” उन्होंने कहा कि “प्रक्रिया इच्छित उद्देश्य के अनुरूप कार्य कर रही है।”
संदर्भ को देखते हुए यह कथन विशेष रूप से परेशान करने वाला है। ओमनीलर्ट जैसे कंप्यूटर विज़न सिस्टम को वस्तुओं के बीच अंतर करने के लिए हजारों छवियों पर प्रशिक्षित किया जाता है, लेकिन अस्पष्ट आकृतियों या असामान्य कोणों से निपटने के दौरान वे गलत सकारात्मकता के लिए कुख्यात हैं। चिप बैग की आयताकार रूपरेखा, उंगलियों को फैलाकर एक निश्चित कोण पर रखी गई, जाहिरा तौर पर उसी तंत्रिका पथ को ट्रिगर करती है जिसका उपयोग एआई आग्नेयास्त्रों की पहचान करने के लिए करता है।
बाल्टीमोर काउंटी की घटना अकेले नहीं घट रही है। देश भर के स्कूल तेजी से एआई-संचालित सुरक्षा प्रणालियों की ओर रुख कर रहे हैं क्योंकि वे सुरक्षा संबंधी चिंताओं से जूझ रहे हैं। बाजार अनुसंधान से पता चलता है कि स्कूल सुरक्षा प्रौद्योगिकी क्षेत्र में 2028 तक सालाना 8.4% की वृद्धि होने की उम्मीद है, जिसमें एआई डिटेक्शन सिस्टम उस वृद्धि के एक महत्वपूर्ण हिस्से का प्रतिनिधित्व करते हैं।
लेकिन यह मामला उच्च जोखिम वाले वातावरण में झूठी सकारात्मकता की मानवीय लागत पर प्रकाश डालता है। एलन के लिए, अनुभव दर्दनाक था – केवल नाश्ता रखने के लिए संभावित खतरे के रूप में व्यवहार किया जा रहा था। उनके परिवार और व्यापक समुदाय के लिए, यह गंभीर सवाल उठाता है कि क्या ये प्रणालियाँ स्कूलों में व्यापक तैनाती के लिए तैयार हैं।
