एक्सएआई ग्रोक चैटबॉट ऑस्ट्रेलिया में दुखद बॉन्डी बीच सामूहिक गोलीबारी को कवर करने में शानदार ढंग से विफल रहा है, बार-बार अहमद अल अहमद के बारे में गलत जानकारी फैला रहा है, वह व्यक्ति जिसने वीरतापूर्वक हमलावरों में से एक को निहत्था कर दिया था। एआई प्रणाली ने उसे एक इजरायली बंधक के रूप में गलत पहचाना है, दावा किया है कि सत्यापित फुटेज एक पेड़ पर चढ़ने वाला वायरल वीडियो था, और यहां तक कि पूरी तरह से गलत समुद्र तट को दोषी ठहराया है। यह एक आश्चर्यजनक अनुस्मारक है कि भले ही एआई सिस्टम अधिक स्मार्ट हो गए हों, लेकिन जब यह सबसे अधिक मायने रखता है तब भी वे खतरनाक रूप से अविश्वसनीय होते हैं।
एक्सएआई ग्रोक ने एक वास्तविक त्रासदी को एक परीक्षण मामले में बदल दिया है कि एआई सिस्टम पर अभी भी ब्रेकिंग न्यूज पर भरोसा क्यों नहीं किया जा सकता है। ऑस्ट्रेलिया में बॉन्डी बीच पर हुई गोलीबारी के मद्देनजर, चैटबॉट उल्लेखनीय निरंतरता के साथ गलत सूचनाएं फैला रहा है, जिससे ठीक उसी समय एआई विफलता का तूफान पैदा हो रहा है, जब सटीकता सबसे ज्यादा मायने रखती है।
नुकसान सबसे ज्यादा वहां होता है जहां सबसे ज्यादा नुकसान होता है। 43 वर्षीय अहमद अल अहमद, जो एक निशानेबाज को रोकने के लिए आगे आया, की पूरे इंटरनेट पर वीरतापूर्वक प्रशंसा की गई है। लेकिन ग्रोक ने व्यवस्थित रूप से अपने कार्यों को मिटाने और विकृत करने का काम किया है। इसका बार-बार गलत पहचान की गई उसे एक इजरायली के रूप में हमास द्वारा बंधक बनाया जा रहा है। जब प्रस्तुत किया गया सत्यापित वीडियो अपनी वीरता के बारे में, ग्रोक ने जोर देकर कहा कि यह वास्तव में एक था पेड़ पर चढ़े एक आदमी का पुराना वायरल वीडियो. यह भी दावा किया गया है कि फुटेज चक्रवात अल्फ्रेड के दौरान कुरुम्बिन बीच से आया था, जो पूरी तरह से एक और गलत स्थान था।
इसे और भी बदतर बनाने वाली बात यह है कि बुरे अभिनेताओं ने तुरंत ग्रोक की शिथिलता को हथियार बना लिया। किसी ने तुरंत एक नकली समाचार साइट बनाई जो लगभग निश्चित रूप से एआई-जनरेटेड है, जिसमें एडवर्ड क्रैबट्री नाम का एक पूरी तरह से काल्पनिक आईटी पेशेवर शामिल है जो शूटर को निशस्त्र करने का श्रेय ले रहा है। वह मनगढ़ंत कहानी सीधे ग्रोक में पहुंच गई, जिसने फिर इसे एक्स पर हजारों उपयोगकर्ताओं तक पहुंचा दिया।
यहीं पर ग्रोक का व्यापक विश्वसनीयता संकट वास्तव में दिखता है। चैटबॉट में केवल इस विशिष्ट त्रासदी के बारे में गलत सूचना की समस्या नहीं है। इसका पूरा सिस्टम ख़राब हो गया है। जब यूजर्स ने इसके बारे में पूछा Oracle की वित्तीय कठिनाइयाँइसके बजाय बॉन्डी बीच शूटिंग के सारांश के साथ इसका जवाब दिया गया। कोई किसी के बारे में पूछ रहा है यूके पुलिस का ऑपरेशन आज की तारीख वापस मिली, उसके बाद कमला हैरिस के लिए यादृच्छिक मतदान संख्याएँ मिलीं। ऐसा लगता है कि पूरा सिस्टम इस बात को लेकर असमंजस में है कि क्या पूछा जा रहा है और किन सवालों का जवाब दिया जाए।
ग्रोक के लिए इनमें से कुछ भी नया नहीं है। फ्लैगशिप चैटबॉट के पास एक है लॉन्च के बाद से। इसका . इसका . ग्रोक को एक “जंगली” व्यक्तित्व देने की कंपनी की कोशिशें, जो सुरक्षा रेलिंग से टूट जाती है, बार-बार उलटी पड़ गई है, और एआई विकास के लिए जिम्मेदार एआई विकास को जिम्मेदार ठहराया जा रहा है।
