के साथ एक सप्ताहांत प्रयोग गूगल का होम एआई के लिए नया जेमिनी एआई-संचालित निगरानी की परेशान करने वाली वास्तविकता को उजागर करता है। टेक रिपोर्टर जेनिफ़र पैटिसन टुही ने अपने परिवार पर 72 घंटे तक लगातार निगरानी रखी, जिससे पता चला कि सिस्टम वास्तविक समय की घटनाओं का सटीक वर्णन करता है, लेकिन इसके दैनिक सारांश कल्पना में बदल जाते हैं – परिवार के सदस्यों को भ्रमित करना जो घर पर नहीं थे और सामाजिक संबंधों को गढ़ना जो कभी हुआ ही नहीं।
गूगल का जेमिनी फॉर होम का हाल ही में पहला वास्तविक-विश्व तनाव परीक्षण हुआ है, और परिणाम एआई निगरानी के गलत होने की एक परेशान करने वाली तस्वीर पेश करते हैं। टेक रिपोर्टर जेनिफ़र पैटीसन तुओही ने इस सप्ताह के अंत में अपने घर को मल्टीपल स्थापित करके एक निगरानी प्रयोगशाला में बदल दिया नेस्ट कैमरे उसके पूरे घर में यह देखने के लिए कि क्या एआई-संचालित निगरानी वास्तव में बेहतर सुरक्षा के अपने वादे को पूरा करती है। इसके बजाय उसने जो खोजा वह एक एआई था जो वर्तमान को सटीक रूप से बताता है लेकिन अतीत को गढ़ता है।
तत्काल अलर्ट ने विज्ञापन के अनुसार काम किया। सामान्य “व्यक्ति का पता चला” सूचनाओं के बजाय, घर के लिए मिथुन विशिष्ट विवरण दिए: “आर एक बक्से से सामान खोल रहा है” या “जेनी पाई काटती है / बी रसोई में जाती है, सिंक में बर्तन धोती है।” ये बारीक विवरण पारंपरिक कैमरा अलर्ट की तुलना में वास्तविक अपग्रेड का प्रतिनिधित्व करते हैं, जो वास्तविक खतरों और नियमित पारिवारिक गतिविधि के बीच अंतर करने में मदद करते हैं।
लेकिन सिस्टम का $20 मासिक मूल्य गंभीर ब्लाइंड स्पॉट के साथ आता है। जब टुही का पति बन्दूक लेकर निकला, तो जेमिनी ने उसे “बगीचे का औज़ार” बताया। एआई लगातार हथियारों की पहचान करने से बचती रही, यहां तक कि जब उसने जानबूझकर कैमरे पर चाकू लहराया। एक सुरक्षा प्रणाली के लिए, यह चयनात्मक व्याख्या इस बारे में स्पष्ट लाल झंडे उठाती है कि किन खतरों का पता नहीं चल सकता है।
वास्तविक समस्याएँ जेमिनी के दैनिक “होम ब्रीफ्स” में उभरती हैं – एआई-जनित सारांश जो हर शाम लगभग 8:30 बजे आते हैं। ये रिपोर्ट, दिन की घटनाओं को संक्षिप्त करके अधिसूचना की थकान को कम करने के लिए डिज़ाइन की गई हैं, इसके बजाय यह प्रदर्शित करती हैं कि एआई सिस्टम सटीक टिप्पणियों को शुद्ध कल्पना में कैसे बदल सकते हैं। हैलोवीन पर, सिस्टम ने बताया कि “जेनी और आर को उनकी बेटी के घर से दूर होने के बावजूद चालबाजों के साथ बातचीत करते और उत्सव के माहौल का आनंद लेते देखा गया।” एक अन्य सारांश में परिवार के कई सदस्यों के साथ एक आरामदायक शाम का वर्णन किया गया जब वास्तव में केवल दो लोग मौजूद थे।
यह सिर्फ हानिरहित अलंकरण नहीं है – यह एआई मानव व्यवहार की व्याख्या करने के तरीके में एक बुनियादी दोष का प्रतिनिधित्व करता है। गूगल इन सारांशों को उपयोगी अवलोकन के रूप में विपणन करता है, लेकिन वे अनिवार्य रूप से सुरक्षा फ़ुटेज पर आधारित रचनात्मक लेखन अभ्यास हैं। प्रणाली तथ्यात्मक, टाइमस्टैम्प्ड टिप्पणियों को लेती है और उन्हें आख्यानों में बुनती है जो सटीकता से अधिक कहानी कहने को प्राथमिकता देती है।
