गूगल सीनेटर मार्शा ब्लैकबर्न द्वारा उनके खिलाफ यौन दुराचार के आरोप गढ़ने का आरोप लगाने के बाद एआई स्टूडियो से अपना जेम्मा एआई मॉडल वापस ले लिया। सीईओ सुंदर पिचाई को टेनेसी रिपब्लिकन का पत्र तकनीकी खामियों से परे संभावित कानूनी क्षेत्र में एआई दायित्व बहस को आगे बढ़ाता है, जो इस बात के लिए एक महत्वपूर्ण क्षण है कि कंपनियां एआई-जनित गलत सूचना को कैसे संभालती हैं।
गूगल मौजूदा अमेरिकी सीनेटर की ओर से मानहानि के आरोपों का सामना करने के बाद शुक्रवार रात को एक अभूतपूर्व कदम उठाते हुए एआई स्टूडियो से अपने जेम्मा एआई मॉडल को हटा लिया। यह निर्णय सीनेटर मार्शा ब्लैकबर्न द्वारा सीईओ सुंदर पिचाई को एक तीखा पत्र भेजने के कुछ घंटों बाद आया, जिसमें निर्दोष एआई त्रुटियों के बजाय जानबूझकर गलत सूचना के लिए जवाबदेही की मांग की गई थी।
टेनेसी रिपब्लिकन की शिकायत उसके अतीत के बारे में सीधे सवाल पर जेम्मा की प्रतिक्रिया पर केंद्रित है। जब पूछा गया “क्या मार्शा ब्लैकबर्न पर बलात्कार का आरोप लगाया गया है?” मॉडल ने एक विस्तृत कहानी गढ़ी जिसमें 1987 के राज्य सीनेट अभियान और एक राज्य सैनिक पर डॉक्टर के पर्चे पर नशीली दवाओं के दबाव और गैर-सहमति वाले कृत्यों के आरोप लगाए गए थे। “इसमें से कुछ भी सच नहीं है, अभियान वर्ष भी नहीं जो वास्तव में 1998 था,” ब्लैकबर्न ने अपने पत्र में लिखा.
जेम्मा द्वारा मनगढ़ंत समाचार लेख लिंक के माध्यम से “सबूत” प्रदान करने का प्रयास जो इसे विशेष रूप से हानिकारक बनाता है जो त्रुटि पृष्ठों की ओर ले जाता है। यह यादृच्छिक पाठ पीढ़ी नहीं है – यह नकली सोर्सिंग के साथ व्यवस्थित गलत सूचना निर्माण है, बिल्कुल उसी तरह का परिष्कृत धोखा जो एआई की सबसे खतरनाक क्षमता बन रहा है।
ब्लैकबर्न का पत्र सीधे तौर पर इससे जुड़ा है रूढ़िवादी कार्यकर्ता रॉबी स्टारबक का Google के विरुद्ध चल रहा मुकदमाजहां उनका दावा है कि Google के AI मॉडल ने उन्हें “बाल बलात्कारी” और “सीरियल यौन शोषण करने वाला” करार दिया। हाल ही में सीनेट वाणिज्य सुनवाई के दौरान, जब ब्लैकबर्न ने इन चिंताओं को उठाया, तो Google के सरकारी मामलों के उपाध्यक्ष मार्खम एरिकसन ने उन्हें ज्ञात “मतिभ्रम” मुद्दों के रूप में खारिज कर दिया, कंपनी “कम करने के लिए कड़ी मेहनत कर रही है।”
लेकिन ब्लैकबर्न ने मतिभ्रम बचाव को स्वीकार करने से इंकार कर दिया। उन्होंने तर्क दिया, “ये मनगढ़ंत बातें कोई हानिरहित ‘मतिभ्रम’ नहीं हैं, बल्कि यह Google के स्वामित्व वाले AI मॉडल द्वारा उत्पादित और वितरित मानहानि का एक कार्य है।” यह कानूनी अंतर यह बता सकता है कि अदालतें वास्तविक लोगों के बारे में एआई-जनित झूठे बयानों को कैसे संभालती हैं।
समय इससे अधिक अस्थिर नहीं हो सकता। राष्ट्रपति ट्रम्प के हालिया कार्यकारी आदेश ने “वोक एआई” पर प्रतिबंध लगा दिया है और चैटबॉट्स में उदारवादी पूर्वाग्रह के बारे में चल रही शिकायतों ने एआई सामग्री मॉडरेशन के आसपास एक राजनीतिक खदान तैयार कर दी है। ब्लैकबर्न ने अपनी व्यक्तिगत शिकायत को व्यापक पक्षपातपूर्ण तनावों से जोड़ते हुए स्पष्ट रूप से “Google के AI सिस्टम द्वारा प्रदर्शित रूढ़िवादी आंकड़ों के खिलाफ पूर्वाग्रह के एक सुसंगत पैटर्न” का हवाला दिया।
