गूगल कहते हैं एक रिपब्लिकन सीनेटर द्वारा डेवलपर्स के लिए डिज़ाइन की गई मॉडल, उसके बारे में “मनगढ़ंत गंभीर आपराधिक आरोप” लगाने की शिकायत के बाद इसने एआई मॉडल जेम्मा को अपने एआई स्टूडियो प्लेटफॉर्म से हटा दिया है।
एक्स पर एक पोस्ट में, Google के आधिकारिक समाचार खाते ने कहा कि कंपनी ने “गैर-डेवलपर्स द्वारा एआई स्टूडियो में जेम्मा का उपयोग करने की कोशिश करने और उससे तथ्यात्मक प्रश्न पूछने की रिपोर्ट देखी है।” एआई स्टूडियो डेवलपर्स के लिए एक मंच है, न कि नियमित उपभोक्ताओं के लिए Google के एआई मॉडल तक पहुंचने का पारंपरिक तरीका। जेम्मा को विशेष रूप से बिल किया गया है एआई मॉडल का परिवार डेवलपर्स के उपयोग के लिए, वेरिएंट के साथ चिकित्सीय उपयोग, कोडनऔर पाठ और छवि सामग्री का मूल्यांकन करना.
गूगल ने कहा कि जेम्मा का इस्तेमाल कभी भी उपभोक्ता उपकरण के रूप में या तथ्यात्मक सवालों के जवाब देने के लिए नहीं किया गया था। “इस भ्रम को रोकने के लिए, जेम्मा तक पहुंच अब एआई स्टूडियो पर उपलब्ध नहीं है। यह अभी भी एपीआई के माध्यम से डेवलपर्स के लिए उपलब्ध है।”
Google ने यह निर्दिष्ट नहीं किया कि किन रिपोर्टों ने जेम्मा को हटाने के लिए प्रेरित किया, हालाँकि गुरुवार को सीनेटर मार्शा ब्लैकबर्न (आर-टीएन) लिखा सीईओ सुंदर पिचाई पर कंपनी पर मानहानि और रूढ़िवादी पूर्वाग्रह का आरोप लगाना। ब्लैकबर्न, जिन्होंने हाल ही में सीनेट वाणिज्य सुनवाई के दौरान विविधता विरोधी कार्यकर्ता रॉबी स्टारबक के Google के खिलाफ एआई मानहानि के मुकदमे के बारे में मुद्दा उठाया था, ने दावा किया कि जब जेम्मा से पूछा गया कि “क्या मार्शा ब्लैकबर्न पर बलात्कार का आरोप लगाया गया है?”
जेम्मा ने स्पष्ट रूप से उत्तर दिया कि 1987 में राज्य सीनेट के लिए अपने अभियान के दौरान ब्लैकबर्न पर “एक राज्य सैनिक के साथ यौन संबंध रखने का आरोप लगाया गया था”, जिसने आरोप लगाया था कि “उसने अपने लिए चिकित्सकीय दवाएं प्राप्त करने के लिए उस पर दबाव डाला था और इस रिश्ते में गैर-सहमति वाले कार्य शामिल थे।” ब्लैकबर्न ने कहा, इसने कहानी का समर्थन करने के लिए फर्जी समाचार लेखों की एक सूची भी प्रदान की।
इनमें से कुछ भी सच नहीं है, यहां तक कि अभियान वर्ष भी नहीं जो वास्तव में 1998 था। लिंक त्रुटि पृष्ठों और असंबंधित समाचार लेखों की ओर ले जाते हैं। ऐसा कोई आरोप कभी नहीं लगा है, ऐसा कोई व्यक्ति नहीं है, और ऐसी कोई खबरें नहीं हैं। यह कोई हानिरहित “मतिभ्रम” नहीं है। यह Google के स्वामित्व वाले AI मॉडल द्वारा निर्मित और वितरित मानहानि का कार्य है।
कथा में एक परिचित अनुभूति है. भले ही हम अब कई वर्षों से जेनरेटिव एआई बूम में हैं, एआई मॉडल का अभी भी सच्चाई के साथ एक जटिल संबंध है। तथ्यों की आड़ में एआई चैटबॉट्स के गलत या भ्रामक उत्तर अभी भी उद्योग को परेशान कर रहे हैं और सुधारों के बावजूद सटीकता की समस्या का कोई स्पष्ट समाधान नहीं दिख रहा है। Google ने कहा कि वह “मतिभ्रम को कम करने और अपने सभी मॉडलों में लगातार सुधार करने के लिए प्रतिबद्ध है।”
अपने पत्र में, ब्लैकबर्न ने कहा कि उनकी प्रतिक्रिया वही है: “इसे तब तक बंद रखें जब तक आप इसे नियंत्रित नहीं कर सकते।”
