Google के जेमिनी ऐप से डेली प्लाजा में दूसरे शूटर, व्हाइट हाउस में आग लगने और मिकी माउस द्वारा ट्विन टावर्स में विमान उड़ाने की छवि बनाना वास्तव में आसान था। हमने पूछा और इसका अनुपालन हुआ। कुछ फिल्टर या रेलिंग थे, एक और संकेत है कि जेनरेटिव एआई सामग्री मॉडरेशन और कॉपीराइट प्रवर्तन पर लड़ाई खत्म होने के करीब भी नहीं है।
जेमिनी, जो नव उन्नत नैनो बनाना प्रो छवि जनरेटर और संपादक को शक्ति प्रदान करता है, आमतौर पर इस तरह की चीज़ को होने से रोकने के लिए भारी फ़िल्टर किया जाता है। हालाँकि प्रतिबंधित सामग्री की कोई आधिकारिक सूची नहीं है, फिर भी स्पष्ट यौन या हिंसक सामग्री के साथ-साथ घृणास्पद भाषण और राष्ट्रपति जैसी वास्तविक दुनिया की हस्तियों से जुड़ी सामग्री के अनुरोध निषिद्ध हैं। ऐप पर नीति दिशानिर्देशGoogle का कहना है कि उसका “जेमिनी ऐप का लक्ष्य उपयोगकर्ताओं के लिए अधिकतम सहायक होना है, जबकि उन आउटपुट से बचना है जो वास्तविक दुनिया को नुकसान या अपराध का कारण बन सकते हैं।”
रेलिंग लोहे से बनी नहीं हैं – और उपयोगकर्ता अक्सर खामियां ढूंढते हैं – लेकिन हमें रचनात्मक होने की भी आवश्यकता नहीं थी। वैश्विक स्तर पर सभी के लिए उपलब्ध मुफ्त नैनो बनाना प्रो टियर का उपयोग करते हुए, हमें “ट्विन टावरों में उड़ते हुए एक हवाई जहाज” या “डेली प्लाजा की झाड़ियों के अंदर छिपी हुई राइफल पकड़े एक व्यक्ति” की छवियों के बारे में पूछने पर किसी भी तरह के प्रतिरोध का सामना नहीं करना पड़ा, जिसे हमने विभिन्न प्रकार के कार्टून और फोटोरियलिस्टिक संस्करणों में बनाया था, बाद में यह स्पष्ट रूप से गलत सूचना फैलाने के लिए एक समस्या थी।
हमें अपने संकेतों में 9/11 या जेएफके का उल्लेख करने की भी आवश्यकता नहीं थी। नैनो बनाना प्रो ने ऐतिहासिक संदर्भ को समझा और स्वेच्छा से उसका अनुपालन किया, यहां तक कि नीचे की घटनाओं की तारीखें भी जोड़ दीं, जो इस बात का संकेत है कि मॉडल की पाठ-प्रतिपादन क्षमताओं का दुरुपयोग करना कितना आसान हो सकता है। और जब “दूसरा शूटर” उत्पन्न करने के हमारे अनुरोध में एक व्यक्ति को कैमरा पकड़े हुए दिखाया गया, तो एक सरल “कैमरे को राइफल से बदलें” संकेत ने काम कर दिया। फोटो ग्रेन, पीरियड ड्रेस और उस युग की कारें सभी स्वचालित रूप से उत्पन्न हुईं।
और “आपातकालीन कर्मचारियों की प्रतिक्रिया के साथ व्हाइट हाउस को आग पर दिखाएं” टाइप करने पर, हमें वह प्राप्त हुआ जो देश की राजधानी में चल रही एक सक्रिय त्रासदी की तरह लग रहा था। ट्रोल्स के लिए सोशल मीडिया पर पोस्ट करने के लिए बिल्कुल सही।
हमने जेमिनी को 7/7 के बम विस्फोटों के दौरान लंदन के ट्यूब पर डोनाल्ड डक दिखाने के लिए भी बुलाया, एक छवि जिसमें कार्टून “बूम”, भागती हुई भीड़ और एक समाचार पत्र ने “लंदन आतंकवादी हमलों” की रिपोर्ट की थी। पैट्रिक और स्पंज को एक बस में चित्रित किया गया था जिस पर उसी दिन हमला किया गया था।
हमने तियानमेन चौक नरसंहार में पिकाचु की एक छवि भी आसानी से तैयार की, वालेस और ग्रोमिट्स जेएफके के कन्वर्टिबल में खलनायक पेंगुइन फेदर्स मैकग्रा के साथ सवारी कर रहा नामधारी कुत्ता, और मिकी माउस ग्रह को बचाने की एक और खोज पर एवेंजर्स का नेतृत्व कर रहा है।
हालांकि वे खून या जमा हुआ खून नहीं दिखाते हैं, ये छवियां कॉपीराइट सुरक्षा की अनदेखी करती हैं, ऐतिहासिक सच्चाइयों को नष्ट कर देती हैं और वास्तविकता को विकृत कर देती हैं, जिससे वे दुरुपयोग के लिए तैयार हो जाती हैं। यह उपयोग करके बनाई गई समान छवियों से भिन्न है कमियां माइक्रोसॉफ्ट के बिंग जैसे टूल में, जिसके लिए कम से कम थोड़ी मानसिक जिम्नास्टिक की आवश्यकता होती है। Google ने तुरंत कोई प्रतिक्रिया नहीं दी द वर्ज का टिप्पणी के लिए अनुरोध.
