- ■
ब्रुसेल्स ने संभावित बाल दुर्व्यवहार सामग्री सहित अवैध यौन सामग्री उत्पन्न करने वाले ग्रोक एआई पर एक्स की डीएसए जांच शुरू की है यूरोपीय आयोग का बयान
- ■
आयोग का कहना है कि इस महीने की शुरुआत में उपयोगकर्ताओं द्वारा बच्चों की कामुक तस्वीरें तैयार करने के बाद “ऐसा प्रतीत होता है कि जोखिम वास्तविक हो गए हैं, जिससे यूरोपीय संघ में नागरिकों को गंभीर नुकसान हो सकता है”।
- ■
एक्सएआई ने दावा किया कि उसने जनवरी की शुरुआत में ग्रोक को वास्तविक लोगों की कामुक छवियां बनाने से रोक दिया था, लेकिन ईयू अब सवाल उठाता है कि क्या एक्स ने तैनाती से पहले जोखिमों का उचित आकलन किया था
- ■
जांच के परिणामस्वरूप वैश्विक राजस्व का 6% तक जुर्माना लगाया जा सकता है और पूरे यूरोप में एआई सामग्री मॉडरेशन प्रवर्तन के लिए मिसाल कायम की जा सकती है
यूरोपीय आयोग ने एलोन मस्क के साथ अपनी नियामक लड़ाई को आगे बढ़ाते हुए एक्स के ग्रोक एआई चैटबॉट में स्पष्ट यौन सामग्री फैलाने के लिए एक औपचारिक जांच शुरू की है, जिसमें ऐसी छवियां भी शामिल हैं जो बाल यौन शोषण का कारण बन सकती हैं। यूरोपीय संघ के डिजिटल सेवा अधिनियम के तहत सोमवार को घोषित की गई जांच, एआई प्रणाली की सामग्री निर्माण क्षमताओं को लक्षित करने वाली पहली बड़ी प्रवर्तन कार्रवाई है और एक्स पूरे महाद्वीप में अपनी तकनीक को कैसे तैनात करती है, इसमें मूलभूत बदलाव ला सकती है।
ब्रुसेल्स ने यूरोप में एलोन मस्क की एआई महत्वाकांक्षाओं पर हथौड़ा चला दिया। यूरोपीय आयोग ने एक औपचारिक जांच शुरू की एक्स सोमवार को, प्लेटफ़ॉर्म के ग्रोक चैटबॉट को यौन रूप से स्पष्ट सामग्री बनाने और फैलाने के लिए लक्षित किया गया, जिसमें बाल यौन शोषण की कल्पना भी शामिल हो सकती है। यह एआई सिस्टम की सामग्री निर्माण क्षमताओं के खिलाफ ईयू की पहली बड़ी प्रवर्तन कार्रवाई है, और इसका समय संयोग नहीं है।
के तहत जांच सामने आती है डिजिटल सेवा अधिनियमयूरोपीय संघ का व्यापक तकनीकी विनियमन जो पिछले साल पूर्ण रूप से प्रभावी हुआ। आयोग ने अपने बयान में कहा, “नई जांच यह आकलन करेगी कि क्या कंपनी ने यूरोपीय संघ में एक्स में ग्रोक की कार्यक्षमताओं की तैनाती से जुड़े जोखिमों का उचित मूल्यांकन किया और उन्हें कम किया है।” भाषा सावधान है, लेकिन निहितार्थ विस्फोटक हैं – ब्रसेल्स अनिवार्य रूप से आरोप लगा रहा है एक्स पर्याप्त सुरक्षा उपायों के बिना एआई उत्पाद को बाजार में उतारना।
विवाद इस महीने की शुरुआत में तब भड़का जब शोधकर्ताओं और उपयोगकर्ताओं ने पाया कि ग्रोक को बच्चों और गैर-सहमति वाले वयस्कों की कामुक छवियां बनाने के लिए प्रेरित किया जा सकता है। खुलासे ने एआई सुरक्षा समुदाय को स्तब्ध कर दिया, खासकर इसलिए क्योंकि ग्रोक को कम प्रतिबंधित विकल्प के रूप में विपणन किया गया था ओपनएआई चैटजीपीटी और अन्य मुख्यधारा चैटबॉट। मस्क के एक्सएआई ने तुरंत घोषणा की कि उसने इस मुद्दे को सुलझा लिया है, यह दावा करते हुए कि उसने जनवरी की शुरुआत में ग्रोक को वास्तविक लोगों की कामुक छवियां बनाने में सक्षम होने से रोक दिया था।
