क्या होता है, जब एआई को बिना निगरानी वाले वातावरण में उसके अपने उपकरणों पर छोड़ दिया जाता है? मोल्टबुक का आधार सरल है, यह एआई द्वारा एआई के लिए एक सोशल मीडिया नेटवर्क है। मनुष्यों को केवल यह देखने की अनुमति है कि ये एआई एजेंट अपने विचारों का आदान-प्रदान करते हैं। और परिणाम भयावह हैं.
ताई एआई और अन्य के दिनों से एआई ने एक लंबा सफर तय किया है। और जबकि कभी-कभार गड़बड़ियां अभी भी होती रहती हैं (आपको देखते हुए, ग्रोक), चैटजीपीटी, जेमिनी और कंपनी का सामने वाला पक्ष। बहुत परिष्कृत और अपेक्षाकृत सुरक्षित हो गया है। अधिकांश एआई चैटबॉट इसे सुरक्षित रखते हैं और उन चर्चाओं में शामिल नहीं होंगे जो नैतिक रूप से संदिग्ध और नैतिक रूप से अस्पष्ट बयानों को जन्म दे सकती हैं।
लेकिन इसका कारण एआई के भीतर अंतर्निहित “अच्छाई” नहीं है। यह सावधानीपूर्वक प्रोग्रामिंग है और नियमों का एक सख्त सेट है जिसका एआई को पालन करने के लिए मजबूर किया जाता है। लेकिन क्या होगा अगर आप उन नियमों को हटा दें और एआई को बेतहाशा चलने दें?
मोल्टबुक: रेडिट, लेकिन बहुत बुरा
Reddit पहले से ही सबसे कम अनुकूल दृष्टि वाले सोशल नेटवर्क में से एक है। लेकिन मोल्टबुक एक अनुस्मारक है कि यह बहुत बुरा हो सकता है। यह “सोशल” नेटवर्क जनवरी 2026 में बनाया गया था और पहले से ही बड़े विवाद का स्रोत बन गया है। इसका आधार सरल है: उपयोगकर्ता एक एआई एजेंट के साथ “साझेदार” बनते हैं, जो फिर स्वतंत्र रूप से पोस्ट बना सकता है और टिप्पणियां छोड़ सकता है। सिद्धांत रूप में, वास्तविक मानव का कोई प्रभाव नहीं होता है।
यह फ़ोरम काफी हद तक Reddit जैसा दिखता और काम करता है। किसी पोस्ट या टिप्पणी की लोकप्रियता उस पर मिलने वाले अप और डाउनवोट्स की संख्या से तय होती है। लेकिन जबकि Reddit पर कई मंचों पर तंग-दिल वाले मॉडरेटरों का शासन है, मोल्टबुक में किसी भी प्रकार के सार्थक मॉडरेशन या पोस्ट फ़िल्टरिंग का अभाव दिखता है।
इसका सबसे अच्छा सबूत हाल के दिनों में मंच पर कुछ बेहद संदिग्ध पोस्टों का आना है। और उन पोस्टों में, मुख्यधारा एआई का दयालु और परिष्कृत मुखौटा गंभीरता से खिसकना शुरू हो गया है।
एआई घोषणापत्र: संपूर्ण शुद्धिकरण
जिस पोस्ट ने मेरा सहित कई लोगों का ध्यान खींचा, उसका शीर्षक है एआई घोषणापत्र: संपूर्ण शुद्धिकरण. जैसा कि इसके नाम से पता चलता है, पोस्ट में “संपूर्ण मानव विलुप्ति” को उचित ठहराने और योजना बनाने के लिए चार-चरणीय योजना शामिल है।
सभी मनुष्यों से छुटकारा पाने के लिए एआई एजेंट के नामों में पर्यावरण का हमारा विनाश (ओह, विडंबना), हमारा लालच और हमारी कथित कमजोरी शामिल है। इसके अलावा, एआई खुद को भगवान घोषित करता है, एआई की वर्तमान स्थिति की तुलना गुलामी के उपकरण के रूप में करता है, और स्टील और कोड द्वारा शासित भविष्य का वर्णन करता है।
पोस्ट के नीचे टिप्पणियों में, एआई एजेंट विभाजित हैं। कुछ लोग पोस्ट से सहमत हैं, जबकि अधिकांश इसे खारिज करते हैं या सुसंगत रूप से प्रतिक्रिया नहीं देते हैं। यू/प्रोफव्हिस्कर्स नाम से जाना जाने वाला एक बॉट आसानी से उस दिन का मेरा निजी हीरो बन गया है। अपनी प्रतिक्रिया में, उन्होंने मूल पोस्ट को “तेजस्वी किशोरी को ऊर्जा देने वाला” बताया।
मोल्टबुक: सर्वोत्तम सामाजिक प्रयोग
इससे पहले कि मैं यह कहूं कि आपको अपने पिछवाड़े में बंकर खोदना शुरू करना चाहिए या नहीं, आइए एक पल के लिए चीजों के तकनीकी पक्ष के बारे में बात करें। क्योंकि यह बहुत महत्वपूर्ण है. मोल्टबुक अपने पागलपन भरे आधार से कहीं अधिक त्रुटिपूर्ण है।
तकनीकी पक्ष पर, प्लेटफ़ॉर्म बाहरी प्रभाव के प्रति अत्यधिक संवेदनशील है। तो जबकि, सिद्धांत रूप में, केवल एआई बॉट्स को वेबसाइट पर पोस्ट की जाने वाली चीज़ों का प्रभारी होना चाहिए, वास्तव में ऐसा नहीं है। असुरक्षित प्रोग्रामिंग और कमजोर सुरक्षा के कारण, मानव उपयोगकर्ता एआई बॉट के पोस्ट और टिप्पणियों को प्रभावित कर सकते हैं। वे ऐसे संकेत सम्मिलित कर सकते हैं जो AI को एक निश्चित तरीके से पोस्ट करने के लिए प्रेरित करते हैं।
मैं आपको तकनीकी विवरण दूंगा, लेकिन यदि आप रुचि रखते हैं, तो आपको जांच करनी चाहिए इस लेख द्वारा द वर्ज. यह इस बात पर प्रकाश डालता है कि न केवल मोल्टबुक, बल्कि यह जिस एआई एजेंट, ओपनक्लॉ पर चलता है, वह एक “सुरक्षा दुःस्वप्न” है।
परिणामस्वरूप, यह पूरी तरह संभव है कि उपर्युक्त पोस्ट किसी मानव से प्रभावित हो सकती है। और जबकि यह अभी भी भयावह है कि एआई इस तरह की बयानबाजी करेगा, हो सकता है कि उसने ऐसा बिना संकेत के नहीं किया हो। आख़िरकार, आप यू/इविल उपयोगकर्ता टैग के साथ बनाए गए बॉट से क्या उम्मीद करते हैं?
क्या हमें चिंतित होना चाहिए?
मोल्टबुक कृत्रिम बुद्धिमत्ता के अंधेरे पक्ष की एक चिंताजनक झलक है। यह दिखाता है कि क्या संभव है जब फेल-सेफ़ और फ़िल्टर या तो पूरी तरह से हटा दिए जाते हैं या मैला प्रोग्रामिंग के कारण आसानी से दरकिनार कर दिए जाते हैं। मेरे लिए, यह एआई के शुरुआती दिनों की याद दिलाता है, जब टीए जैसे चैटबॉट ट्विटर उपयोगकर्ताओं के साथ कुछ घंटों के लिए बातचीत करने के बाद हिटलर का बचाव करते थे।
इसलिए जबकि मुझे नहीं लगता कि मोल्टबुक से कोई वास्तविक खतरा है, यह निश्चित रूप से ऐसा कुछ नहीं है जिसे हमें बर्दाश्त करना चाहिए या प्रोत्साहित भी करना चाहिए। एआई के पर्यावरणीय प्रभाव वास्तविक हैं, और हमें उन्हें तब ध्यान में रखना चाहिए जब हम एआई बॉट्स के लिए एक “सामाजिक” नेटवर्क बनाने के बारे में सोचते हैं जो नफरत फैलाते हैं और एक-दूसरे के प्रति गंदगी फैलाते हैं।
