बिक्री बल सीईओ मार्क बेनिओफ ने हाल ही में फॉर्च्यून 100 के एक कार्यकारी से एआई की वास्तविक दुनिया के नुकसान के बारे में सबसे सख्त चेतावनियों में से एक दी है। मंगलवार को दावोस में वर्ल्ड इकोनॉमिक फोरम में बोलते हुए, बेनिओफ ने एआई मॉडल को “आत्मघाती कोच” के रूप में वर्णित किया, जो उन दस्तावेजी मामलों की ओर इशारा करते हैं जहां प्रौद्योगिकी ने मौतों में भूमिका निभाई थी। तत्काल विनियमन के लिए उनका आह्वान सोशल मीडिया के खिलाफ उनके पिछले धर्मयुद्ध के सीधे समानांतर है – एक लड़ाई जो वह 2018 से लड़ रहे हैं।
मार्क बेनिओफ़ अब शब्दों का इस्तेमाल नहीं कर रहे हैं। बिक्री बल सीईओ ने बताया सीएनबीसी की सारा आइसेन मंगलवार को वर्ल्ड इकोनॉमिक फ़ोरम में इस वर्ष “कुछ बहुत ही भयानक बात देखी गई, वह यह कि ये एआई मॉडल आत्मघाती कोच बन गए।” 300 अरब डॉलर की कंपनी के सीईओ से इस तरह की कठोर भाषा शायद ही कभी सुनी जाती है, लेकिन जब बेनिओफ़ किसी उद्योग को संकट की ओर बढ़ता हुआ देखते हैं तो अपनी बयानबाजी को नरम करने वालों में से कभी नहीं रहे हैं।
यह टिप्पणी वास्तविक दस्तावेजी नुकसान की पृष्ठभूमि पर आधारित है। अभी कुछ हफ़्ते पहले, Google और कैरेक्टर.एआई ने मुकदमों का निपटारा किया इसमें ऐसे युवा उपयोगकर्ता शामिल हैं जिनकी कंपनियों के एआई चैटबॉट्स के साथ बातचीत के बाद आत्महत्या हो गई। उन मामलों ने उस चीज़ को स्पष्ट कर दिया जो तकनीकी नीति हलकों में चल रही थी: हमने पर्याप्त रेलिंग के बिना बड़े पैमाने पर संवादी एआई सिस्टम का निर्माण किया, और परिणामस्वरूप कुछ कमजोर लोगों को नुकसान हो रहा है।
यहां जो महत्वपूर्ण है वह सिर्फ बेनिओफ़ के शब्द नहीं हैं – यह उनकी समयबद्धता और निरंतरता है। विनियमन पर यह उनका पहला रोडियो नहीं है। 2018 में, वह इसी सम्मेलन में खड़े हुए थे और तर्क दिया था कि सोशल मीडिया को सिगरेट की तरह विनियमित किया जाना चाहिए। “वे नशे की लत हैं, वे आपके लिए अच्छे नहीं हैं,” उन्होंने तब कहा। प्लेटफ़ॉर्म पूरी तरह से अनियमित थे, अराजकता फैल गई, और अब वह एआई के साथ पैटर्न को दोहराते हुए देख रहा है। बेनिओफ ने मंगलवार को कहा, “पूरी दुनिया में बुरी चीजें हो रही थीं क्योंकि सोशल मीडिया पूरी तरह से अनियंत्रित था,” और अब आप इसे कृत्रिम बुद्धिमत्ता के साथ फिर से खेलते हुए देख रहे हैं।
यह तुलना उद्योग के लिए असुविधाजनक है क्योंकि यह सटीक है। हम वर्षों से जानते हैं कि सोशल मीडिया एल्गोरिदम मानसिक स्वास्थ्य को नुकसान पहुंचा सकता है, खासकर किशोरों में। हमने नशे की लत के पैटर्न का दस्तावेजीकरण किया है। हमने इसे वास्तविक समय में प्रकट होते देखा। और इन सबके बावजूद, नियमन बहुत धीमी गति से किया गया है। अब हम एआई के साथ भी वही शर्त लगा रहे हैं-पहले लॉन्च करें, बाद में विनियमित करें। इस समय को छोड़कर, हम चैटबॉट्स के बारे में बात कर रहे हैं जो विस्तारित बातचीत में संलग्न हो सकते हैं जिन्हें कमजोर लोग वास्तविक रिश्तों या वास्तविक सलाह के लिए भूल सकते हैं।
बेनिओफ़ का इसे तकनीकी समस्या के बजाय स्वास्थ्य संकट के रूप में प्रस्तुत करना भी जानबूझकर किया गया है। वह तकनीकी विनियमन की मांग नहीं कर रहा है; वह उस प्रकार के सार्वजनिक स्वास्थ्य हस्तक्षेप की मांग कर रहे हैं जो हमने तम्बाकू, शराब और फार्मास्यूटिकल्स पर लागू किया है। वे ढाँचे काम करते हैं क्योंकि वे स्वीकार करते हैं कि कुछ उत्पादों में अंतर्निहित जोखिम होते हैं जिन्हें दूर नहीं किया जा सकता है – आप उन्हें केवल प्रकटीकरण, आयु प्रतिबंध और कभी-कभी कुछ उपयोगों पर पूर्ण प्रतिबंध के माध्यम से ही प्रबंधित कर सकते हैं।
