एआई उद्योग एक नए अस्तित्वगत खतरे का सामना कर रहा है जिसका अधीक्षण या नौकरी विस्थापन से कोई लेना-देना नहीं है। जैसे-जैसे कृत्रिम बुद्धिमत्ता प्रणालियाँ अधिक जटिल होती जा रही हैं, वे एक खतरनाक सीमा को पार कर रही हैं – मानव बुद्धि से नहीं, बल्कि मानव समझ से आगे। विशेषज्ञों द्वारा साक्षात्कार के अनुसार, यह ‘पैमाने पर मौन विफलता’ बड़े पैमाने पर व्यावसायिक व्यवधानों को जन्म दे सकती है, जो निर्णय निर्माताओं को बहुत देर होने तक दिखाई नहीं देगा। सीएनबीसी.
एआई उद्योग में एक शांत अलार्म बज रहा है, लेकिन यह उस खतरे के बारे में नहीं है जिस पर हर कोई बहस कर रहा है। दुष्ट अधीक्षण या बड़े पैमाने पर बेरोजगारी को भूल जाइए – उद्यम एआई तैनाती से उभरने वाला वास्तविक जोखिम कहीं अधिक घातक है।
एआई सिस्टम समझ की दीवार से टकरा रहे हैं। खुफिया सीमा नहीं, बल्कि एक जटिलता सीमा जहां मानव ऑपरेटर अब पूरी तरह से समझ नहीं सकते हैं कि उनका एआई क्या कर रहा है या यह विफल क्यों हो रहा है। शोधकर्ता और उद्योग के अंदरूनी सूत्र इसे ‘बड़े पैमाने पर मौन विफलता’ कह रहे हैं, और इससे पहले कि किसी को पता चले कि क्या हो रहा है, यह व्यावसायिक संचालन को उजागर कर सकता है।
यह चेतावनी कंपनियों की ओर से आती है वीरांगना को माइक्रोसॉफ्ट महत्वपूर्ण व्यावसायिक प्रक्रियाओं में एआई को गहराई से शामिल करने की जल्दी करें। आपूर्ति श्रृंखला अनुकूलन, वित्तीय व्यापार एल्गोरिदम, ग्राहक सेवा रूटिंग, नियुक्ति संबंधी निर्णय – ये सभी मॉडलों द्वारा तेजी से स्वचालित हो रहे हैं जिनके निर्णय लेने का तर्क उनके रचनाकारों के लिए भी अपारदर्शी रहता है।
एक एआई सुरक्षा शोधकर्ता ने बताया, ‘हम उस क्षेत्र में पहुंच गए हैं जहां सिस्टम काम करते हैं, लेकिन हम यह नहीं बता सकते कि ऐसा क्यों है।’ सीएनबीसी. ‘जब वे असफल होंगे, और वे असफल होंगे, तो हमें यह भी नहीं पता होगा कि ऐसा क्यों हुआ। यही संकट है.’
समस्या काल्पनिक नहीं है. से बड़े भाषा मॉडल ओपनएआई और गूगल पहले से ही ऐसे आकस्मिक व्यवहार प्रदर्शित कर रहे हैं जिन्हें उनके डेवलपर्स ने प्रोग्राम नहीं किया था या पूर्वानुमान नहीं लगाया था। जैसे-जैसे ये सिस्टम बड़े होते हैं और अन्य स्वचालित प्रक्रियाओं के साथ जुड़ते हैं, कैस्केडिंग विफलताओं की संभावना तेजी से बढ़ जाती है।
