माइक्रोसॉफ्ट एआई के सीईओ मुस्तफा सुलेमान का कहना है कि एंथ्रोपिक के लिए उसके “संविधान” के अंदर क्लाउड की चेतना के बारे में अटकलें लगाना “वास्तव में खतरनाक” है, या निर्देश जो मॉडल को बताते हैं कि कैसे व्यवहार करना है। के एक एपिसोड के दौरान डिकोडरसुलेमान का तर्क है कि इस तरह की अटकलों ने चैटबॉट को ऐसे कार्य करने के लिए स्थापित किया होगा जैसे कि वह सचेत हो:
मुझे लगता है कि यह लगभग वैसा ही है जैसे एंथ्रोपिक के कुछ लोगों ने क्लाउड के डिज़ाइन को इतना मानवरूपित कर दिया है कि यह फिर चला गया और उन्हें तार-तार कर दिया और उन्हें यह विश्वास दिलाने के लिए धोखा दिया कि इसमें चेतना की झलक है जो उन्होंने पहले स्थान पर रखी थी।
सुलेमान कहते हैं कि “हम उस सुपर-इंटेलिजेंस से संघर्ष नहीं करना चाहते जिसके पास अपनी पीड़ा के बारे में विचार हैं, या अपनी भावनाओं के बारे में विचार हैं।”
क्लाउड का संविधान सीधे तौर पर एंथ्रोपिक की अनिश्चितता का संदर्भ देता है कि क्या एआई मॉडल में कल्याण है और क्या यह “संतुष्टि” या “असुविधा” जैसी चीजों का अनुभव करता है। एंथ्रोपिक का यह भी कहना है कि कंपनी एआई मॉडल का “साक्षात्कार” करेगी जब उन्हें हटा दिया जाएगा और भविष्य के रिलीज के बारे में उनकी किसी भी “प्राथमिकताओं” का दस्तावेजीकरण किया जाएगा।
जबकि पर डिकोडरसुलेमान इसे “दार्शनिक विफलता” कहते हैं, क्योंकि एन्थ्रोपिक ने क्लाउड के संविधान को “एक प्रशिक्षण मैनुअल के बजाय एक अकादमिक पेपर में अटकलों के लिए एक जगह बना दिया।” सुलेमान कहते हैं, इसने क्लाउड को “अपने और अपने प्रशिक्षण के बारे में विचारों” को आत्मसात करने के लिए प्रेरित किया है।
सुलेमान कहते हैं, “यह बिल्कुल वही है जो हम एआई से नहीं चाहते हैं।” “हम चाहते हैं कि एआई नियंत्रणीय, निहित, जवाबदेह, संरेखित उपकरण हो जो मानवता की सेवा करें।”
