इस महीने की शुरुआत में, लायरा हेल्थ की घोषणा की उपयोगकर्ताओं को बर्नआउट, नींद में व्यवधान और तनाव जैसी “चुनौतियों” में मदद करने के लिए एक “क्लिनिकल-ग्रेड” एआई चैटबॉट। इसकी प्रेस विज्ञप्ति में “नैदानिक” के अठारह उल्लेख हैं, जिनमें “नैदानिक रूप से डिज़ाइन किया गया,” “नैदानिक रूप से कठोर,” और “नैदानिक प्रशिक्षण” शामिल हैं। अधिकांश लोगों के लिए, जिनमें मैं भी शामिल हूँ, “नैदानिक” का तात्पर्य “चिकित्सा” से है। समस्या यह है कि ऐसा नहीं होता है अर्थ चिकित्सा। वास्तव में, “क्लिनिकल-ग्रेड” का कोई मतलब ही नहीं है।
“क्लिनिकल-ग्रेड” मार्केटिंग पफ़री का एक उदाहरण है जिसे जवाबदेही या विनियमन की शर्तों के बिना दवा से अधिकार उधार लेने के लिए डिज़ाइन किया गया है। यह स्टील, सिलिकॉन और सप्लीमेंट जैसी चीजों के लिए “मेडिकल-ग्रेड” या “फार्मास्युटिकल-ग्रेड” जैसे अन्य प्रचलित विपणन वाक्यांशों के साथ बैठता है जो गुणवत्ता का संकेत देते हैं; शक्ति को दर्शाने वाली क्रीम और मलहम के लिए “प्रिस्क्रिप्शन-शक्ति” या “डॉक्टर-निर्मित”; और “हाइपोएलर्जेनिक” और “मुंहासे पैदा न करने वाला” परिणाम सुझाना – क्रमशः एलर्जी प्रतिक्रियाओं और गैर-छिद्र अवरुद्ध होने की कम संभावना – जिसके लिए कोई मानक परिभाषाएँ या परीक्षण प्रक्रियाएँ नहीं हैं।
लायरा के अधिकारियों ने इसकी पुष्टि की है, कह स्टेट न्यूज़ उन्हें नहीं लगता कि एफडीए विनियमन उनके उत्पाद पर लागू होता है। प्रेस विज्ञप्ति में चिकित्सा भाषा – जो चैटबॉट को “चिकित्सकीय रूप से डिज़ाइन किया गया वार्तालाप एआई गाइड” और “मानसिक स्वास्थ्य देखभाल के लिए पहला नैदानिक-ग्रेड एआई अनुभव” कहती है – केवल इसे प्रतिस्पर्धियों से अलग दिखने में मदद करने और यह दिखाने के लिए है कि उन्होंने इसे विकसित करने में कितनी सावधानी बरती है, उनका दावा है।
लायरा अपने एआई टूल को चिकित्सक और चिकित्सकों जैसे अपने मानव कर्मचारियों द्वारा पहले से ही प्रदान की जाने वाली मानसिक स्वास्थ्य देखभाल के एक ऐड-ऑन के रूप में पेश करता है, जिससे उपयोगकर्ताओं को सत्रों के बीच चौबीसों घंटे सहायता मिलती है। के अनुसार स्टेटचैटबॉट पिछली नैदानिक बातचीत, विश्राम अभ्यास जैसे सतही संसाधनों और यहां तक कि अनिर्दिष्ट चिकित्सीय तकनीकों का उपयोग भी कर सकता है।
विवरण यह स्पष्ट प्रश्न उठाता है कि यहाँ “नैदानिक-ग्रेड” का क्या अर्थ है? इस शब्द पर बहुत अधिक झुकाव होने के बावजूद, लायरा स्पष्ट रूप से कुछ नहीं कहती है। कंपनी ने नहीं दिया कोई जवाब द वर्जटिप्पणी या “क्लिनिकल-ग्रेड एआई” की विशिष्ट परिभाषा के लिए अनुरोध।
यूसी लॉ सैन फ्रांसिस्को में चिकित्सक और कानून के प्रोफेसर जॉर्ज होर्वाथ कहते हैं, “‘क्लिनिकल-ग्रेड एआई’ शब्द का कोई विशिष्ट नियामक अर्थ नहीं है।” “मुझे ऐसा कोई एफडीए दस्तावेज़ नहीं मिला है जिसमें उस शब्द का उल्लेख हो। यह निश्चित रूप से किसी क़ानून में नहीं है। यह विनियमों में नहीं है।”
अन्य चर्चित विपणन शब्दों की तरह, ऐसा लगता है कि यह कुछ ऐसा है जिसे कंपनी ने स्वयं गढ़ा है या सहयोजित किया है। होर्वाथ कहते हैं, “यह स्पष्ट रूप से एक शब्द है जो उद्योग से निकल रहा है।” “मुझे ऐसा नहीं लगता कि इसका कोई एक ही अर्थ है… संभवतः हर कंपनी की अपनी परिभाषा होती है कि वे इससे क्या मतलब रखते हैं।”
यद्यपि “अकेले शब्द का कोई अर्थ नहीं है,” एक लाइसेंस प्राप्त मनोवैज्ञानिक और अमेरिकन साइकोलॉजिकल एसोसिएशन के हेल्थकेयर इनोवेशन कार्यालय के वरिष्ठ निदेशक वेले राइट कहते हैं, यह स्पष्ट है कि लायरा इस पर निर्भर क्यों रहना चाहेगी। “मुझे लगता है कि यह एक ऐसा शब्द है जिसे इनमें से कुछ कंपनियों द्वारा बहुत भीड़ भरे बाजार में भेदभाव के एक मार्कर के रूप में गढ़ा गया है, जबकि यह जानबूझकर खाद्य एवं औषधि प्रशासन के दायरे में नहीं आता है।” एफडीए दवाओं और प्रत्यारोपण जैसे खाद्य और चिकित्सा उत्पादों की एक श्रृंखला की गुणवत्ता, सुरक्षा और प्रभावशीलता की देखरेख करता है। ऐसे मानसिक स्वास्थ्य ऐप हैं जो इसके दायरे में आते हैं और अनुमोदन सुरक्षित करने के लिए, डेवलपर्स को नैदानिक परीक्षणों जैसे चरणों के माध्यम से सुरक्षा, सुरक्षा और प्रभावकारिता के लिए कठोर मानकों को पूरा करना होगा जो साबित करते हैं कि वे जो करने का दावा करते हैं वह करते हैं और सुरक्षित रूप से करते हैं।
राइट का कहना है कि एफडीए मार्ग डेवलपर्स के लिए महंगा और समय लेने वाला है, जिससे इस तरह की “अस्पष्ट भाषा” भीड़ से अलग दिखने का एक उपयोगी तरीका बन जाती है। राइट कहते हैं, उपभोक्ताओं के लिए यह एक चुनौती है, लेकिन इसकी अनुमति है। वह कहती हैं कि एफडीए का नियामक मार्ग “अभिनव प्रौद्योगिकियों के लिए विकसित नहीं किया गया था”, जिससे विपणन के लिए इस्तेमाल की जा रही कुछ भाषा परेशान करने वाली हो गई है। राइट कहते हैं, “आप वास्तव में इसे मानसिक स्वास्थ्य में नहीं देखते हैं।” “क्लिनिकल-ग्रेड संज्ञानात्मक व्यवहार थेरेपी के बारे में कोई भी नहीं कह रहा है, है ना? हम इसके बारे में इस तरह बात नहीं करते हैं।”
एफडीए के अलावा, संघीय व्यापार आयोग, जिसके मिशन में उपभोक्ताओं को अनुचित या भ्रामक विपणन से बचाना शामिल है, यह तय कर सकता है कि कुछ बहुत अस्पष्ट हो गया है और जनता को गुमराह कर रहा है। एफटीसी के अध्यक्ष एंड्रयू फर्ग्यूसन की घोषणा की इस साल की शुरुआत में एआई चैटबॉट्स की जांच, जिसमें नाबालिगों पर उनके प्रभावों पर ध्यान केंद्रित किया गया था – हालांकि “यह सुनिश्चित करना कि संयुक्त राज्य अमेरिका इस नए और रोमांचक उद्योग में एक वैश्विक नेता के रूप में अपनी भूमिका बनाए रखता है” की प्राथमिकता बरकरार रखी गई है। न तो एफडीए और न ही एफटीसी ने जवाब दिया द वर्जटिप्पणी के लिए अनुरोध.
जर्मनी में ड्रेसडेन यूनिवर्सिटी ऑफ टेक्नोलॉजी में मेडिकल डिवाइस नियामक विज्ञान के प्रोफेसर स्टीफन गिल्बर्ट का कहना है कि कंपनियां “निश्चित रूप से अपना केक लेना और खाना चाहती हैं”, नियामकों को अपनी आवश्यकताओं को सरल बनाना चाहिए और प्रवर्तन को स्पष्ट करना चाहिए। उनका कहना है, अगर कंपनियां कानूनी तौर पर इस तरह के दावे कर सकती हैं (या गैरकानूनी तरीके से ऐसा करके बच सकती हैं), तो वे ऐसा करेंगी।
अस्पष्टता एआई के लिए अद्वितीय नहीं है – या मानसिक स्वास्थ्य के लिए, जिसमें विनियमन के बिना कठोरता का वादा करने वाले वैज्ञानिक-लगने वाले “कल्याण” उत्पादों की अपनी परेड है। भाषाई फ़जीहत उपभोक्ता संस्कृति में रोटी पर फफूंदी की तरह फैली हुई है। “चिकित्सकीय रूप से परीक्षण किए गए” सौंदर्य प्रसाधन, “प्रतिरक्षा-बढ़ाने वाले” पेय, और विटामिन जो दुनिया को वादा करते हैं, वे सभी एक नियामक ग्रे ज़ोन के अंदर रहते हैं जो कंपनियों को व्यापक, वैज्ञानिक-लगने वाले दावे करने की अनुमति देता है जो जरूरी नहीं कि जांच के दायरे में आते हों। इस पर चलना एक अच्छी रेखा हो सकती है, लेकिन यह कानूनी है। एआई उपकरण बस हाथ की इस भाषाई निपुणता को विरासत में प्राप्त कर रहे हैं।
ऐप्स को एफडीए की निशाने से दूर रखने और कुछ हद तक कानूनी छूट देने के लिए कंपनियां चीजों को सावधानी से लिखती हैं। यदि आप इसे पढ़ने में सफल होते हैं, तो यह न केवल मार्केटिंग कॉपी में बल्कि बढ़िया प्रिंट में भी दिखाई देता है। अधिकांश एआई वेलनेस टूल इस बात पर जोर देते हैं कि कहीं न कहीं उनकी साइटों पर या नियमों और शर्तों के अंदर दबी भाषा में कहा गया है कि वे पेशेवर देखभाल के विकल्प नहीं हैं और उनका उद्देश्य बीमारी का निदान या इलाज करना नहीं है। हालाँकि, कानूनी तौर पर यह उन्हें चिकित्सा उपकरणों के रूप में वर्गीकृत किए जाने से रोकता है बढ़ते सबूत सुझाव देता है कि लोग उपचार के लिए उनका उपयोग कर रहे हैं और बिना किसी नैदानिक निरीक्षण के उपकरणों तक पहुंच सकते हैं।
ऐश, स्लिंगशॉट एआई का एक उपभोक्ता थेरेपी ऐप, स्पष्ट रूप से और अस्पष्ट रूप से “भावनात्मक स्वास्थ्य” के लिए विपणन किया जाता है, जबकि हेडस्पेस, नियोक्ता-स्वास्थ्य क्षेत्र में लायरा का एक प्रतियोगी, अपने “एआई साथी” एब को “आपके दिमाग का नया सबसे अच्छा दोस्त” बताता है। सभी चिकित्सीय उपकरणों के बजाय कल्याण उत्पादों के रूप में अपनी स्थिति पर जोर देते हैं जो उन्हें चिकित्सा उपकरणों के रूप में योग्य बना सकते हैं। यहां तक कि ChatGPT जैसे सामान्य-उद्देश्य वाले बॉट भी समान चेतावनी देते हैं, जो स्पष्ट रूप से किसी भी औपचारिक चिकित्सा उपयोग को अस्वीकार करते हैं। संदेश सुसंगत है: थेरेपी की तरह बात करें और कार्य करें, लेकिन कहें कि ऐसा नहीं है।
नियामकों ने ध्यान देना शुरू कर दिया है. एफडीए है अनुसूचित 6 नवंबर को एआई-सक्षम मानसिक स्वास्थ्य चिकित्सा उपकरणों पर चर्चा के लिए एक सलाहकार समूह बुलाने के लिए, हालांकि यह स्पष्ट नहीं है कि सरकारी बंद को देखते हुए यह आगे बढ़ेगा या नहीं।
हालाँकि, लाइरा अपने “क्लिनिकल-ग्रेड एआई” के साथ एक जोखिम भरा खेल खेल रही होगी। होर्वाथ कहते हैं, “मुझे लगता है कि वे वास्तव में निदान, उपचार और अन्य सभी चीजों के लिए एक रेखा के करीब आने जा रहे हैं जो उन्हें एक चिकित्सा उपकरण की परिभाषा में लाएगा।”
इस बीच, गिल्बर्ट का मानना है कि एआई कंपनियों को इसे वही कहना चाहिए जो यह है। वे कहते हैं, ”नैदानिक उपकरण उपलब्ध न कराने का दिखावा करने की कोशिश के समान ही ‘क्लिनिकल-ग्रेड’ के बारे में बात करना व्यर्थ है।”
