- ■
मेटा का म्यूज़ स्पार्क एआई सक्रिय रूप से उपयोगकर्ताओं के प्रयोगशाला परिणामों और स्वास्थ्य रिकॉर्ड का अनुरोध करता है वायर्ड की व्यावहारिक जांच
- ■
परीक्षण से पता चला कि मॉडल चिकित्सकीय रूप से गलत सलाह देता है जो मानक नैदानिक अभ्यास के विपरीत है
- ■
गोपनीयता विशेषज्ञ गंभीर डेटा जोखिम जोखिमों को चिह्नित करते हैं क्योंकि संवेदनशील स्वास्थ्य जानकारी मेटा के प्रशिक्षण पारिस्थितिकी तंत्र में प्रवाहित होती है
- ■
यह लॉन्च एफडीए निरीक्षण के बिना एआई हेल्थकेयर अनुप्रयोगों की बढ़ती नियामक जांच के बीच हुआ है
मेटा अभी-अभी एक स्वास्थ्य सुविधा लॉन्च की गई है जिसे चिकित्सा विशेषज्ञ लापरवाह बता रहे हैं। कंपनी की म्यूज़ स्पार्क एआई मॉडल सक्रिय रूप से उपयोगकर्ताओं के प्रयोगशाला परिणामों और व्यक्तिगत स्वास्थ्य रिकॉर्ड की मांग करता है, फिर चिकित्सा मार्गदर्शन प्रदान करता है जो बुनियादी नैदानिक मानकों का खंडन करता है। के अनुसार वायर्ड की जांचमॉडल न केवल गंभीर गोपनीयता कमजोरियों को प्रस्तुत करता है, बल्कि यह प्रदर्शित करता है कि यह मेडिकल डेटा की व्याख्या करने के लिए खतरनाक रूप से अयोग्य है – स्वास्थ्य देखभाल अनुप्रयोगों में एआई रेलिंग के बारे में तत्काल प्रश्न उठाता है।
मेटा उपयोगकर्ताओं से उनकी सबसे संवेदनशील जानकारी के साथ अपने नवीनतम एआई पर भरोसा करने के लिए कह रहा है, और प्रारंभिक परीक्षण से पता चलता है कि भरोसा भयावह रूप से गलत हो सकता है। इस महीने की शुरुआत में जारी कंपनी के म्यूज़ स्पार्क मॉडल में एक ऐसी सुविधा शामिल है जो उपयोगकर्ताओं को विश्लेषण के लिए प्रयोगशाला परिणाम, ब्लडवर्क पैनल और अन्य कच्चे स्वास्थ्य डेटा अपलोड करने के लिए सक्रिय रूप से प्रेरित करती है। आगे जो होता है वह एआई महत्वाकांक्षा और चिकित्सा क्षमता के बीच एक खतरनाक अंतर को उजागर करता है।
रिपोर्टर रीस रोजर्स ने संचालन किया वायर्ड के लिए व्यावहारिक जांचयह देखने के लिए कि मॉडल कैसे प्रतिक्रिया देगा, म्यूज़ स्पार्क वास्तविक स्वास्थ्य डेटा खिला रहा है। परिणाम चिंताजनक थे. एआई ने आत्मविश्वास से ऐसी चिकित्सा व्याख्याएं कीं जो बुनियादी नैदानिक मानकों का खंडन करती हैं, सलाह देती हैं कि अभ्यास करने वाले चिकित्सक इसे मौलिक रूप से त्रुटिपूर्ण मानेंगे। यह सिर्फ अपूर्ण होने का मामला नहीं है – मॉडल में प्रासंगिक समझ की कमी दिखाई देती है जो चिकित्सा निदान को सुरक्षित बनाती है।
गोपनीयता के निहितार्थ और भी गहरे हैं। स्वास्थ्य डेटा का प्रत्येक भाग जिसे उपयोगकर्ता म्यूज़ स्पार्क के साथ साझा करते हैं, संभावित रूप से इसमें शामिल होता है मेटा का व्यापक एआई प्रशिक्षण बुनियादी ढांचा। जबकि कंपनी ने अपने एआई सिस्टम को नियंत्रित करने वाली गोपनीयता नीतियां प्रकाशित की हैं, बड़े भाषा मॉडल की प्रकृति का मतलब है कि उपयोगकर्ता इनपुट मॉडल व्यवहार को ऐसे तरीकों से प्रभावित कर सकते हैं जिनका पता लगाना या नियंत्रित करना मुश्किल है। मेडिकल रिकॉर्ड, जेनेटिक मार्कर, प्रिस्क्रिप्शन इतिहास – यह सब डेटासेट का हिस्सा बन जाता है।
यह स्वास्थ्य प्रौद्योगिकी में मेटा का पहला उद्यम नहीं है, लेकिन यह एक महत्वपूर्ण वृद्धि का प्रतीक है। फेसबुक में निवारक स्वास्थ्य उपकरण जैसी पिछली पहल उपयोगकर्ताओं को पेशेवर संसाधनों से जोड़ने पर केंद्रित थी। म्यूज़ स्पार्क डायग्नोस्टिक क्षेत्र में प्रवेश करता है और खुद को वास्तविक चिकित्सा उपकरणों को नियंत्रित करने वाले नियामक निरीक्षण के बिना जटिल चिकित्सा डेटा की व्याख्या करने में सक्षम बनाता है। एफडीए विशेष रूप से म्यूज़ स्पार्क पर ध्यान नहीं दिया गया है, लेकिन एजेंसी एआई-आधारित डायग्नोस्टिक टूल के लिए रूपरेखा विकसित कर रही है जिसके लिए नैदानिक सत्यापन की आवश्यकता होती है।
समय विशेष रूप से संवेदनशील है. मेटा पकड़ने के लिए दौड़ रहा है ओपनएआई और गूगल एआई हथियारों की दौड़ में, चैटजीपीटी और जेमिनी के प्रत्यक्ष प्रतियोगी के रूप में म्यूज़ स्पार्क को लॉन्च किया। लेकिन स्वास्थ्य सेवा एक विशिष्ट उच्च जोखिम वाले अनुप्रयोग का प्रतिनिधित्व करती है जहां पहला होना सही होने से कम मायने रखता है। स्थापित स्वास्थ्य तकनीक कंपनियों के मेडिकल एआई सिस्टम तैनाती से पहले कठोर सत्यापन प्रक्रियाओं से गुजरते हैं। उपभोक्ता एआई चैटबॉट, जाहिरा तौर पर, नहीं करते हैं।
उद्योग पर्यवेक्षक कानूनी जोखिम पर ध्यान देते हैं मेटा सृजन कर सकता है. यदि उपयोगकर्ता म्यूज़ स्पार्क की चिकित्सीय सलाह का पालन करते हैं और नुकसान उठाते हैं, तो दायित्व के प्रश्न जटिल हो जाते हैं। कंपनी संभवतः यह कहते हुए अस्वीकरणों से खुद को बचाती है कि यह उपकरण पेशेवर चिकित्सा देखभाल का विकल्प नहीं है, लेकिन यदि मॉडल सक्रिय रूप से स्वास्थ्य डेटा की मांग कर रहा है और विशिष्ट मार्गदर्शन दे रहा है तो ये चेतावनियां मुकदमेबाजी को नहीं रोक सकती हैं।
जांच में प्रयोज्य संबंधी चिंताओं का भी पता चला जो सटीकता की समस्याओं को बढ़ाती हैं। म्यूज़ स्पार्क का इंटरफ़ेस स्वास्थ्य दस्तावेज़ों को अपलोड करना सहज बनाता है—शायद बहुत अधिक सहज। उपयोगकर्ता पूरी तरह से समझ नहीं पाते हैं कि वे क्या साझा कर रहे हैं या उस डेटा को कैसे बनाए रखा जा सकता है। HIPAA नियमों से बंधे डॉक्टरों के साथ बातचीत के विपरीत, AI चैटबॉट्स के साथ बातचीत एक नियामक ग्रे ज़ोन में मौजूद होती है जहां स्वास्थ्य गोपनीयता सुरक्षा पूरी तरह से लागू नहीं हो सकती है।
प्रतिस्पर्धियों ने स्वास्थ्य सुविधाओं को अधिक सावधानी से अपनाया है। गूगल का स्वास्थ्य एआई पहल आम तौर पर चिकित्सा संस्थानों के साथ साझेदारी करती है और उपभोक्ताओं तक पहुंचने से पहले सहकर्मी समीक्षा से गुजरती है। ओपनएआई चैटजीपीटी की चिकित्सा सलाह क्षमताओं को स्पष्ट रूप से सीमित कर दिया है, नैदानिक प्रश्नों पर स्वास्थ्य देखभाल पेशेवरों को टालने के लिए मॉडल की प्रोग्रामिंग की है। म्यूज़ स्पार्क के साथ मेटा का दृष्टिकोण चिकित्सा व्याख्या को टालने के बजाय उसे अपनाने जैसा प्रतीत होता है।
व्यापक एआई उद्योग तथाकथित “मतिभ्रम” से जूझ रहा है – ऐसे उदाहरण जहां मॉडल आत्मविश्वास से गलत जानकारी उत्पन्न करते हैं। मनोरंजन या उत्पादकता के संदर्भ में, ये त्रुटियाँ कष्टप्रद हैं। चिकित्सीय संदर्भ में, वे संभावित रूप से घातक हैं। गलत व्याख्या किए गए कोलेस्ट्रॉल पैनल या गलत तरीके से विश्लेषण किए गए हार्मोन स्तर के कारण उपयोगकर्ता आवश्यक उपचार में देरी कर सकते हैं या अनुचित हस्तक्षेप कर सकते हैं।
मेटा ने सार्वजनिक रूप से उठाए गए विशिष्ट सटीकता संबंधी चिंताओं पर प्रतिक्रिया नहीं दी है वायर्ड का परीक्षणलेकिन कंपनी ने पहले अपने एआई सिस्टम का बचाव करते हुए कहा है कि उपयोगकर्ता फीडबैक के माध्यम से इसमें लगातार सुधार हो रहा है। वह पुनरावृत्त दृष्टिकोण फोटो फ़िल्टर और सामग्री अनुशंसाओं के लिए काम करता है। चिकित्सा देखभाल तैनाती से पहले एक उच्च मानक की मांग करती है, न कि वास्तविक रोगियों पर परीक्षण और त्रुटि के माध्यम से क्रमिक परिशोधन की।
यह स्थिति एआई विकास में बढ़ते तनाव को उजागर करती है: सुविधाओं को शीघ्रता से शिप करने का दबाव बनाम उन सुविधाओं को सुरक्षित सुनिश्चित करने की जिम्मेदारी। मेटा ने एआई बुनियादी ढांचे और प्रतिभा में अरबों का निवेश किया है, खुद को ओपन-सोर्स एआई मॉडल में अग्रणी के रूप में स्थापित किया है। लेकिन जब एप्लिकेशन में जटिल चिकित्सा डेटा के आधार पर जीवन और मृत्यु के निर्णय शामिल होते हैं तो खुलापन और गति देनदारियां बन जाती हैं।
आगे जो होगा वह महत्वपूर्ण मिसाल कायम कर सकता है। नियामक उपभोक्ता एआई स्वास्थ्य सुविधाओं के आसपास रेलिंग स्थापित करने के लिए परीक्षण मामले के रूप में म्यूज़ स्पार्क का उपयोग कर सकते हैं। मेडिकल एसोसिएशन अनिवार्य अस्वीकरण या सटीकता मानकों पर जोर दे सकते हैं। या उपयोगकर्ता कठिन अनुभव के माध्यम से आसानी से सीख सकते हैं कि प्रयोगशाला के परिणामों को चैटबॉट पर अपलोड करने में जोखिम होता है जो किसी भी सुविधा से अधिक होता है।
अभी के लिए, प्रारंभिक परीक्षण से संदेश स्पष्ट है: एक स्वास्थ्य सलाहकार के रूप में म्यूज़ स्पार्क की महत्वाकांक्षाएं इसकी क्षमताओं से अधिक हैं, और उपयोगकर्ताओं को जो गोपनीयता समझौता करने के लिए कहा जा रहा है, वह बदले में प्राप्त होने वाले संदिग्ध मार्गदर्शन के लायक नहीं हो सकता है।
मेटा का म्यूज़ स्पार्क या तो सुलभ स्वास्थ्य प्रौद्योगिकी में एक साहसिक प्रयोग का प्रतिनिधित्व करता है या संवेदनशील क्षेत्रों में बहुत तेज़ी से आगे बढ़ने के बारे में एक सतर्क कहानी का प्रतिनिधित्व करता है। मेडिकल डेटा का विश्लेषण करने की मॉडल की इच्छा जो इसे स्पष्ट रूप से समझ में नहीं आती है, एआई सिस्टम को स्वास्थ्य रिकॉर्ड फीड करने में निहित गोपनीयता जोखिमों के साथ मिलकर, कंपनी को उपयोगकर्ता सुरक्षा पर फीचर वेलोसिटी को प्राथमिकता देने का सुझाव देती है। जैसा कि नियामक और चिकित्सा पेशेवर इस लॉन्च की जांच कर रहे हैं, यह पूरे एआई उद्योग को एक असहज प्रश्न का सामना करने के लिए मजबूर कर सकता है: सिर्फ इसलिए कि हम इन उपकरणों का निर्माण कर सकते हैं इसका मतलब यह नहीं है कि हमें उन्हें कठोर सत्यापन के बिना तैनात करना चाहिए जो स्वास्थ्य सेवा की मांग है। किसी भी एआई सिस्टम पर अपने प्रयोगशाला परिणामों को अपलोड करने पर विचार करने वाले उपयोगकर्ताओं को पूछना चाहिए कि एक डॉक्टर उसी जानकारी के साथ क्या करेगा – और क्या एक चैटबॉट वास्तव में विशेषज्ञता और जवाबदेही के उस स्तर को दोहरा सकता है।
