एफटीसी सेटलमेंट के बाद क्लारिफाई ने 3एम ओकेक्यूपिड तस्वीरें हटा दीं

एफटीसी की भागीदारी इस बात में बदलाव का संकेत देती है कि नियामक एआई प्रशिक्षण डेटा अधिग्रहण को कैसे देखते हैं। हालांकि विशिष्ट निपटान शर्तों का सार्वजनिक रूप से खुलासा नहीं किया गया है, फोटो हटाने की आवश्यकता से पता चलता है कि एफटीसी ने पाया कि मूल डेटा स्थानांतरण ने उपयोगकर्ता की अपेक्षाओं या मौजूदा गोपनीयता सुरक्षा का उल्लंघन किया है। यह समय विशेष रूप से महत्वपूर्ण है क्योंकि कांग्रेस संघीय एआई विनियमन पर बहस करती है और इलिनोइस जैसे राज्य सख्त बायोमेट्रिक गोपनीयता कानून लागू करते हैं।

डेटिंग ऐप उपयोगकर्ताओं के लिए, यह रहस्योद्घाटन डेटा प्रशासन के बारे में असहज प्रश्न उठाता है। जब कोई डेट ढूंढने के लिए सेल्फी अपलोड करता है, तो वे यह उम्मीद नहीं करते हैं कि वह तस्वीर असंबंधित कंपनियों द्वारा उपयोग किए जाने वाले एआई सिस्टम को प्रशिक्षित करने के लिए समाप्त होगी। फिर भी OkCupid-Clarifai व्यवस्था से पता चलता है कि सीमा कितनी आसानी से पार हो जाती है, खासकर जब प्लेटफार्मों के बीच वित्तीय संबंध मौजूद होते हैं।

मैच ग्रुप ने इस पर टिप्पणी करने से इनकार कर दिया कि क्या वर्तमान ओकेक्यूपिड उपयोगकर्ताओं को ऐतिहासिक डेटा साझाकरण के बारे में सूचित किया गया था या क्या अन्य कंपनियों के साथ भी इसी तरह की व्यवस्था मौजूद थी। डेटिंग दिग्गज को डेटा प्रथाओं पर पिछली जांच का सामना करना पड़ा है, लेकिन यह घटना जीडीपीआर और कैलिफोर्निया के गोपनीयता कानूनों जैसे कई आधुनिक गोपनीयता ढांचे से पहले की है जो अब इस तरह के हस्तांतरण को नियंत्रित करते हैं।

यह मामला इस अंतर को भी उजागर करता है कि एआई कंपनियों ने अपने प्रशिक्षण डेटा स्रोतों का दस्तावेजीकरण कैसे किया। चूँकि चेहरे की पहचान प्रणालियों को पूर्वाग्रह और सटीकता पर कानूनी चुनौतियों का सामना करना पड़ता है, इसलिए प्रशिक्षण डेटा की उत्पत्ति महत्वपूर्ण हो जाती है। डेटिंग ऐप फ़ोटो पर प्रशिक्षित मॉडल व्यापक आबादी का निष्पक्ष रूप से प्रतिनिधित्व नहीं कर सकते हैं, जो संभावित रूप से जनसांख्यिकीय विसंगतियों को जन्म दे सकता है जो सिस्टम प्रदर्शन को प्रभावित करते हैं।

जॉन टर्नस को एप्पल का ताज विरासत में मिला – और इसकी कठिनतम चुनौतियाँ

तस्वीरों को हटाने का क्लेरीफाई का निर्णय – उनका उपयोग बंद करने के बजाय – सुझाव देता है कि एफटीसी समझौते में सख्त सुधारात्मक आवश्यकताएं शामिल थीं। अधिकांश एआई कंपनियां मूल्यवान प्रशिक्षण डेटा को स्वेच्छा से शुद्ध नहीं करती हैं, जो लेबलिंग और क्यूरेशन में महत्वपूर्ण निवेश का प्रतिनिधित्व करता है। जबरन विलोपन इस बात के लिए एक मिसाल कायम करता है कि नियामक अन्य संदिग्ध एआई प्रशिक्षण डेटासेट को कैसे संभाल सकते हैं।

डेटिंग ऐप कनेक्शन इस मामले को विशेष रूप से संवेदनशील बनाता है। उपयोगकर्ता सामान्य सोशल मीडिया द्वारा प्रदान की जाने वाली गोपनीयता सुरक्षा से परे गोपनीयता सुरक्षा की अपेक्षा करते हुए, कमजोर संदर्भों में डेटिंग प्लेटफ़ॉर्म पर तस्वीरें साझा करते हैं। यह खोज कि उन छवियों ने वर्षों तक वाणिज्यिक एआई सिस्टम को प्रशिक्षित किया है, संभवतः मजबूत डेटा उपयोग प्रतिबंधों और स्पष्ट सहमति तंत्र की मांग को बढ़ावा देगी।

जैसे-जैसे एआई कंपनियां बड़े मॉडल बनाने के लिए संघर्ष कर रही हैं, जिसके लिए अधिक से अधिक प्रशिक्षण डेटा की आवश्यकता होती है, क्लेरिफाई समझौता डेटा अधिग्रहण में कटौती के बारे में एक चेतावनी के रूप में कार्य करता है। अनुचित तरीके से प्राप्त प्रशिक्षण डेटा की विनियामक लागत अब स्पष्ट रूप से किसी भी अल्पकालिक लाभ से अधिक है, विशेष रूप से बढ़ी हुई जांच का सामना करने वाले बायोमेट्रिक सिस्टम के लिए।

क्लेरिफाई-ओकेक्यूपिड फोटो विलोपन एआई प्रशिक्षण डेटा जवाबदेही के लिए एक महत्वपूर्ण मोड़ है। डेटिंग ऐप्स को अब पिछली डेटा शेयरिंग व्यवस्था का ऑडिट करने के दबाव का सामना करना पड़ रहा है, जबकि एआई कंपनियों को संदिग्ध प्रशिक्षण डेटासेट की देनदारी पर विचार करना होगा। उन 3 मिलियन OkCupid उपयोगकर्ताओं के लिए, जिनके चेहरों ने उनकी जानकारी के बिना वाणिज्यिक चेहरे की पहचान प्रणाली को प्रशिक्षित किया है, विलोपन थोड़ा आराम प्रदान करता है – मॉडल पहले से ही प्रशिक्षित, तैनात हैं, और उद्योगों में निर्णयों को प्रभावित कर रहे हैं। असली सवाल यह है कि ऐसी कितनी व्यवस्थाएं अभी भी छाया में चल रही हैं, जो उन्हें प्रकाश में लाने के लिए नियामक जांच की प्रतीक्षा कर रही हैं।