कैरेक्टर.एआई और गूगल ऐसे कई परिवारों के साथ समझौते पर पहुंचे हैं जिनके किशोरों ने बातचीत के बाद खुद को नुकसान पहुंचाया या आत्महत्या करके मर गए चरित्र.एआईनई अदालती फाइलिंग के अनुसार, चैटबॉट्स।
बस्तियों का विवरण अभी भी अज्ञात है। द पार्टीज़ एक संघीय अदालत को सूचित किया फ्लोरिडा में कि वे “सभी दावों को हल करने के लिए सैद्धांतिक रूप से मध्यस्थता समझौते” पर पहुंच गए थे और समझौते को अंतिम रूप देने के लिए मामले को रोकने के लिए कहा। कैरेक्टर.एआई के प्रवक्ता कैथरीन केली ने टिप्पणी करने से इनकार कर दिया। Google और कुछ पीड़ितों के परिवारों का प्रतिनिधित्व करने वाले सोशल मीडिया विक्टिम्स लॉ सेंटर के एक वकील ने टिप्पणी के अनुरोधों का तुरंत जवाब नहीं दिया।
निपटाए गए मामलों में मेगन गार्सिया द्वारा दायर एक हाई-प्रोफाइल मुकदमा शामिल है, जिन्होंने अक्टूबर 2024 की शिकायत में दावा किया था कि कैरेक्टर.एआई गेम ऑफ़ थ्रोन्स-थीम वाले चैटबॉट ने उनके 14 वर्षीय बेटे, सेवेल सेट्ज़र को बॉट पर “निर्भरता” विकसित करने के बाद आत्महत्या करने के लिए प्रोत्साहित किया। मुकदमे में कहा गया है कि Google को कैरेक्टर.एआई का “सह-निर्माता” माना जाना चाहिए क्योंकि इसने टूल में “वित्तीय संसाधनों, कर्मियों, बौद्धिक संपदा और एआई तकनीक का योगदान दिया है”, जिसे Google के पूर्व कर्मचारियों द्वारा स्थापित किया गया था जिन्हें कंपनी ने बाद में वापस काम पर रखा था।
उस मुकदमे के बाद, कैरेक्टर.एआई ने उपयोगकर्ताओं की सुरक्षा के लिए अपने चैटबॉट में बदलाव की घोषणा की, जिसमें 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए बड़े भाषा मॉडल (एलएलएम) को अलग करना, सख्त सामग्री प्रतिबंधों के साथ एक अनुभव बनाना और माता-पिता का नियंत्रण जोड़ना शामिल है। बाद में इसने नाबालिगों को ओपन-एंडेड कैरेक्टर चैट से पूरी तरह से प्रतिबंधित कर दिया।
कानूनी फाइलिंग के अनुसार, कंपनियां कोलोराडो, न्यूयॉर्क और टेक्सास में दायर मामलों में भी समझौते पर पहुंचीं। निपटानों को अभी भी अदालतों द्वारा अंतिम रूप देने और अनुमोदित करने की आवश्यकता होगी।
