किशोर की आत्महत्या से जुड़े मामलों में Google और Character.AI ने किया समझौता

Google और स्टार्टअप Character.AI ने उन मुकदमों को निपटाने पर सहमति जता दी है, जो परिवारों द्वारा दायर किए गए थे। इन मामलों में आरोप लगाया गया था कि आर्टिफिशियल इंटेलिजेंस आधारित चैटबॉट्स ने नाबालिगों को नुकसान पहुंचाया, जिसमें फ्लोरिडा के एक किशोर की आत्महत्या का मामला भी शामिल है। यह जानकारी बुधवार को अदालत में दायर दस्तावेजों से सामने आई।

कानूनी फाइलिंग के अनुसार, ये समझौते फ्लोरिडा, कोलोराडो, न्यूयॉर्क और टेक्सास में दायर मुकदमों को कवर करते हैं। हालांकि, इन्हें अभी अंतिम रूप दिया जाना है और अदालत की मंजूरी भी आवश्यक है। फ्लोरिडा में दायर एक दस्तावेज में कहा गया, “सभी पक्षों ने आपसी सहमति से मध्यस्थता के जरिए समझौते पर सहमति व्यक्त की है।” हालांकि, समझौते की शर्तों का खुलासा नहीं किया गया है।

इन मामलों में एक मामला उस मां द्वारा दायर किया गया था, जिनके 14 वर्षीय बेटे ने फरवरी 2024 में आत्महत्या कर ली थी। मुकदमे में आरोप लगाया गया कि बच्चा Character.AI पर मौजूद “गेम ऑफ थ्रोन्स” से प्रेरित एक चैटबॉट पर भावनात्मक रूप से निर्भर हो गया था। यह प्लेटफॉर्म उपयोगकर्ताओं को काल्पनिक पात्रों के साथ बातचीत की सुविधा देता है।

और पढ़ें: शिक्षकों को एआई अपनाने में मदद करेगी सरकार, ओपन स्कूलिंग ढांचा होगा आसान

किशोर की मौत को AI चैटबॉट्स से जुड़ी आत्महत्याओं की पहली रिपोर्टेड घटना माना गया, जिसके बाद OpenAI समेत कई आर्टिफिशियल इंटेलिजेंस कंपनियों पर बच्चों की सुरक्षा को लेकर गंभीर सवाल उठे।

Google का नाम इस मामले से इसलिए जुड़ा क्योंकि उसने 2024 में Character.AI के साथ 2.7 अरब डॉलर का लाइसेंसिंग समझौता किया था। इसी सौदे के तहत Character.AI के संस्थापक नोआम शाज़ीर और डैनियल डी फ्रीटास, जो पहले Google के कर्मचारी थे, दोबारा Google में शामिल हुए।

अक्टूबर में Character.AI ने घोषणा की थी कि वह 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए चैट सुविधा समाप्त करेगा।

और पढ़ें: गुजरात ने GIFT सिटी में भारतीय एआई अनुसंधान संगठन को दी सैद्धांतिक मंजूरी