OpenAI और एंथ्रोपिक ने चरमपंथ विरोधी नया चैटबॉट टूल विकसित करने की योजना बनाई

न्यूजीलैंड में स्थित स्टार्टअप ThroughLine जो ओपनएआई और एंथ्रोपिक के लिए संकट प्रबंधन ठेकेदार है, एक नया चैटबॉट टूल विकसित कर रहा है। यह टूल चैटजीपीटी पर हिंसक चरमपंथी रुझान दिखाने वाले उपयोगकर्ताओं को मानवीय और चैटबॉट आधारित डीरैडिकलाइजेशन समर्थन की ओर मार्गदर्शित करेगा। इस पहल का उद्देश्य एआई कंपनियों पर बढ़ते मुकदमों और सुरक्षा चिंताओं के बीच हिंसा को रोकने की दिशा में कदम उठाना है।

इस परियोजना में द क्राइस्टचर्च कॉल के साथ बातचीत की जा रही है, जो 2019 में न्यूजीलैंड में हुए सबसे भयानक आतंकवादी हमले के बाद ऑनलाइन घृणा और चरमवाद को रोकने के लिए बनाई गई थी। ThroughLine का उद्देश्य इस समूह के मार्गदर्शन में एक इंटरवेंशन चैटबॉट विकसित करना है।

ThroughLine के संस्थापक और पूर्व युवा कार्यकर्ता एल्याट टेलर के अनुसार, उनकी कंपनी पहले से ही आत्म-हानि, घरेलू हिंसा और खाने के विकार के जोखिम वाले उपयोगकर्ताओं को सहायता नेटवर्क से जोड़ती है। अब यह नेटवर्क चरमपंथ रोकने के लिए विस्तृत किया जाएगा। टेलर ने कहा कि यह टूल एक हाइब्रिड मॉडल होगा, जिसमें चैटबॉट उपयोगकर्ता के चरमपंथ संकेतों का जवाब देगा और वास्तविक मानसिक स्वास्थ्य सेवाओं से जोड़ने का काम करेगा। उन्होंने यह भी कहा कि इस परियोजना में किसी भी बेस एलएलएम के प्रशिक्षण डेटा का इस्तेमाल नहीं किया जा रहा है।

और पढ़ें: AI नैरेटिव को मजबूत करने के लिए OpenAI ने टेक शो TBPN खरीदा

गैलेन लैम्फ़ेयर-इंग्लंड, जो द क्राइस्टचर्च कॉल के लिए आतंकवाद विरोधी सलाहकार हैं, ने कहा कि यह उत्पाद गेमिंग फोरम मॉडरेटरों और अभिभावकों के लिए ऑनलाइन चरमपंथ को पहचानने में मदद करेगा। हेनरी फ्रेज़र, क्विंसलैंड विश्वविद्यालय के एआई शोधकर्ता, ने कहा कि चैटबॉट री-राउटिंग टूल एक जरूरी विचार है क्योंकि समस्या केवल सामग्री में नहीं, बल्कि रिश्तों और संवाद में भी है।

टेलर ने यह भी बताया कि संकट में लोग ऑनलाइन उन बातों को साझा करते हैं जो वे किसी व्यक्ति से बोलने में शर्माते हैं, और प्लेटफॉर्म को बंद करने का दबाव कभी-कभी खतरे को बढ़ा सकता है।

और पढ़ें: एंथ्रोपिक ने पेंटागन विवाद में अदालत में लड़ाई की क़समें खाई