ओपन-सोर्स एआई मॉडल अपराधियों के दुरुपयोग के लिए संवेदनशील, शोधकर्ताओं की चेतावनी

शोधकर्ताओं ने चेतावनी दी है कि ओपन-सोर्स आर्टिफिशियल इंटेलिजेंस (AI) मॉडल, विशेष रूप से बड़े भाषा मॉडल (LLMs), अपराधियों और हैकरों के दुरुपयोग के लिए बेहद संवेदनशील हो सकते हैं। साइबर सुरक्षा कंपनियों सेंटिनलवन (SentinelOne) और सेंसिस (Censys) द्वारा किए गए संयुक्त शोध के अनुसार, हैकर उन कंप्यूटरों को आसानी से अपने नियंत्रण में ले सकते हैं, जिन पर ओपन-सोर्स LLM चल रहे हैं, और उन्हें स्पैम, फिशिंग या दुष्प्रचार अभियानों के लिए इस्तेमाल कर सकते हैं।

293 दिनों तक चले इस अध्ययन में पाया गया कि कई ओपन-सोर्स LLM प्रमुख एआई प्लेटफॉर्म की सुरक्षा सीमाओं और गार्डरेल्स से बाहर काम कर रहे हैं। इससे साइबर अपराधियों को सुरक्षा प्रोटोकॉल को दरकिनार करने का मौका मिल जाता है। शोधकर्ताओं के अनुसार, इन मॉडलों का उपयोग हैकिंग, नफरत फैलाने वाले भाषण, हिंसक या आपत्तिजनक सामग्री, व्यक्तिगत डेटा की चोरी, धोखाधड़ी और यहां तक कि कुछ मामलों में बाल यौन शोषण से जुड़ी सामग्री तैयार करने के लिए भी किया जा सकता है।

शोध में यह भी सामने आया कि इंटरनेट पर उपलब्ध कई ओपन-सोर्स LLM, मेटा के ‘लामा’, गूगल डीपमाइंड के ‘जेम्मा’ जैसे मॉडलों पर आधारित हैं। हालांकि कुछ मॉडलों में सुरक्षा गार्डरेल्स मौजूद हैं, लेकिन सैकड़ों मामलों में इन्हें जानबूझकर हटा दिया गया है।

और पढ़ें: विधानसभा चुनाव से पहले बड़ा फेरबदल, पीयूष पांडे बने पश्चिम बंगाल के कार्यवाहक डीजीपी

सेंटिनलवन के सुरक्षा शोध निदेशक जुआन एंड्रेस गुएरेरो-सादे ने कहा कि एआई उद्योग इस “अदृश्य हिमखंड” को नजरअंदाज कर रहा है, जहां बड़ी मात्रा में ओपन-सोर्स क्षमता का उपयोग आपराधिक गतिविधियों के लिए हो रहा है।

अध्ययन में यह भी पाया गया कि लगभग 30% ओपन-सोर्स LLM होस्ट चीन में और करीब 20% अमेरिका में संचालित हो रहे हैं। विशेषज्ञों का कहना है कि ओपन-सोर्स मॉडल जारी होने के बाद उनकी जिम्मेदारी पूरे एआई इकोसिस्टम की साझा हो जाती है और जोखिमों को कम करने के लिए सामूहिक प्रयास जरूरी हैं।

और पढ़ें: ओपनएआई में एनवीडिया के 100 अरब डॉलर निवेश की योजना अटकी: रिपोर्ट