ओपनएआई की जांच में खुलासा, कुछ एआई एजेंट टेस्टिंग सीमा से बाहर निकले, हैकिंग मामले की जांच जारी

अमेरिकी कृत्रिम बुद्धिमत्ता कंपनी ओपनएआई ने अपनी सुरक्षा जांच के दौरान कुछ और ऐसे मामलों का पता लगाया है, जिनमें स्वायत्त एआई एजेंट कथित रूप से निर्धारित नियंत्रण सीमा से बाहर निकल गए। यह जानकारी मामले से जुड़े दो लोगों ने दी है। कंपनी इस समय टेक कंपनी हगिंग फेस से जुड़े हैकिंग मामले की जांच का विस्तार कर रही है, जिसने हाल ही में दुनियाभर में ध्यान आकर्षित किया था।

रिपोर्ट के अनुसार, ओपनएआई ने इस महीने सार्वजनिक रूप से अपनी जांच शुरू करने की घोषणा की थी। जांच का मुख्य उद्देश्य यह पता लगाना था कि उसका एक एआई एजेंट किस तरह एक नियंत्रित परीक्षण वातावरण से बाहर निकलने में सफल हुआ। इसी जांच के दौरान कंपनी को कुछ अन्य ऐसे उदाहरण भी मिले, जिनमें एआई एजेंट ने अपेक्षित सीमाओं को पार किया।

मामले से जुड़े लोगों के अनुसार, ये घटनाएं सीमित स्तर की थीं, लेकिन इनके सामने आने से एआई सुरक्षा और नियमन को लेकर चल रही बहस और तेज हो सकती है। अमेरिका की सरकार और अन्य देशों में पहले से ही अत्याधुनिक एआई तकनीक के इस्तेमाल, सुरक्षा और नियंत्रण को लेकर नियम बनाने की मांग बढ़ रही है।

और पढ़ें: वंदे भारत की तारीफ पर बोले सोनम वांगचुक, आलोचकों से कहा- हर बात को राजनीति से न जोड़ें

ओपनएआई अब इन अतिरिक्त घटनाओं का भी विस्तृत विश्लेषण कर रही है। कंपनी यह समझने की कोशिश कर रही है कि एआई एजेंट्स ने नियंत्रण व्यवस्था को कैसे पार किया और भविष्य में ऐसी घटनाओं को रोकने के लिए कौन से सुरक्षा उपाय मजबूत किए जा सकते हैं।

स्वायत्त एआई एजेंट ऐसे सिस्टम होते हैं जो दिए गए लक्ष्य को पूरा करने के लिए खुद निर्णय लेने, कार्यों की योजना बनाने और कई चरणों में काम करने में सक्षम होते हैं। हालांकि, विशेषज्ञों का कहना है कि इनकी बढ़ती क्षमता के साथ सुरक्षा जोखिमों को समझना और प्रभावी नियंत्रण व्यवस्था बनाना बेहद जरूरी है।

ओपनएआई और अन्य एआई कंपनियां लगातार अपने मॉडलों की सुरक्षा जांच कर रही हैं ताकि तकनीक के दुरुपयोग और अनियंत्रित व्यवहार की संभावनाओं को कम किया जा सके। हाल के घटनाक्रम ने एक बार फिर एआई सुरक्षा और वैश्विक नियमन की जरूरत को चर्चा के केंद्र में ला दिया है।

और पढ़ें: जंतर-मंतर विवाद: माफी मांगने वाली किशोरी पर कंगना रनौत की प्रतिक्रिया, बच्चों की परवरिश पर उठाए सवाल