एंथ्रोपिक शोधकर्ता के इस्तीफे की चेतावनी, एआई की दौड़ पर उठे गंभीर सवाल

कृत्रिम बुद्धिमत्ता की दुनिया में एआई मॉडल बनाने वाली कंपनियों की तेज प्रतिस्पर्धा के बीच सुरक्षा को लेकर नई चिंता सामने आई है। एंथ्रोपिक के 27 वर्षीय शोधकर्ता जैकब कॉक्सन ने कंपनी से इस्तीफा देकर एक चेतावनी जारी की है। उन्होंने दावा किया कि एआई क्षेत्र की प्रमुख कंपनियां जिम्मेदारी से काम नहीं कर रहीं और आत्म-सुधार करने वाली अत्यधिक शक्तिशाली प्रणालियों की ओर तेजी से बढ़ रही हैं।

कॉक्सन ने कहा कि उन्होंने पहले ओपनएआई और फिर एंथ्रोपिक में करीब तीन साल तक एआई मॉडल के प्रशिक्षण पर काम किया। एंथ्रोपिक से जुड़ने का उनका मानना था कि यह कंपनी सुरक्षा को लेकर अधिक सतर्क है, लेकिन बाद में उन्हें लगा कि सावधानी और वास्तविक सुरक्षा एक जैसी चीजें नहीं हैं।

उनके मुताबिक, एंथ्रोपिक के कई कर्मचारी एआई के संभावित खतरों को समझते हैं, लेकिन प्रतिस्पर्धा की दौड़ उन्हें पीछे हटने नहीं देती। उन्हें डर है कि यदि एक कंपनी धीमी हुई तो कोई दूसरी कम जिम्मेदार कंपनी आगे निकल सकती है। इसी सोच के कारण सुरक्षा संबंधी चिंताओं के बावजूद विकास की गति बनी हुई है।

और पढ़ें: एंथ्रोपिक रिसर्चर जैकब कॉक्सन का इस्तीफा, सुपरइंटेलिजेंट एआई के खतरों पर जताई गंभीर चिंता

एआई के खतरे को लेकर पहले भी कई प्रमुख विशेषज्ञ चेतावनी दे चुके हैं। गूगल से अलग हुए एआई विशेषज्ञ ज्योफ्री हिंटन ने भी कहा था कि यदि उन्होंने यह तकनीक नहीं बनाई होती, तो कोई और इसे विकसित कर देता। कॉक्सन के अनुसार, यही सोच अब पूरी इंडस्ट्री की रणनीति बनती जा रही है।

कॉक्सन ने अत्यधिक शक्तिशाली और आत्म-सुधार करने वाली प्रणालियों के संभावित नियंत्रण से बाहर होने की आशंका जताई है। उन्होंने एआई कंपनियों के बीच समन्वय, अनिवार्य सुरक्षा परीक्षण और नई क्षमताओं पर अस्थायी रोक जैसे कदमों की वकालत की है।

भारत में भी एआई से जुड़े नियमों को आगे बढ़ाया गया है, लेकिन कॉक्सन की चिंता मॉडल की मूल क्षमता और सुरक्षा से जुड़ी है। ऐसे में विशेषज्ञों के मुताबिक भारत को एआई सामग्री के साथ-साथ अत्याधुनिक मॉडलों की स्वतंत्र सुरक्षा जांच पर भी ध्यान देना चाहिए।

और पढ़ें: एंथ्रोपिक क्लॉड की एआई सामग्री पर वॉटरमार्किंग: क्या अब एआई से लिखे पाठ की पहचान आसान होगी?