ग्रोक विवाद: सोशल मीडिया प्लेटफॉर्म X ने मानी गलती, भारतीय कानूनों के पालन का दिया भरोसा

सोशल मीडिया प्लेटफॉर्म X ने अपने एआई टूल ‘ग्रोक’ को लेकर उठे विवाद के बीच सामग्री नियंत्रण में चूक स्वीकार करते हुए अपनी गलती मान ली है। सरकारी सूत्रों के अनुसार, कंपनी ने भारत सरकार को आश्वासन दिया है कि वह देश के सभी कानूनों और नियमों का पूरी तरह पालन करेगी। यह स्वीकारोक्ति अश्लील और यौन रूप से आपत्तिजनक सामग्री के प्रसार को लेकर सामने आई गंभीर चिंताओं के बाद हुई है।

मामला तब उजागर हुआ जब यह सामने आया कि प्लेटफॉर्म X पर अश्लील और यौन रूप से स्पष्ट सामग्री साझा की जा रही है, जिनमें से कुछ सामग्री कथित तौर पर एआई टूल ग्रोक के जरिए बनाई गई या उसके माध्यम से बढ़ावा दिया गया। इस पर कार्रवाई करते हुए X ने लगभग 3,500 आपत्तिजनक कंटेंट को ब्लॉक किया है और 600 से अधिक खातों को हटाया है। कंपनी ने यह भी स्पष्ट किया है कि भविष्य में किसी भी प्रकार की अश्लील छवियों को प्लेटफॉर्म पर अनुमति नहीं दी जाएगी।

इससे पहले 7 जनवरी को केंद्र सरकार ने X से इस मामले में विस्तृत जानकारी मांगी थी, जिसमें ग्रोक एआई से जुड़ी अश्लील सामग्री पर की गई कार्रवाई और भविष्य में ऐसी घटनाओं को रोकने के उपाय शामिल थे। हालांकि कंपनी द्वारा दी गई प्रतिक्रिया को सरकार ने विस्तृत तो माना, लेकिन अपर्याप्त बताया। सूत्रों के अनुसार, जवाब में कई महत्वपूर्ण जानकारियों का अभाव था, विशेष रूप से यह स्पष्ट नहीं किया गया कि ग्रोक एआई के दुरुपयोग को रोकने के लिए तकनीकी स्तर पर क्या ठोस कदम उठाए गए हैं।

और पढ़ें: पति की हत्या की गवाह दिल्ली की 44 वर्षीय महिला की गोली मारकर हत्या, 2023 के केस से जुड़ाव की आशंका

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एलन मस्क के नेतृत्व वाले इस प्लेटफॉर्म को कड़ी फटकार लगाते हुए सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 के तहत अनिवार्य ‘ड्यू डिलिजेंस’ दायित्वों का पालन न करने का आरोप लगाया है। मंत्रालय ने X को 72 घंटे के भीतर एक ‘एक्शन टेकन रिपोर्ट’ सौंपने का निर्देश दिया है।

मंत्रालय ने विशेष चिंता जताई कि ग्रोक एआई का इस्तेमाल महिलाओं के खिलाफ अपमानजनक और गैर-सहमति वाले यौन कंटेंट के निर्माण में किया जा रहा है, जो निजता और गरिमा के गंभीर उल्लंघन की ओर इशारा करता है। सरकार ने X को ग्रोक की तकनीकी सुरक्षा और गवर्नेंस प्रणाली की तत्काल समीक्षा करने और नियमों का उल्लंघन करने वाले खातों पर सख्त कार्रवाई सुनिश्चित करने का निर्देश दिया है।

और पढ़ें: यौन उत्पीड़न मामले में निष्कासित कांग्रेस विधायक राहुल ममकूटाथिल पलक्कड़ के होटल से गिरफ्तार