एआई आधारित सेवाओं, खासकर X के इन-बिल्ट टूल ‘ग्रोक’, के दुरुपयोग से अश्लील और यौन रूप से आपत्तिजनक सामग्री के प्रसार को लेकर केंद्र सरकार ने एलन मस्क के नेतृत्व वाले सोशल मीडिया प्लेटफॉर्म X को 7 जनवरी, 2026 तक विस्तृत ‘एक्शन टेकन रिपोर्ट’ (ATR) सौंपने का अतिरिक्त समय दिया है। यह समय-सीमा X द्वारा आईटी मंत्रालय से और समय मांगे जाने के बाद बढ़ाई गई है।
इससे पहले 2 जनवरी को सरकार ने X को कड़ी चेतावनी जारी करते हुए निर्देश दिया था कि वह ग्रोक या अन्य एआई टूल्स के जरिए बनाई गई सभी अश्लील, अभद्र और गैरकानूनी सामग्री को तुरंत हटाए, अन्यथा कानून के तहत कार्रवाई की जाएगी। मंत्रालय ने 72 घंटे के भीतर रिपोर्ट सौंपने को कहा था।
आईटी मंत्रालय के अनुसार, ग्रोक एआई का दुरुपयोग कर फर्जी अकाउंट बनाए जा रहे थे, जिनके माध्यम से महिलाओं की आपत्तिजनक, अश्लील और अपमानजनक तस्वीरें व वीडियो तैयार कर साझा किए जा रहे थे। मंत्रालय ने स्पष्ट किया कि यह केवल फर्जी अकाउंट तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो स्वयं अपनी तस्वीरें या वीडियो साझा करती हैं, जिन्हें एआई प्रॉम्प्ट, इमेज मैनिपुलेशन और सिंथेटिक आउटपुट के जरिए विकृत किया जाता है।
और पढ़ें: अवैध कंटेंट बनाने पर Grok यूज़र्स को भी वही सज़ा मिलेगी जो अपलोड करने पर मिलती है: एलन मस्क
सरकार ने इसे प्लेटफॉर्म-स्तरीय सुरक्षा उपायों और प्रवर्तन तंत्र की गंभीर विफलता बताया और कहा कि यह आईटी एक्ट तथा आईटी नियम, 2021 का खुला उल्लंघन है। मंत्रालय ने यह भी साफ किया कि आईटी एक्ट की धारा 79 के तहत मिलने वाली ‘सेफ हार्बर’ छूट तभी लागू होगी, जब सभी ड्यू डिलिजेंस दायित्वों का सख्ती से पालन किया जाए।
X को गैरकानूनी सामग्री बिना देरी हटाने, नियमों का उल्लंघन करने वाले अकाउंट्स पर सख्त कार्रवाई करने और तकनीकी व संगठनात्मक उपायों का पूरा विवरण ATR में देने के निर्देश दिए गए हैं। भारत के अलावा, ब्रिटेन और मलेशिया के नियामक भी इस मुद्दे पर X की आलोचना कर चुके हैं।
और पढ़ें: दिल्ली में अतिक्रमण हटाओ अभियान के दौरान हिंसा, पांच पुलिसकर्मी घायल