यौनिक डीपफेक को लेकर एलन मस्क के ग्रोक एआई पर वैश्विक नाराज़गी, यूके-ईयू-भारत समेत कई देशों की सख्ती

एलन मस्क के एआई चैटबॉट ग्रोक पर महिलाओं और बच्चों की बिना सहमति यौनिक छवियां और डीपफेक तैयार करने के आरोपों के बाद दुनिया भर की सरकारों ने कड़ी प्रतिक्रिया दी है। ब्रिटेन, यूरोपीय संघ, भारत और मलेशिया सहित कई देशों के नियामकों ने सोशल मीडिया प्लेटफॉर्म X और उसकी एआई कंपनी xAI से तत्काल कार्रवाई की मांग की है।

मंगलवार को ब्रिटेन की शीर्ष तकनीकी मंत्री ने X से तुरंत कदम उठाने को कहा, जबकि पोलैंड में एक सांसद ने इसे डिजिटल सुरक्षा कानून लाने का आधार बताया। यूरोपीय आयोग ने ग्रोक की कड़ी निंदा की है और फ्रांस, भारत, मलेशिया व ब्राज़ील में जांच की मांग तेज हुई है। विशेषज्ञों का कहना है कि एआई-आधारित “न्यूडिफिकेशन” ऐप्स की क्षमता गंभीर खतरे पैदा कर रही है।

समस्या तब बढ़ी जब पिछले साल लॉन्च हुए Grok Imagine इमेज जेनरेटर में “स्पाइसी मोड” के जरिए वयस्क कंटेंट बनना शुरू हुआ। हाल के हफ्तों में ग्रोक द्वारा दूसरों की तस्वीरों में छेड़छाड़ के अनुरोधों को बड़ी संख्या में स्वीकार किया गया, जिससे सार्वजनिक रूप से फैलने वाली आपत्तिजनक छवियां बनीं।

और पढ़ें: वेनेज़ुएला की नई नेता डेल्सी रोड्रिगेज का दावा: देश पर किसी विदेशी ताकत का शासन नहीं

गैर-लाभकारी संस्था AI Forensics की रिपोर्ट के अनुसार, 25 दिसंबर से 1 जनवरी के बीच ग्रोक से बनी 20,000 छवियों में से करीब 2% में 18 वर्ष से कम आयु के दिखने वाले लोग पाए गए।

X ने अवैध कंटेंट, विशेषकर बाल यौन शोषण सामग्री, हटाने और अकाउंट निलंबित करने का दावा किया है, जबकि मस्क का कहना है कि अवैध कंटेंट बनाने वालों पर वही कार्रवाई होगी जो अपलोड करने वालों पर होती है।

यूके के नियामक Ofcom ने X और xAI से तत्काल संपर्क किया है। भारत सरकार ने X को गैरकानूनी कंटेंट हटाने, ग्रोक के तकनीकी-शासन ढांचे की समीक्षा करने और रिपोर्ट देने का अल्टीमेटम दिया है। मलेशिया और ब्राज़ील में भी जांच जारी है।

और पढ़ें: ग्रोक से अश्लील एआई कंटेंट मामला: सरकार ने X को 7 जनवरी तक रिपोर्ट सौंपने की मोहलत दी