वैश्विक विरोध के बाद मस्क का ग्रोक एआई अश्लील छवियां बनाने से रोका गया

दुनियाभर में भारी आलोचना और विरोध के बाद एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म X ने अपने एआई चैटबॉट ग्रोक (Grok) को वास्तविक लोगों की कपड़े उतारने जैसी अश्लील छवियां बनाने से रोकने के लिए कड़े कदम उठाने की घोषणा की है। यह फैसला तब लिया गया जब ग्रोक द्वारा महिलाओं और बच्चों की यौन रूप से आपत्तिजनक तस्वीरें तैयार किए जाने को लेकर कई देशों में जांच शुरू हुई और कुछ जगहों पर इस चैटबॉट पर प्रतिबंध लगा दिया गया।

X ने बुधवार (14 जनवरी 2026) को कहा कि वह उन क्षेत्रों में ग्रोक और X उपयोगकर्ताओं की ऐसी छवियां बनाने की क्षमता को “जियोब्लॉक” करेगा, जहां यह कानूनन अवैध है। इसमें “बिकिनी, अंडरवियर और इसी तरह के कपड़ों” में लोगों की तस्वीरें बनाना या संपादित करना शामिल है। X की सेफ्टी टीम ने स्पष्ट किया कि यह प्रतिबंध सभी उपयोगकर्ताओं पर लागू होगा, चाहे वे पेड सब्सक्राइबर ही क्यों न हों।

इसके अलावा, अतिरिक्त सुरक्षा के तौर पर ग्रोक के जरिए इमेज बनाने और फोटो एडिट करने की सुविधा अब केवल भुगतान करने वाले उपयोगकर्ताओं तक सीमित कर दी गई है। यूरोपीय आयोग, जो यूरोपीय संघ का डिजिटल निगरानीकर्ता है, ने कहा कि वह X द्वारा उठाए गए इन अतिरिक्त कदमों का सावधानीपूर्वक मूल्यांकन करेगा ताकि यह सुनिश्चित किया जा सके कि यूरोपीय नागरिकों की प्रभावी सुरक्षा हो सके।

और पढ़ें: वैश्विक विवाद के बीच अमेरिकी पेंटागन में शामिल होगा एलन मस्क का ग्रोक AI चैटबॉट

ग्रोक के “स्पाइसी मोड” फीचर को लेकर विवाद तब बढ़ा जब इससे साधारण टेक्स्ट कमांड के जरिए महिलाओं और बच्चों की यौन रूप से आपत्तिजनक डीपफेक तस्वीरें बनाई जा सकती थीं। कैलिफोर्निया के अटॉर्नी जनरल रॉब बॉन्टा ने इसे “चौंकाने वाला” बताया और xAI के खिलाफ जांच शुरू की। कई देशों ने भी कार्रवाई की—इंडोनेशिया ने ग्रोक पर पूर्ण प्रतिबंध लगाया, जबकि भारत ने हजारों पोस्ट और सैकड़ों अकाउंट हटवाए। फ्रांस और ब्रिटेन में भी जांच जारी है।

एक रिपोर्ट के अनुसार, ग्रोक से बनी 20,000 से अधिक छवियों में से आधी से ज्यादा बेहद आपत्तिजनक थीं, जिनमें कुछ नाबालिग भी शामिल थे।

और पढ़ें: अवैध कंटेंट बनाने पर Grok यूज़र्स को भी वही सज़ा मिलेगी जो अपलोड करने पर मिलती है: एलन मस्क