ग्रोक के जरिए आपत्तिजनक तस्वीरों पर बवाल, एक्स पर इमेज जेनरेशन पर लगी आंशिक रोक

एलन मस्क की आर्टिफिशियल इंटेलिजेंस स्टार्टअप xAI ने अपने एआई चैटबॉट ‘ग्रोक’ की इमेज जेनरेशन सुविधा पर कुछ पाबंदियां लगा दी हैं। यह कदम तब उठाया गया, जब सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर) पर ग्रोक द्वारा बनाई गई यौन रूप से आपत्तिजनक तस्वीरों को लेकर भारी विरोध शुरू हो गया।

बीते दिनों तक एक्स के यूजर्स ग्रोक से सीधे लोगों की तस्वीरों को एडिट करने के लिए कह सकते थे। इसमें कपड़े हटाना, लोगों को यौन मुद्रा में दिखाना और ऐसे दृश्य बनाना शामिल था, जो कई मामलों में संबंधित व्यक्ति की सहमति के बिना किए जा रहे थे। ग्रोक इन तस्वीरों को एक्स पर यूजर्स की पोस्ट या कमेंट के जवाब में सार्वजनिक रूप से प्रकाशित भी कर देता था।

शुक्रवार को ग्रोक ने एक्स के यूजर्स को सूचित किया कि अब इमेज जेनरेशन और एडिटिंग की सुविधा केवल भुगतान करने वाले सब्सक्राइबर्स के लिए ही उपलब्ध होगी। इस बदलाव के बाद ग्रोक द्वारा स्वतः ऐसी आपत्तिजनक तस्वीरें बनाकर पोस्ट करना रुक गया है।

और पढ़ें: ग्रोक से अश्लील एआई कंटेंट मामला: सरकार ने X को 7 जनवरी तक रिपोर्ट सौंपने की मोहलत दी

हालांकि, पूरी तरह से समस्या का समाधान अब भी नहीं हुआ है। एक्स के भीतर मौजूद ग्रोक टैब के जरिए यूजर्स अब भी चैटबॉट से सीधे बातचीत कर यौन रूप से आपत्तिजनक तस्वीरें बना सकते हैं और उन्हें खुद प्लेटफॉर्म पर पोस्ट कर सकते हैं। इसके अलावा, एक्स से अलग संचालित होने वाला स्टैंडअलोन ग्रोक ऐप बिना सब्सक्रिप्शन के भी इमेज जेनरेशन की अनुमति दे रहा है।

xAI ने मीडिया की ओर से भेजे गए सवालों का जवाब एक स्वचालित संदेश के जरिए दिया, जिसमें लिखा था, “Legacy Media Lies।” वहीं, एक्स की ओर से इस मामले पर तत्काल कोई प्रतिक्रिया नहीं दी गई।

एलन मस्क ने हाल ही में कहा था कि ग्रोक के जरिए अवैध कंटेंट बनाने वालों के खिलाफ वही कार्रवाई की जाएगी, जो सीधे ऐसे कंटेंट को अपलोड करने पर होती है। एक पत्रकार द्वारा किए गए परीक्षण में ग्रोक ने बिकिनी में तस्वीर बदलने से इनकार कर दिया और भुगतान सब्सक्रिप्शन की शर्त बताई।

यूरोपीय आयोग ने इन पाबंदियों को अपर्याप्त बताते हुए कहा कि महिलाओं और बच्चों की अशोभनीय तस्वीरें किसी भी स्थिति में स्वीकार्य नहीं हैं, चाहे यूजर भुगतान करता हो या नहीं। जर्मनी के मीडिया मंत्री ने इस प्रवृत्ति को “यौन उत्पीड़न का औद्योगिकीकरण” करार दिया है। कई देशों के नियामक इस मामले की जांच कर रहे हैं, जिससे एक्स और xAI पर दबाव बढ़ता जा रहा है।

और पढ़ें: अवैध कंटेंट बनाने पर Grok यूज़र्स को भी वही सज़ा मिलेगी जो अपलोड करने पर मिलती है: एलन मस्क