अश्लील सामग्री विवाद के बाद मलेशिया और इंडोनेशिया ने एलन मस्क के ग्रोक एआई पर लगाई रोक

एलन मस्क के स्वामित्व वाले एआई चैटबॉट ग्रोक (Grok) को लेकर उठे अश्लील सामग्री विवाद के बाद मलेशिया और इंडोनेशिया ने इसके उपयोग पर सख्त कदम उठाए हैं। मलेशिया के प्रौद्योगिकी नियामक ने रविवार को घोषणा की कि एआई द्वारा जनरेट की गई अश्लील और आपत्तिजनक सामग्री के चलते ग्रोक की पहुंच अस्थायी रूप से निलंबित कर दी गई है।

यह फैसला उस वैश्विक प्रतिक्रिया के बाद लिया गया है, जिसमें सामने आया कि ग्रोक के इमेज जनरेशन फीचर के जरिए साधारण टेक्स्ट कमांड देकर महिलाओं और बच्चों की तस्वीरों को यौन रूप में प्रस्तुत किया जा सकता है। नियामक के अनुसार, ग्रोक का बार-बार दुरुपयोग कर अश्लील, यौन रूप से स्पष्ट, अभद्र, बेहद आपत्तिजनक और बिना सहमति के बदली गई तस्वीरें बनाई जा रही थीं।

शनिवार को इंडोनेशिया ऐसा करने वाला पहला देश बना जिसने ग्रोक एआई तक पूरी तरह से पहुंच रोक दी। अन्य देशों में यह टूल फिलहाल केवल भुगतान करने वाले सब्सक्राइबर्स तक सीमित है। मलेशिया की राजधानी कुआलालंपुर में एक समाचार एजेंसी के रिपोर्टर ने रविवार को जब ग्रोक पर सवाल डाले, तो सिस्टम की ओर से कोई प्रतिक्रिया नहीं मिली।

और पढ़ें: पवार बनाम पवार या पवार+पवार? एनसीपी विलय पर अजित पवार और सुप्रिया सुले के संकेत

मलेशियाई नियामक ने अपने बयान में कहा कि महिलाओं और नाबालिगों से जुड़ी सामग्री सामने आने के बावजूद, पहले जारी की गई चेतावनियों और औपचारिक नोटिसों के बाद भी एलन मस्क की कंपनी एक्स कॉर्प और ग्रोक विकसित करने वाली xAI ने पर्याप्त कदम नहीं उठाए। ग्रोक को सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर) में एकीकृत किया गया है।

नियामक संस्था का कहना है कि प्लेटफॉर्म के सुरक्षा उपाय नाकाफी हैं और यह अत्यधिक रूप से उपयोगकर्ताओं द्वारा रिपोर्ट किए जाने की प्रणाली पर निर्भर है। जब तक आवश्यक बदलावों की पुष्टि नहीं हो जाती, तब तक ग्रोक की सेवाएं बहाल नहीं की जाएंगी।

यूरोपीय अधिकारियों और तकनीकी अधिकार कार्यकर्ताओं ने भी हाल ही में ग्रोक की आलोचना की थी। उनका कहना है कि इमेज जनरेशन को केवल पेड यूजर्स तक सीमित करना यौन रूप से आपत्तिजनक डीपफेक जैसी समस्याओं का समाधान नहीं है।

और पढ़ें: करूर भगदड़ मामले में टीवीके प्रमुख विजय सीबीआई के सामने पेश