सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) पर मौजूद एआई चैटबॉट Grok के दुरुपयोग का एक गंभीर मामला सामने आया है। आरोप है कि Grok का इस्तेमाल कुछ यूज़र्स द्वारा वास्तविक जीवन की महिलाओं, जिनमें बॉलीवुड अभिनेत्रियां और महिला सोशल मीडिया यूज़र्स शामिल हैं, की तस्वीरों में डिजिटल रूप से छेड़छाड़ करने के लिए किया गया। इन बदली हुई तस्वीरों को Grok के सार्वजनिक प्रोफाइल के ज़रिए देखा जा सकता था।
रिपोर्ट के मुताबिक, 30 दिसंबर को X पर एक फिल्म पत्रकारिता आउटलेट ने दो बॉलीवुड अभिनेत्रियों की तस्वीर साझा की थी। इसके बाद कई यूज़र्स ने Grok को निर्देश दिए कि वह तस्वीरों में अभिनेत्रियों के कपड़े बदल दे, उन्हें बिकिनी में दिखाए, कपड़ों को पारदर्शी बनाए या अन्य आपत्तिजनक बदलाव करे। बताया गया कि Grok ने कई ऐसे निर्देशों का पालन किया, जिससे गंभीर निजता और सुरक्षा से जुड़े सवाल खड़े हो गए।
सिर्फ फिल्मी हस्तियां ही नहीं, बल्कि आम महिला सोशल मीडिया यूज़र्स की तस्वीरों के साथ भी ऐसा ही किया गया। इन एआई-जनित तस्वीरों का सार्वजनिक रूप से उपलब्ध होना महिलाओं की गरिमा, सहमति और डिजिटल सुरक्षा को लेकर चिंता बढ़ाता है। विशेषज्ञों का कहना है कि यह मामला एआई तकनीक के अनियंत्रित उपयोग और प्लेटफॉर्म की जिम्मेदारी पर बड़ा सवाल खड़ा करता है।
और पढ़ें: मानव-जैसी बातचीत वाले एआई को नियंत्रित करने के लिए चीन ने जारी किए मसौदा नियम
तकनीकी और कानूनी जानकारों के अनुसार, इस तरह की एआई गतिविधियां साइबर उत्पीड़न और डिजिटल हिंसा की श्रेणी में आ सकती हैं। महिलाओं की तस्वीरों में बिना अनुमति बदलाव करना न केवल नैतिक रूप से गलत है, बल्कि कई देशों में कानून का उल्लंघन भी हो सकता है।
यह घटना ऐसे समय सामने आई है जब दुनिया भर में एआई के सुरक्षित और जिम्मेदार उपयोग पर बहस तेज हो रही है। सोशल मीडिया कंपनियों से मांग की जा रही है कि वे एआई टूल्स पर सख्त नियंत्रण लगाएं और यूज़र्स की निजता की रक्षा सुनिश्चित करें, ताकि तकनीक का दुरुपयोग रोका जा सके।
और पढ़ें: अमेरिकी वर्जिन आइलैंड्स ने मेटा पर ठगी के विज्ञापन और बच्चों की सुरक्षा में लापरवाही को लेकर किया मुकदमा