AI टूल्स से महिलाओं की अश्लील डीपफेक फोटो-वीडियो बनाने का बड़ा नेटवर्क उजागर, चीन-हॉन्गकॉन्ग से हो रहा संचालन

एक पड़ताल में सामने आया है कि सोशल मीडिया से उठाई गई महिलाओं की सामान्य तस्वीरों को मुफ्त उपलब्ध एआई टूल्स की मदद से अश्लील डीपफेक में बदला जा रहा है। दिल्ली में रहने वाले एक युवक ने अहमदाबाद की एक महिला को फ्रेंड रिक्वेस्ट भेजी थी, जवाब न मिलने पर उसने महिला की फोटो डाउनलोड कर फ्री एआई टूल की मदद से उन्हें अश्लील तस्वीरों में तब्दील कर दिया और कई अकाउंट से वायरल कर दिया। यह कोई अकेला मामला नहीं है, बल्कि ऐसे सैकड़ों मामले सामने आ रहे हैं। हाल ही में यूनीसेफ, ईसीपीएटी इंटरनेशनल और इंटरपोल ने 11 देशों में किए गए सर्वे के आधार पर बताया था कि लाखों बच्चों ने पिछले एक साल में अपनी तस्वीरों से सेक्शुअल डीपफेक बनाए जाने की बात स्वीकार की है। जांच में पता चला कि टेलीग्राम इस तरह के अश्लील एआई कंटेंट तैयार करने का सबसे बड़ा ठिकाना बन चुका है। सामान्य की-वर्ड सर्च से ही ऐसे कई बॉट मिल गए, जो किसी भी फोटो या वीडियो को मुफ्त में अश्लील डीपफेक में बदलने का दावा करते हैं। कई ऐसी वेबसाइट और बॉट चिन्हित किए गए, जो खुलेआम ऐसी सेवाएं दे रहे हैं। साइबर सुरक्षा विशेषज्ञों की मदद से इन बॉट्स की तकनीकी बनावट समझने पर पता चला कि टेलीग्राम पर दिखने वाला बॉट केवल एक सामने का इंटरफेस होता है, जबकि असली काम किसी अलग सर्वर पर होता है। यूजर का संदेश टेलीग्राम की आधिकारिक बॉट एपीआई के जरिए पीछे के सर्वर तक पहुंचता है, जिससे यह पता लगाना मुश्किल हो जाता है कि बॉट वास्तव में कौन चला रहा है। जब इन चैनलों की जानकारी पुलिस से साझा की गई तो जांच में सामने आया कि ये एआई प्लेटफॉर्म चीन और हॉन्गकॉन्ग में तैयार किए गए हैं और वहीं से संचालित हो रहे हैं, हालांकि इन्हें कौन चला रहा है, यह अब तक स्पष्ट नहीं हो सका है। पीड़ितों की मदद करने वाली एक संस्था के अनुसार, एआई से बनाई गई अश्लील तस्वीरों का इस्तेमाल केवल ब्लैकमेलिंग तक सीमित नहीं है, बल्कि इन्हें बेचा भी जा रहा है। एक मामले में एक व्यक्ति महिलाओं की एआई जनरेटेड अश्लील तस्वीरें मामूली कीमत में बेच रहा था। संस्था के मुताबिक, उनके पास आने वाले करीब दस प्रतिशत मामले डीपफेक से जुड़े होते हैं और एक ही वीडियो या फोटो से जुड़े सैकड़ों लिंक हटवाने पड़ते हैं। विशेषज्ञों के मुताबिक यह पूरा नेटवर्क कई स्तरों पर काम करता है। कुछ लोग एआई मॉडल तैयार करते हैं, कुछ उन्हें वेबसाइट या बॉट के जरिए उपलब्ध कराते हैं, जबकि अन्य रेफरल के जरिए नए यूजर जोड़कर सब्सक्रिप्शन बेचते हैं। आखिर में कुछ लोग तैयार कंटेंट को सोशल मीडिया पर फैलाते या बेचते हैं। फोटो बनाने वाला व्यक्ति भारत में हो सकता है जबकि सर्वर किसी अन्य देश में, जिससे कार्रवाई करना और भी जटिल हो जाता है।

और पढ़ें: दिल्ली हाईकोर्ट का Meta को आदेश, महिला की पीएम मोदी के साथ मॉर्फ्ड तस्वीर 24 घंटे में हटाने को कहा