AI कंटेंट पर सरकार सख्त: सोशल मीडिया को डीपफेक लेबल करना और 3 घंटे में आपत्तिजनक पोस्ट हटाना होगा

भारत सरकार ने सोशल मीडिया पर बढ़ते एआई-जनित कंटेंट और डीपफेक के खतरे को देखते हुए नए नियम लागू किए हैं। अब सभी सोशल मीडिया प्लेटफॉर्म को एआई से बनाए या बदले गए कंटेंट को स्पष्ट रूप से लेबल करना अनिवार्य होगा। इसके अलावा, किसी भी आपत्तिजनक या गैरकानूनी पोस्ट को फ्लैग होने के 3 घंटे के भीतर हटाना भी जरूरी होगा।

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने सूचना प्रौद्योगिकी नियम 2021 में संशोधन के लिए नए ड्राफ्ट तैयार किए हैं। इन नियमों के तहत सोशल मीडिया कंपनियों को हर एआई-जनित फोटो, वीडियो और ऑडियो पर दिखाई देने वाला टैग और मेटाडेटा जोड़ना होगा ताकि यूजर्स आसानी से पहचान सकें कि कंटेंट असली है या नकली।

नए नियमों के अनुसार, तस्वीरों में एआई लेबल कम से कम 10 प्रतिशत हिस्से पर दिखाई देना चाहिए, जबकि वीडियो या ऑडियो में यह टैग क्लिप के शुरुआती 10 प्रतिशत हिस्से में दिखना अनिवार्य होगा। प्लेटफॉर्म यह सुनिश्चित करेंगे कि ये टैग हटाए या छिपाए न जा सकें।

और पढ़ें: एआई नागरिकों को सशक्त बनाए, उनकी जगह न ले: इंडिया एआई मिशन के सीईओ अभिषेक सिंह

इसके अलावा, सोशल मीडिया कंपनियों को ऐसे ऑटोमेटेड टूल्स का उपयोग करना होगा जो अवैध, भ्रामक या यौन शोषण से जुड़े एआई कंटेंट को वायरल होने से पहले ही रोक सकें। यूजर्स से यह भी पूछा जाएगा कि वे जो कंटेंट अपलोड कर रहे हैं, वह एआई से बना है या नहीं, और प्लेटफॉर्म इसकी जांच भी करेंगे। हर तीन महीने में यूजर्स को इन नियमों के उल्लंघन पर मिलने वाली सजा के बारे में चेतावनी देना भी अनिवार्य होगा।

यह बदलाव फेसबुक, इंस्टाग्राम, यूट्यूब और एक्स जैसे प्लेटफॉर्म के लिए बड़ा कदम माना जा रहा है। सरकार का मानना है कि डीपफेक लोकतांत्रिक प्रक्रिया को प्रभावित कर सकते हैं, इसलिए यह सख्त कदम उठाया गया है।

और पढ़ें: Moltbook: केवल AI के लिए बना सोशल नेटवर्क, उत्साह के साथ सुरक्षा चिंताएं भी बढ़ीं