मानवाधिकार अभियान समूह ग्लोबल विज़नेस की एक नई रिपोर्ट के अनुसार, टिक टॉक का एल्गोरिदम बच्चों के खातों को अश्लील और अत्यधिक यौन सामग्री देखने का सुझाव दे रहा है। शोधकर्ताओं ने नकली बच्चों के खाते बनाए और सुरक्षा सेटिंग्स चालू की, लेकिन फिर भी उन्हें यौन रूप से स्पष्ट खोज सुझाव मिले। इन सुझावों के जरिए बच्चियों और बच्चों तक सेक्स और यौन गतिविधियों से संबंधित वीडियो पहुँच रहे थे।
शोध के दौरान, चार खाते 13 साल के बच्चों के रूप में बनाए गए। झूठी जन्मतिथि दर्ज करने पर भी पहचान सत्यापन नहीं मांगा गया। “रिस्ट्रिक्टेड मोड” चालू करने के बावजूद, ऐप ने स्वतः ही “आपको पसंद आ सकता है” खंड में यौन सामग्री के सुझाव दिखाए। इनमें महिलाओं द्वारा हस्तमैथुन का नाटक करना, सार्वजनिक स्थानों पर अंडरवियर दिखाना और नग्नता दिखाने वाले वीडियो शामिल थे।
ग्लोबल विज़नेस की एवा ली ने कहा कि यह खोज शोधकर्ताओं के लिए “भारी झटका” थी। टिक टॉक ने दावा किया कि उसने तत्काल कार्रवाई की और अपनी नीतियों का उल्लंघन करने वाली सामग्री हटा दी। इसके अलावा ऐप ने दावा किया कि वह 50 से अधिक सुरक्षा फीचर इस्तेमाल करता है और नौ में से दस वीडियो, जो नियमों का उल्लंघन करते हैं, पहले ही हटा दिए जाते हैं।
और पढ़ें: एप्पल ने ICE अधिकारी ट्रैकिंग ऐप्स को स्टोर से हटाया
चाइल्ड्रेन कोड्स के लागू होने के बाद, अब प्लेटफ़ॉर्म को बच्चों को अश्लील सामग्री से बचाने और खतरनाक सामग्री ब्लॉक करने का कानूनी दायित्व है। ग्लोबल विज़नेस ने कहा कि अब नियामकों को हस्तक्षेप करना होगा ताकि ऑनलाइन बच्चों की सुरक्षा सुनिश्चित हो। उपयोगकर्ताओं की प्रतिक्रियाएँ भी आश्चर्यजनक थीं, जैसे “मुझे समझ नहीं आ रहा कि मेरी खोज सुझाव क्यों ऐसे हैं?”।
और पढ़ें: मेटा दिसंबर से एआई चैट के जरिए कंटेंट और विज्ञापन को करेगी पर्सनलाइज़