NDTV के खुलासे के बाद YouTube ने अश्लील AI गानों वाले चैनल हटाए

NDTV द्वारा की गई एक जांच के बाद YouTube ने प्लेटफॉर्म से सैकड़ों AI-जनरेटेड ग्राफिक सेक्सुअल गानों और उन्हें प्रकाशित करने वाले चैनलों को हटा दिया है। इस जांच में पता चला था कि ऐसे अश्लील गाने उन अकाउंट्स पर भी उपलब्ध थे जो विशेष रूप से बच्चों के लिए बनाए गए थे।

YouTube के प्रवक्ता ने NDTV को बताया, "हमने नग्नता और यौन सामग्री की नीति का उल्लंघन करने के कारण इन चैनलों को समाप्त कर दिया है, जो Gen AI सामग्री सहित सभी प्रकार के कंटेंट पर लागू होती है।" प्रवक्ता ने आगे कहा, "हमने आवश्यक कार्रवाई की है और अपनी प्रणालियों को और अधिक मजबूत और सुधारने के लिए इस जांच का उपयोग करेंगे।"

NDTV की जांच के अनुसार, 5 नवंबर तक लगभग दो दर्जन चैनल, जिनका दस्तावेजीकरण किया गया था, अब सक्रिय नहीं थे। इन चैनलों पर सैकड़ों अश्लील गाने प्रकाशित किए गए थे। जब NDTV ने अपने निष्कर्षों के नमूने YouTube के साथ साझा किए, तो कंपनी ने कई चैनलों और एल्गोरिदम द्वारा बनाए गए अश्लील गानों के विषयों को हटा दिया। इसके बावजूद, समान प्रकार के गाने रखने वाले कई अन्य चैनल अभी भी YouTube पर उपलब्ध पाए गए।

जांच में यह सामने आया कि हिंदी, भोजपुरी और पंजाबी भाषा में गाने थे जिनमें ग्राफिक सेक्सुअल एक्ट्स, इनसेस्ट (परिवार के सदस्यों के बीच यौन संबंध) और स्कूली बच्चों के यौनिकरण का वर्णन किया गया था। इनमें से किसी भी गाने पर आयु प्रतिबंध (age-restriction) नहीं था। एक अभिभावक द्वारा संचालित 'सुपरवाइज्ड किड अकाउंट' पर, जिसमें YouTube की सबसे सख्त सेटिंग 'ओल्डर किड्स' (9+) चुनी गई थी, वहां "18+ songs" और "non-veg songs" सर्च करने पर ऐसे गाने सामने आए। इतना ही नहीं, YouTube ने खुद इसी तरह के ट्रैक्स की प्लेलिस्ट भी ऑफर की थी।

इस पूरी घटना के संबंध में YouTube ने दिए बयान में कुछ महत्वपूर्ण सवालों के जवाब नहीं दिए हैं। कंपनी ने यह स्पष्ट नहीं किया कि इन गानों पर आयु प्रतिबंध क्यों नहीं था, वे पैरेंटल कंट्रोल सिस्टम को कैसे पार कर गए, या उसकी अपनी प्रणालियों द्वारा इन गानों की सिफारिश (recommendation) क्यों की गई।

इस मामले में दिल्ली के एडवोकेट आदित्य जोशी ने पहले NDTV को बताया था कि YouTube का कंटेंट मॉडरेशन क्षेत्रीय भाषाओं में समस्याग्रस्त कीवर्ड्स को पहचानने में संघर्ष करता है। उन्होंने आगे कहा कि YouTube की AI-आधारित डिटेक्शन सिस्टम अभी परिपक्व नहीं है, जिसके कारण ऐसी सामग्री प्लेटफॉर्म पर बनी रहती है।