NDTVના ખુલાસા બાદ YouTubeએ અશ્લીલ AI ગીતો ધરાવતી ચેનલો દૂર કરી

NDTV દ્વારા કરવામાં આવેલી એક તપાસ બાદ YouTubeએ સેંકડો AI-જનરેટેડ ગ્રાફિક સેક્સ્યુઅલ ગીતો અને તે પ્રકાશિત કરતી ચેનલોને પ્લેટફોર્મ પરથી હટાવી દીધી છે. આ તપાસમાં જાણવા મળ્યું હતું કે આવા અશ્લીલ ગીતો એવા એકાઉન્ટ્સ પર પણ ઉપલબ્ધ હતા જે ખાસ કરીને બાળકો માટે બનાવવામાં આવ્યા હતા.

YouTubeના પ્રવક્તાએ NDTVને જણાવ્યું હતું કે, "અમે નગ્નતા અને જાતીય સામગ્રીની પોલિસીનું ઉલ્લંઘન કરવા બદલ આ ચેનલોને સમાપ્ત કરી દીધી છે, જે Gen AI સામગ્રી સહિત તમામ પ્રકારના કન્ટેન્ટ પર લાગુ થાય છે." પ્રવક્તાએ વધુમાં ઉમેર્યું હતું કે, "અમે જરૂરી કાર્યવાહી કરી છે અને અમારી સિસ્ટમ્સને વધુ મજબૂત અને સુધારવા માટે આ તપાસનો ઉપયોગ કરીશું."

NDTVની તપાસ મુજબ, ૫ નવેમ્બર સુધીમાં લગભગ બે ડઝન જેટલી ચેનલો, જેનું દસ્તાવેજીકરણ કરવામાં આવ્યું હતું, તે હવે સક્રિય નહોતી. આ ચેનલો પર સેંકડો અશ્લીલ ગીતો પ્રકાશિત કરવામાં આવ્યા હતા. NDTVએ જ્યારે તેના તારણોના નમૂના YouTube સાથે શેર કર્યા, ત્યારે કંપનીએ ઘણી ચેનલો અને અલ્ગોરિધમ દ્વારા બનાવવામાં આવેલા અશ્લીલ ગીતોના ટોપિક્સને દૂર કર્યા હતા. તેમ છતાં, સમાન પ્રકારના ગીતો ધરાવતી ઘણી અન્ય ચેનલો હજુ પણ YouTube પર ઉપલબ્ધ જોવા મળી હતી.

તપાસમાં એવું બહાર આવ્યું હતું કે હિન્દી, ભોજપુરી અને પંજાબી ભાષામાં ગીતો હતા જેમાં ગ્રાફિક સેક્સ્યુઅલ એક્ટ્સ, ઇન્સેસ્ટ (કુટુંબના સભ્યો વચ્ચેના જાતીય સંબંધો) અને શાળાના બાળકોના જાતીયકરણનું વર્ણન કરવામાં આવ્યું હતું. આમાંથી એક પણ ગીત પર ઉંમરનું પ્રતિબંધ (age-restriction) નહોતું. એક વાલી દ્વારા સંચાલિત 'સુપરવાઇઝ્ડ કિડ એકાઉન્ટ' પર, જેમાં YouTubeના સૌથી કડક સેટિંગ 'ઓલ્ડર કિડ્સ' (૯+) પસંદ કરવામાં આવ્યા હતા, ત્યાં "૧૮+ songs" અને "non-veg songs" સર્ચ કરતા આવા ગીતો સામે આવ્યા હતા. એટલું જ નહીં, YouTubeએ પોતે તૈયાર કરેલી આવી જ સમાન ટ્રેક્સની પ્લેલિસ્ટ પણ ઓફર કરી હતી.

આ સમગ્ર ઘટના અંગે YouTubeએ આપેલા નિવેદનમાં કેટલાક મહત્વના પ્રશ્નોના જવાબ આપ્યા નથી. કંપનીએ એ સ્પષ્ટ કર્યું નથી કે આ ગીતો પર ઉંમરનું પ્રતિબંધ કેમ નહોતું, તે પેરેન્ટલ કંટ્રોલ સિસ્ટમને કેવી રીતે પાર કરી શક્યા, અથવા તેની પોતાની સિસ્ટમ્સ દ્વારા આ ગીતોની ભલામણ (recommendation) કેમ કરવામાં આવી.

આ મામલે દિલ્હીના એડવોકેટ આદિત્ય જોશીએ અગાઉ NDTVને જણાવ્યું હતું કે, YouTubeનું કન્ટેન્ટ મોડરેશન પ્રાદેશિક ભાષાઓમાં સમસ્યાજનક કીવર્ડ્સને ઓળખવામાં સંઘર્ષ કરે છે. તેમણે વધુમાં ઉમેર્યું હતું કે YouTubeની AI-આધારિત ડિટેક્શન સિસ્ટમ હજુ પરિપક્વ નથી, જેના કારણે આવી સામગ્રી પ્લેટફોર્મ પર રહી જાય છે.