Kateri pravilniki obravnavajo ekstremistično vsebino?
Vsaka vsebina, ki je namenjena spodbujanju k nasilju ali podpihovanju sovraštva proti določenim skupinam ljudi, krši naš pravilnik o sovražnem govoru. Poleg tega vsebina, ki spodbuja ali poveličuje terorizem, krši pravilnik o nasilnih kriminalnih organizacijah. Takšno vsebino odstranimo, ko jo kdo označi z zastavico.
Kako YouTube obravnava vsebino, ki ne krši pravilnikov, vendar bi se vseeno lahko štela kot škodljiva?
Včasih je kakšna vsebina na meji, da krši pravilnik, vendar te meje ne prestopi. To imenujemo mejna vsebina. Naši sistemi priporočil pomagajo pri omejevanju širjenja mejne vsebine in zaradi tega smo opazili več kot 70-odstotni upad v času gledanja te vsebine, ki prihaja od priporočil nenaročnikov v Združenih državah.
Kako YouTube konkretno obravnava vsebino, ki spodbuja nasilen ekstremizem in terorizem?
Za vsebino, ki spodbuja ali poveličuje terorizem in druge nasilne kriminalne organizacije, ni prostora v YouTubu. YouTube uporablja samodejne sisteme za pomoč pri zaznavanju vsebine, ki bi lahko kršila naše pravilnike, vključno s pravilnikom o nasilnih kriminalnih organizacijah. Ko sistemi zaznajo morebitno sporno vsebino, z ročnim pregledom preverimo, ali krši naše pravilnike. Če ugotovimo, da vsebina krši pravilnike, jo odstranimo in na podlagi te vsebine se naša tehnologija strojnega učenja uči za učinkovitejše iskanje vsebine v prihodnosti. Strojno učenje nam zdaj pomaga odstraniti ekstremistično vsebino, preden si jo ogleda večje število ljudi. Od oktobra do decembra 2019 je bilo približno 90 % naloženih videoposnetkov, ki smo jih odstranili zaradi kršitve pravilnika o nasilnem ekstremizmu, odstranjenih, preden so dosegli 10 ogledov.
Pri iskanju te vsebine nam pomaga tudi YouTubova skupnost. Oblikovali smo zastavico »spodbuja terorizem«, ki je prikazana pod vsakim videoposnetkom v YouTubu in jo uporabniki lahko izberejo, ko želijo prijaviti vsebino. Sodelujemo tudi s strokovnjaki za nasilni ekstremizem prek programa zaupanja vrednih označevalcev. Skupine pozorno ocenjujejo označene videoposnetke 24 ur na dan, 7 dni v tednu.
Poleg tega smo ustanovni član Svetovnega internetnega foruma za boj proti terorizmu (GIFCT), v katerem si z drugimi podjetji prizadevamo za preprečevanje objav teroristične vsebine v spletu, hkrati pa manjšim podjetjem, ki se soočajo s podobnimi izzivi, zagotavljamo usposabljanja in druga sredstva.