Mitkä käytännöt estävät ääriliikkeiden sisältöä?
Kaikki sisältö, joka kannustaa väkivaltaan tai lietsoo vihaa tiettyä ihmisryhmää kohtaan, rikkoo vihamielistä sisältöä koskevaa käytäntöämme. Terrorismia edistävä tai ihannoiva sisältö rikkoo puolestaan väkivaltaisia rikollisjärjestöjä koskevaa käytäntöämme. Poistamme kyseisen sisällön, kun se ilmiannetaan meille.
Miten YouTube käsittelee sisältöä, joka ei riko käytäntöjä, mutta joka voi silti olla haitallista?
Jokin sisältö voi olla lähellä rikkoa käytännön rajat, mutta ei kuitenkaan ylitä tiettyä kynnystä. Kutsumme sitä rajatapaukseksi luokiteltavaksi sisällöksi. Suositusjärjestelmämme auttavat rajoittamaan rajatapaukseksi luokiteltavan sisällön leviämistä. Tämän ansiosta olemme havainneet yli 70 %:n laskun kyseisen muun kuin tilaajien suositteleman sisällön katseluajassa Yhdysvalloissa.
Mitä YouTube tekee väkivaltaisia ääriliikkeitä ja terrorismia edistävän sisällön estämiseksi?
Terroristi- ja muita väkivaltaisia rikollisjärjestöjä edistävällä tai ihannoivalla sisällöllä ei ole sijaa YouTubessa. YouTuben automaattiset järjestelmät auttavat tunnistamaan sisältöä, joka mahdollisesti rikkoo esimerkiksi väkivaltaisia rikollisjärjestöjä koskevaa käytäntöämme. Kun mahdollisesti ongelmallista sisältöä tunnistetaan, ihminen tarkastaa, rikkooko sisältö käytäntöjämme. Jos rikkoo, sisältö poistetaan. Opetamme poistetun sisällön avulla koneitamme, jotta ne löytäisivät ongelmallisen sisällön paremmin jatkossa. Koneoppiminen auttaa meitä nykyään estämään ekstremistisen sisällön katselun ennen sen leviämistä laajalle. Vuoden 2019 lokakuun ja joulukuun välisenä aikana väkivaltaisia ääriliikkeitä koskevaa käytäntöämme rikkoneista videoista noin 90 % poistettiin ennen kuin niitä oli katsottu 10 kertaa.
YouTuben yhteisö auttaa meitä huomaamaan kyseistä sisältöä. Olemme lisänneet jokaisen YouTube-videon alle "edistää terrorismia" -merkinnän, jonka käyttäjät voivat valita tehdessään ilmoituksen sisällöstä. Teemme myös yhteistyötä väkivaltaisten ääriliikkeiden asiantuntijoiden kanssa Luotettu ilmoittaja -ohjelmassa. Tiimit arvioivat merkintöjä huolellisesti ympäri vuorokauden.
Olemme myös Global Internet Forum to Counter Terrorism (GIFCT) -järjestön perustajajäsen. Teemme järjestön kautta yhteistyötä muiden teknologiayritysten kanssa pitääksemme terrorismisisällön poissa verkosta. Tarjoamme myös koulutusta ja muita välineitä pienemmille yrityksille, jotka kohtaavat vastaavia haasteita.