Quali sono le norme volte ad arginare i contenuti estremisti?
Eventuali contenuti pensati per incitare la violenza o fomentare l'odio nei confronti di determinati gruppi o persone rappresentano una violazione delle nostre norme sull'incitamento all'odio. Inoltre, i contenuti che promuovono o celebrano il terrorismo rappresentano una violazione delle nostre norme sulle organizzazioni criminali violente. Rimuoviamo questi contenuti quando ci vengono segnalati.
In che modo YouTube si occupa dei contenuti che non rappresentano una violazione delle norme, ma che potrebbero comunque essere considerati dannosi?
Talvolta ci troviamo di fronte a contenuti che vanno molto vicini a violare le norme, ma non rappresentano vere e proprie violazioni. Si tratta di contenuti che rappresentano casi limite. I nostri sistemi di consigli contribuiscono a limitare la diffusione di questi contenuti e grazie a essi abbiamo potuto osservare un calo superiore al 70% nel relativo tempo di visualizzazione provieniente dai consigli da parte di utenti non iscritti negli Stati Uniti.
Quali misure sta attuando YouTube nello specifico per limitare i contenuti che promuovono estremismo e terrorismo violenti?
I contenuti che promuovono o celebrano il terrorismo o altre organizzazioni criminali violente non trovano spazio su YouTube. YouTube si avvale di sistemi automatici per rilevare i contenuti che potrebbero violare le nostre norme, tra cui le norme sulle organizzazioni criminali violente. Una volta identificati i contenuti potenzialmente problematici, li sottoponiamo a revisione da parte di persone fisiche per verificare se violano le nostre norme. In caso affermativo, i contenuti interessati vengono rimossi e utilizzati per migliorare l'efficacia e la futura copertura dei nostri sistemi automatici. Il machine learning ci aiuta a rimuovere i contenuti estremisti prima che vengano visti da un vasto numero di utenti. Tra i mesi di ottobre e dicembre 2019, circa il 90% dei video caricati che sono stati rimossi per aver violato le nostre norme sull'estremismo violento è stato rimosso prima ancora che venissero totalizzate 10 visualizzazioni.
Inoltre, la community di YouTube offre un aiuto prezioso nell'individuare i contenuti di questo genere. Abbiamo inserito un'apposita opzione di segnalazione ("promuove il terrorismo") sotto ogni video su YouTube, in modo che gli utenti la possano selezionare quando segnalano i contenuti. Ci avvaliamo anche di esperti sul terrorismo violento tramite il nostro programma Segnalatore attendibile. I team valutano le segnalazioni con attenzione, 24 ore su 24, 7 giorni su 7.
Inoltre siamo uno dei membri fondatori del Global Internet Forum to Counter Terrorism (GIFCT), all'interno del quale collaboriamo con altre aziende tecnologiche per allontanare i contenuti terroristici dal Web, fornendo al contempo formazione e altre risorse alle aziende più piccole che si trovano a fronteggiare simili sfide.