אילו כללי מדיניות מתייחסים לתוכן קיצוני?
תוכן שנועד להסית לאלימות או לטפח שנאה כלפי קבוצות אנשים מסוימות מנוגד למדיניות שלנו בנושא דברי שטנה. בנוסף, תוכן שמקדם או מאדיר פיגועי טרור מנוגד למדיניות שלנו בנושא ארגוני פשע. אנחנו מסירים תוכן כזה כשאנחנו מקבלים עליו דיווח.
איך אתם מתמודדים עם תוכן ב-YouTube שלא מפר את כללי המדיניות אבל עדיין עלול להיחשב כתוכן פוגעני?
לפעמים יש תוכן שמתקרב מאוד לקו האדום המצוין במדיניות, אבל לא חוצה אותו. אנחנו מכנים תוכן כזה "תוכן גבולי". מערכות ההמלצות שלנו עוזרות להגביל את ההתפשטות של תוכן גבולי. בעקבות זאת, חלה ירידה של יותר מ-70% בזמן הצפייה בתוכן כזה בארה"ב מהמלצות על תכנים שהמשתמשים אינם מנויים להם.
מה YouTube עושה כדי להתמודד באופן ספציפי עם תוכן שמקדם קיצוניות אלימה וטרור?
תוכן שמקדם או מאדיר ארגוני טרור וארגוני פשע אלימים אחרים לא מתקבל בברכה ב-YouTube. יישמנו ב-YouTube מערכות אוטומטיות שמסייעות לזהות תוכן שעלול להפר את כללי המדיניות שלנו, כולל הכללים של המדיניות בנושא ארגוני פשע אלימים. ברגע שהמערכות שלנו מזהות תוכן שעלול להיות בעייתי, אנחנו מבצעים בדיקה אנושית כדי לברר אם התוכן מפר את כללי המדיניות שלנו. אם מסקנות הבדיקה הן שהתוכן אכן מפר את המדיניות, הוא מוסר ומשמש לאימון המכונות שלנו לזיהוי טוב יותר בעתיד. למידה חישובית מסייעת לנו כעת בהסרת תוכן קיצוני לפני שצופים בו הרבה אנשים. בין אוקטובר לדצמבר 2019, כ-90% מהסרטונים שהועלו ולאחר מכן הוסרו בגין הפרה של המדיניות שלנו בנושא קיצוניות אלימה הוסרו לפני שהיו להם 10 צפיות.
גם קהילת YouTube עוזרת לנו לאתר תוכן כזה. הוספנו מתחת לכל סרטון ב-YouTube אפשרות לסמן את הסרטון כתוכן שמקדם טרור, והמשתמשים יכולים להשתמש באפשרות הזו כשהם מדווחים על תוכן. כמו כן, אנחנו עובדים עם מומחים לקיצוניות אלימה דרך התוכנית 'משתמשים נאמנים ששולחים התרעות'. הצוותים בודקים סימונים ודיווחים בקפידה 24 שעות ביממה, 7 ימים בשבוע.
בנוסף, אנחנו אחד מהמייסדים של פורום האינטרנט הגלובלי למלחמה בטרור [(GIFCT)](https://www.gifct.org/). במסגרת הפורום אנחנו עובדים עם חברות טכנולוגיה אחרות להסרת תוכן טרור מהאינטרנט, ומספקים הדרכה ומשאבים אחרים לחברות קטנות יותר שמתמודדות עם אתגרים דומים.