सीधे कॉन्टेंट पर जाएं
हमारी ज़िम्मेदारियां

क्या YouTube हिंसा भड़काने वाले वीडियो को बढ़ावा देता है?

हम चरमपंथी सोच फैलाने वाले वीडियो से, अपने उपयोगकर्ताओं को बचाने की हर मुमकिन कोशिश करते हैं. ऐसे वीडियो YouTube पर न फैलें, इसके लिए हम उन वीडियो को हटा देते हैं जो नफ़रत फैलाने वाली भाषा पर रोकथाम के लिए बनी हमारी नीति और हिंसक अपराध करने वाले संगठनों को दिखाने वाले कॉन्टेंट के लिए बनी नीति का उल्लंघन करते हैं. वीडियो के सुझाव देने वाले हमारे सिस्टम, ऐसे वीडियो को फैलने से काफ़ी हद तक रोक देते हैं जो हमारी नीतियों का करीब-करीब उल्लंघन करते हैं. हालांकि, इस तरह के वीडियो, नीतियों का पूरी तरह से उल्लंघन नहीं करते, लेकिन नुकसान पहुंचाने वाली गलत जानकारी फैला सकते हैं.

चरमपंथी सोच को बढ़ावा देने वाले वीडियो को फैलने से रोकना

YouTube चरमपंथी सोच को बढ़ावा देने वाले वीडियो से कैसे निपटता है?

लोगों के किसी ग्रुप के ख़िलाफ़ हिंसा के लिए उकसाने या नफ़रत फैलाने के मकसद से बनाए गए वीडियो, नफ़रत फैलाने वाली भाषा पर रोकथाम के लिए बनी हमारी नीति का उल्लंघन करते हैं. इसके अलावा, आतंकवाद को बढ़ावा देने या उसकी तारीफ़ करने वाले वीडियो, हिंसक अपराध करने वाले संगठनों को दिखाने वाली सामग्री के लिए बनी हमारी नीति का उल्लंघन करते हैं. ऐसे वीडियो की शिकायत मिलते ही, हम उसे हटा देते हैं.

YouTube ऐसे वीडियो से किस तरह निपटता है जो नीतियों का उल्लंघन न करते हुए भी नुकसान पहुंचा सकते हैं?

कई बार देखा जाता है कि कुछ वीडियो हमारी नीतियो का उल्लंघन करने के नज़दीक तो होते हैं, लेकिन पूरी तरह से उल्लंघन नहीं करते. हम इन्हें करीब-करीब उल्लंघन करने वाले कॉन्टेंट कहते हैं. वीडियो के सुझाव देने वाले हमारे सिस्टम, नीतियों का करीब-करीब उल्लंघन करने वाले कॉन्टेंट को फैलने से कुछ हद तक रोकने में मदद करते हैं. इसकी वजह से, अमेरिका में चैनल की सदस्यता लिए बिना ऐसे वीडियो देखे जाने की संख्या में 70% से भी ज़्यादा की गिरावट देखी गई है.

आतंकवाद और हिंसक चरमपंथी सोच को बढ़ावा देने वाले वीडियो फैलने से रोकने के लिए, YouTube क्या कर रहा है?

आतंकवाद को बढ़ावा देने और दूसरे हिंसक अपराध करने वाले संगठनों का प्रचार करने और उनकी तारीफ़ करने वाले वीडियो के लिए, YouTube पर कोई जगह नहीं है. अपने-आप काम करने वाले हमारे सिस्टम, ऐसे वीडियो का पता लगाने में मदद करते हैं जो YouTube की नीतियों का उल्लंघन करते हैं. इन नीतियों में हिंसक अपराध करने वाले संगठनों को दिखाने वाली सामग्री के लिए बनी नीति भी शामिल है. अगर किसी ऐसे वीडियो की पहचान हो जाती है जिसकी वजह से समस्या हो सकती है, तो मानवीय समीक्षा की प्रक्रिया इस बात की पुष्टि करती हैं कि उस वीडियो से हमारी नीतियों का उल्लंघन होता है या नहीं. अगर वह वीडियो उल्लंघन करता है, तो उसे हटा दिया जाता है. इसके अलावा, हमारी मशीनों को ट्रेनिंग देने के लिए भी उस वीडियो का इस्तेमाल किया जाता है, ताकि वे आने वाले समय में बेहतर कवरेज कर सकें. मशीन लर्निंग से, हमें चरमपंथी सोच को बढ़ावा देने वाले वीडियो को बहुत सारे लोगों तक पहुंचने से पहले ही हटाने में मदद मिलती है. अक्टूबर से दिसंबर 2019 के बीच, हिंसक चरमपंथी सोच को फैलने से रोकने के लिए बनाई गई हमारी नीति का उल्लंघन करने वाले करीब 90% वीडियो, 10 बार देखे जाने से पहले ही हटा दिए गए थे.

ऐसे वीडियो का पता लगाने में YouTube समुदाय भी हमारी मदद करता है. YouTube पर मौजूद हर वीडियो के नीचे "आतंकवाद को बढ़ावा देता है" नाम से एक 'शिकायत करें' विकल्प होता है. इसे चुनकर उपयोगकर्ता वीडियो की शिकायत कर सकते हैं. हम अपने भरोसेमंद फ़्लैगर कार्यक्रम की मदद से, हिंसक चरमपंथी सोच की जानकारी रखने वाले विशेषज्ञों के साथ भी काम करते हैं. हमारी टीमें, पूरे हफ़्ते, 24 घंटे 'शिकायत करें' से मिली शिकायतों की सावधानी से समीक्षा करती हैं.

हम, ग्लोबल इंटरनेट फ़ोरम टू काउंटर टेररिज़्म (GIFCT) के संस्थापक सदस्य भी हैं. इस संगठन में, हम आतंकवाद के प्रचार से जुड़ी सामग्री को इंटरनेट से बाहर रखने के लिए, तकनीकी से जुड़ी दूसरी कंपनियों के साथ मिलकर काम करते हैं. साथ ही, हम ऐसी ही समस्याओं का सामना कर रही छोटी कंपनियों को प्रशिक्षण और दूसरे संसाधन उपलब्ध कराते हैं.