YouTube có những chính sách nào để xử lý nội dung cực đoan?
Mọi nội dung nhằm kích động hành vi bạo lực hoặc thái độ thù ghét đối với một số nhóm người đều là nội dung vi phạm chính sách của chúng tôi về lời nói thù ghét. Ngoài ra, nội dung cổ xúy hoặc ca ngợi chủ nghĩa khủng bố cũng là nội dung vi phạm chính sách đối với các tổ chức tội phạm bạo lực. Chúng tôi gỡ bỏ những loại nội dung đó khi có người dùng gắn cờ.
Làm thế nào YouTube xử lý nội dung không vi phạm chính sách nhưng vẫn có thể bị coi là gây hại?
Đôi khi, có những nội dung đến rất gần nhưng không vượt qua ranh giới vi phạm chính sách. Chúng tôi gọi đó là nội dung gần ranh giới vi phạm chính sách. Hệ thống đề xuất của chúng tôi giúp hạn chế sự lan truyền của nội dung gần ranh giới vi phạm chính sách. Nhờ vậy, thời gian xem loại nội dung đó từ phần đề xuất cho người không đăng ký tại Hoa Kỳ đã giảm hơn 70%.
YouTube đang có những biện pháp cụ thể nào để xử lý nội dung cổ suý chủ nghĩa cực đoan bạo lực và chủ nghĩa khủng bố?
Nội dung cổ suý hoặc ca ngợi các tổ chức khủng bố và tổ chức tội phạm bạo lực khác hoàn toàn bị cấm trên YouTube. YouTube có hệ thống tự động nhằm hỗ trợ phát hiện nội dung có khả năng vi phạm chính sách, bao gồm cả chính sách đối với các tổ chức tội phạm bạo lực. Sau khi hệ thống phát hiện được nội dung có thể có vấn đề, nhân viên đánh giá sẽ xác minh xem nội dung đó có vi phạm chính sách hay không. Nếu vi phạm, nội dung đó sẽ bị gỡ bỏ và bổ sung vào dữ liệu của hệ thống máy để quét hiệu quả hơn trong tương lai. Giờ đây, công nghệ máy học giúp chúng tôi gỡ bỏ nội dung cực đoan trước khi có nhiều người xem. Từ tháng 10 đến tháng 12 năm 2019, khoảng 90% các video tải lên vi phạm chính sách về chủ nghĩa bạo lực cực đoan đã bị gỡ bỏ khi chưa có đến 10 lượt xem.
Cộng đồng YouTube cũng giúp chúng tôi phát hiện dạng nội dung này. Dưới bất kỳ video nào trên YouTube cũng có cờ "nội dung quảng bá chủ nghĩa khủng bố" riêng biệt để người dùng chọn khi báo cáo nội dung. Chúng tôi cũng làm việc với các chuyên gia về chủ nghĩa cực đoan bạo lực thông qua Chương trình người gắn cờ đáng tin cậy. Các nhóm làm việc 24/7 để đánh giá các video bị gắn cờ một cách cẩn thận.
Chúng tôi cũng là thành viên sáng lập của Global Internet Forum to Counter Terrorism (GIFCT) – Diễn đàn Internet toàn cầu chống chủ nghĩa Khủng bố, nơi chúng tôi phối hợp với các công ty công nghệ khác để ngăn chặn nội dung khủng bố xuất hiện trên mạng, đồng thời cung cấp các khoá đào tạo và tài nguyên khác cho những công ty nhỏ phải đối mặt với các thách thức tương tự.