Comment YouTube s'assure-t-il de ne pas introduire de biais involontaires et négatifs dans ses systèmes ?
Nous faisons appel à des utilisateurs du monde entier pour améliorer nos systèmes de recherche et de découverte. Les consignes qu'ils suivent sont d'ailleurs accessibles au public. Nos systèmes de recherche et de recommandation ne sont pas conçus pour filtrer ni rétrograder des vidéos ou des chaînes en fonction de points de vue politiques spécifiques.
Par ailleurs, nous auditons nos systèmes de machine learning (apprentissage automatique) afin de nous assurer que leur algorithme ne comporte aucun biais involontaire lié à des caractéristiques comme le genre d'une personne. Lorsque nous détectons des erreurs, nous les corrigeons et nous ré-entraînons nos systèmes pour améliorer la précision des résultats.
Les règles de YouTube ciblent-elles injustement certains groupes ou points de vue politiques ?
Lorsque nous développons et actualisons le réglement de la plateforme, nous veillons à prendre en compte différents avis, y compris ceux de créateurs, de spécialistes, de défenseurs de la liberté d'expression et d'organisations politiques de tous bords.
Lorsqu'une nouvelle règle est développée, nous consacrons le temps nécessaire à nous assurer qu'elle sera correctement appliquée par nos équipes d'examinateurs dans le monde entier, selon des consignes objectives. Avant d'être mise en place, une nouvelle règle est d'abord testée dans un environnement de préproduction (où les décisions des examinateurs n'ont pas de réel impact). Il faut alors que les décisions prises par les examinateurs sur la base de cette nouvelle règle soient suffisamment cohérentes sur un large échantillon. Si ce n'est pas le cas, nous entraînons de nouveau nos systèmes et revoyons les consignes internes pour clarifier les choses, puis nous répétons la procédure. L'objectif est de limiter autant que possible la subjectivité et les préjugés personnels pour obtenir un haut niveau de précision et de cohérence à grande échelle. La règle ne peut être lancée qu'une fois que nous avons atteint un niveau de précision acceptable.