Comment YouTube adopte-t-elle une approche responsable en matière d'IA générative?
L'IA générative a déjà commencé à transformer les manières dont les créateurs peuvent s'exprimer, comme en créant des scénarimages à partir de leurs idées ou en expérimentant avec des outils musicaux. Nous avons le plaisir de jouer un rôle de premier plan en rendant ces fonctionnalités plus accessibles pour aider chaque personne à créer du contenu. Chez YouTube, l'innovation et la responsabilité vont de pair, et même si nous avons hâte de découvrir comment nos créateurs continueront à exploiter l'IA sur notre plateforme, la responsabilité reste au cœur de tout ce que nous faisons.
Notre règlement de la communauté continuera à définir les règles de conduite que les utilisateurs doivent suivre concernant l'ensemble du contenu sur la plateforme. Comme nous l'avons fait jusque-là, nous continuerons à retirer le contenu synthétique ou modifié qui enfreint toute recommandation de notre règlement de la communauté, y compris nos politiques qui interdisent les discours haineux, le contenu violent ou explicite et le harcèlement.
Nous pensons qu'il est dans l'intérêt de chaque personne de maintenir un écosystème d'informations sain sur YouTube et nous avons lancé de nouvelles politiques et expériences de produits qui nous permettront de respecter notre engagement tout en adoptant l'IA sans crainte et de manière responsable.
Cela comprend les éléments suivants :
* Des outils de transparence pour le contenu modifié ou synthétique : un outil dans YouTube Studio aide les créateurs à indiquer lorsque leur contenu est significativement modifié ou synthétique, mais semble réel, y compris lorsqu'il a été créé par l'IA générative. Les créateurs sont tenus de divulguer cette information lorsque le contenu est réaliste, c'est-à-dire lorsqu'un spectateur peut facilement confondre le contenu montré avec une personne, un lieu ou un événement réel. En fonction des divulgations du créateur, des étiquettes s'afficheront dans la description de la vidéo et, si le contenu est lié à des sujets de nature délicate tels que la santé, les actualités, les élections ou la finance, nous afficherons également une étiquette directement dans la fenêtre du lecteur de la vidéo.
Étiquette dans le lecteur vidéo
Étiquette dans la description de la vidéo
Même si nous attendons des créateurs qu'ils divulguent d'eux-mêmes le fait qu'ils ont utilisé un contenu modifié ou synthétique dans leurs vidéos, nous pourrons aussi appliquer une étiquette à certaines vidéos en l'absence de divulgation, en particulier lorsque le contenu aborde les sujets de nature délicate mentionnés ci-dessus.
* Le déploiement d'une technologie d'IA générative pour renforcer la modération de contenu : l'IA générative nous aide déjà à étendre rapidement l'ensemble des informations sur lesquelles nos classificateurs d'IA sont entraînés afin d'identifier et d'intercepter le contenu abusif plus rapidement. L'amélioration de la vitesse et de la précision de nos systèmes nous permet également de réduire la quantité de contenu pernicieux auquel les réviseurs humains sont exposés.
Il ne s'agit là que d'une partie des étapes que nous allons suivre lors de ce processus continu. Nous continuerons à proposer des évolutions et à itérer au fil du temps pour nous assurer de trouver un équilibre entre les avantages considérables de cette technologie et le maintien de la sécurité de notre communauté à ce moment charnière.