Como é que o YouTube lida com a IA generativa de forma responsável?
A IA generativa já começou a transformar as formas de expressão dos criadores, de ideias para criação de guiões gráficos a experiências com ferramentas de música. Estamos entusiasmados por estar na vanguarda da disponibilização do acesso a estas funcionalidades para ajudar todas as pessoas a criar conteúdo. No YouTube, a inovação e a responsabilidade andam de mãos dadas e, apesar de querermos ver de que formas os nossos criadores continuam a usar o poder da IA na nossa plataforma, a responsabilidade continua a estar no centro de tudo o que fazemos.
As nossas Regras da Comunidade vão continuar a definir as diretrizes para todo o conteúdo na plataforma. Já removemos, e vamos continuar a remover, conteúdo sintético ou alterado que viole as nossas Regras da Comunidade, incluindo as que proíbem incitamento ao ódio, conteúdo violento ou explícito, e assédio.
Acreditamos que é do interesse de todos manter um ecossistema de informação saudável no YouTube. Para isso, implementámos novas políticas e experiências de produtos de forma a confirmar o nosso compromisso de utilização da IA de forma arrojada e responsável.
Isto inclui:
- Ferramentas de transparência para conteúdo alterado ou sintético: uma ferramenta no Creator Studio que permite que os criadores indiquem quando o seu conteúdo é sintético ou alterado significativamente, e parece real, incluindo a IA generativa. Os criadores têm de fazer uma divulgação quando este conteúdo é realista, isto é, quando um visitante pode facilmente confundir o que vê com uma pessoa, um lugar ou um evento real. Com base na divulgação do criador, aparecem etiquetas na descrição do vídeo e, se o conteúdo estiver relacionado com tópicos sensíveis, como saúde, notícias, eleições ou finanças, vamos também apresentar uma etiqueta no próprio vídeo na janela do leitor.
Etiqueta do leitor de vídeo
Etiqueta da descrição do vídeo
Apesar de esperarmos que os criadores divulguem a sua utilização de conteúdo alterado ou gerado por IA nos seus vídeos, podemos também aplicar uma etiqueta em alguns vídeos nos casos em que esta divulgação não ocorreu, especialmente quando o conteúdo aborda os tópicos sensíveis mencionados atrás.
- Implementação da tecnologia de IA generativa na moderação de conteúdo: a IA generativa já nos está a ajudar a expandir rapidamente o conjunto de informações usado para preparar os nossos classificadores de IA, o que nos permite identificar e moderar conteúdo abusivo mais rapidamente. A velocidade e a precisão melhoradas dos nossos sistemas também nos permitem reduzir a quantidade de conteúdo prejudicial a que os nossos revisores humanos estão expostos.
Estes são apenas alguns dos primeiros passos que estamos a tomar num processo em curso, e vamos continuar a evoluir e a iterar para garantir que equilibramos as enormes vantagens que esta tecnologia oferece com a segurança permanente da nossa comunidade neste momento tão importante.