Como é a abordagem responsável do YouTube em relação à IA generativa?
A IA generativa já está transformando a maneira como os criadores se expressam, desde as ideias para o storyboarding até os experimentos com ferramentas musicais. Estamos felizes em estar à frente da popularização do acesso a esses recursos que ajudam na criação. No YouTube, a inovação e a responsabilidade andam juntas e, ao mesmo tempo que queremos saber como os criadores vão usar a IA na nossa plataforma, a responsabilidade ainda é central para tudo o que fazemos.
As diretrizes da comunidade vão continuar definindo as regras para todo o conteúdo da plataforma. Continuaremos a remover todo conteúdo sintético ou modificado que viole nossas diretrizes, incluindo discurso de ódio, conteúdo explícito ou violento e assédio.
Acreditamos que é do interesse de todos manter um ecossistema de informações saudável no YouTube, e lançamos novas políticas e experiências com produtos para cumprir nosso compromisso de abraçar a IA com coragem e responsabilidade.
Essas medidas incluem:
- Ferramentas de transparência para o conteúdo sintético ou modificado: uma ferramenta no YouTube Creator Studio para que os criadores indiquem quando o conteúdo for sintético ou modificado significativamente e pareça real, incluindo o uso de IA generativa. Os criadores precisam divulgar esse conteúdo quando ele for realista, ou seja, quando um espectador puder confundir com facilidade o que está sendo mostrado com pessoas, lugares ou eventos reais. Com base na divulgação do criador, serão mostrados identificadores na descrição do vídeo, e se o conteúdo estiver relacionado a assuntos delicados como saúde, notícias, eleições ou finanças, também exibiremos um identificador na janela do player do vídeo.
Marcador do player de vídeo
Marcador da descrição do vídeo
Mesmo esperando que os criadores divulguem o uso de conteúdo sintético ou modificado nos seus vídeos, também podemos aplicar um identificador em alguns vídeos nos casos em que essa divulgação não foi feita, especialmente quando o conteúdo discutir os assuntos delicados mencionados acima.
- Implantação da IA generativa para melhorar a moderação de conteúdo: A IA generativa já está nos ajudando a ampliar rapidamente o conjunto de informação usado para treinar nossos classificadores, o que permite a nós identificar conteúdo abusivo mais rapidamente. A maior velocidade e precisão dos nossos sistemas também nos permite diminuir a quantidade de conteúdo nocivo a que os revisores humanos estão expostos.
Esses são apenas alguns dos primeiros passos que estamos dando em um processo contínuo, e vamos continuar a evoluir e iterar à medida que avançamos para garantir um equilíbrio entre os enormes benefícios que essa tecnologia traz e a segurança constante da nossa comunidade neste momento crucial.