Nossa abordagem em relação à IA

Como é a abordagem responsável do YouTube em relação à IA generativa?

A IA generativa já está transformando a maneira como os criadores se expressam, desde as ideias para o storyboarding até os experimentos com ferramentas musicais. Estamos felizes em estar à frente da popularização do acesso a esses recursos que ajudam na criação. No YouTube, a inovação e a responsabilidade andam juntas e, ao mesmo tempo que queremos saber como os criadores vão usar a IA na nossa plataforma, a responsabilidade ainda é central para tudo o que fazemos.

As diretrizes da comunidade vão continuar definindo as regras para todo o conteúdo da plataforma. Continuaremos a remover todo conteúdo sintético ou modificado que viole nossas diretrizes, incluindo discurso de ódio, conteúdo explícito ou violento e assédio.

Acreditamos que é do interesse de todos manter um ecossistema de informações saudável no YouTube, e lançamos novas políticas e experiências com produtos para cumprir nosso compromisso de abraçar a IA com coragem e responsabilidade.

Essas medidas incluem:

• Ferramentas de transparência para o conteúdo sintético ou modificado: uma ferramenta no YouTube Creator Studio para que os criadores indiquem quando o conteúdo for sintético ou modificado significativamente e pareça real, incluindo o uso de IA generativa. Os criadores precisam divulgar esse conteúdo quando ele for realista, ou seja, quando um espectador puder confundir com facilidade o que está sendo mostrado com pessoas, lugares ou eventos reais. Com base na divulgação do criador, serão mostrados identificadores na descrição do vídeo, e se o conteúdo estiver relacionado a assuntos delicados como saúde, notícias, eleições ou finanças, também exibiremos um identificador na janela do player do vídeo.

Mesmo esperando que os criadores divulguem o uso de conteúdo sintético ou modificado nos seus vídeos, também podemos aplicar um identificador em alguns vídeos nos casos em que essa divulgação não foi feita, especialmente quando o conteúdo discutir os assuntos delicados mencionados acima.

• Implantação da IA generativa para melhorar a moderação de conteúdo: A IA generativa já está nos ajudando a ampliar rapidamente o conjunto de informação usado para treinar nossos classificadores, o que permite a nós identificar conteúdo abusivo mais rapidamente. A maior velocidade e precisão dos nossos sistemas também nos permite diminuir a quantidade de conteúdo nocivo a que os revisores humanos estão expostos.

Esses são apenas alguns dos primeiros passos que estamos dando em um processo contínuo, e vamos continuar a evoluir e iterar à medida que avançamos para garantir um equilíbrio entre os enormes benefícios que essa tecnologia traz e a segurança constante da nossa comunidade neste momento crucial.