YouTube vai criar políticas de proteção contra IA, ao mesmo tempo em que abraça recursos de IA

Apesar do YouTube anunciar diversos novos recursos voltados para a inteligência artificial (IA), a rede social de vídeos do Google também quer implementar políticas que protejam seus usuários dela.

Segundo uma postagem no blog oficial do YouTube, a plataforma vai, nas próximas semanas, passar a exigir que conteúdos publicados em sua estrutura que tenham sido criador por meio da IA generativa. Em outra seara, vídeos que “simulem um indivíduo identificável ou que imitem a voz única de um artista” – ou seja: deepfakes – sejam removidos por meio de uma nova ferramenta especialmente dedicada a esta finalidade.

Esta última parte parece se referir especificamente a músicos, mas é bem provável que deepfakes de outra natureza – afirmações falsas atribuídas a figuras políticas ou falsos vídeos pornográficos, por exemplo – também sejam incluídas neste pacote.

“A IA generativa tem o potencial de expandir a criatividade no YouTube e transformar a experiência para espectadores e criadores em nossa plataforma. Mas tão importante quanto, essas oportunidades devem ser equilibradas pela nossa responsabilidade em proteger a nossa comunidade.

Todo o conteúdo publicado no YouTube está sujeito às regras da nossa comunidade – independente de como ele tenha sido gerado – mas também sabemos que a IA traz novos riscos e exige novas abordagens. Estamos nos passos iniciais do nosso trabalho, e continuaremos a evoluir a nossa abordagem conforme aprendemos mais.” – YouTube

A rede social segue afirmando que as mudanças serão implementadas “ao longo das próximas semanas”.

Pelas imagens divulgadas, as etiquetas de alerta aparecem em vários campos – descrição de vídeo, camadas sobrepostas no reprodutor, comentários etc. – dando a entender que o conteúdo sendo assistido naquele momento é “sintético”, ou seja, foi criado por meios digitais ou alterados por eles de alguma forma.

O formulário de requisição e pedido de remoção de conteúdo também foi atualizado para refletir as alterações.