Uso de deepfake para pornografia desafia moderação do Google

O Google procedeu de três maneiras diferentes em duas semanas a respeito de uma denúncia sobre um aplicativo de deepfake que poderia ser usado para fazer pornografia. Primeiro, indicou como censura livre, depois baniu e voltou atrás com recomendação para 12 anos. O aplicativo, cujo nome não foi revelado, foi denunciado pela Reuters em uma investigação sobre crimes com a tecnologia, envolvendo a indústria pornográfica.

Um deepfake é um vídeo, foto ou GIF falso que simula uma fala ou ação de outra pessoa. Por exemplo, um vídeo do Silvio Santos apresentando o Jornal Nacional.

Ao ser informado de que um dos aplicativos anunciados na Play Store e indicado “para todos” também era usado para fazer pornografia, o Google tirou o aplicativo do ar. Depois de duas semanas, o programa ressurgiu com a classificação “para jovens”, o que significa que só deve ser visto por usuários acima de 12 anos. A referência a conteúdo inadequado no produto descrevia apenas “conteúdo sexual”.

A rede de anúncios para aplicativos ExoClick informou que iria retirar seus anúncios do programa. A empresa afirmou que não promoveria deepfakes irresponsavelmente e admitiu que o produto era algo novo e precisou revisá-lo para ver se poderia continuar anunciando nele. Um porta-voz da empresa afirmou ainda que usuários de deepfake poderiam usar a tecnologia sem maldade, mas poderia também ter um uso devastador.

Apple App Store inclui deepfake nas regras gerais de conduta

Seis outras redes de anúncio não se pronunciaram sobre o apoio a deepfakes. A Apple respondeu que não tinha regras específicas para o tipo de produto na App Store. Entretanto, a empresa afirmou que suas regras de conduta já incluíam proibições ao uso da tecnologia para fins difamatórios, discriminatórios ou com finalidade possível de humilhação, intimidação ou dano a alguém.

Disse ainda que trabalharia com a empresa desenvolvedora do aplicativo de deepfake para que estivesse dentro das regras da App Store. Os aplicativos não podem ser apresentados com propaganda enganosa, afirmou a empresa da maçã.