Deepfakes são mais reais e mais confiáveis que rostos autênticos para maioria, diz estudo

Um estudo realizado por pesquisadores das universidades de Lancaster, no Reino Unido, e da Califórnia, nos Estados Unidos, demonstrou que maioria das pessoas tem dificuldade em identificar rostos reais de rostos sintéticos, gerados por algoritmos, também conhecidos como deepfakes.

Para chegar a essa conclusão, os pesquisadores Sophie J. Nightingale e Hany Farid conduziram três experimentos para determinar se, e como, as pessoas diferenciavam rostos reais de faces sintetizadas por inteligência artificial.

“Nossa avaliação do fotorrealismo das faces sintetizadas pela IA indica que os motores de síntese passaram pelo vale sinistro e são capazes de criar faces que são indistinguíveis — e mais confiáveis — do que faces reais”, escreveram Farid e Nightingale.

Em um dos experimentos, 315 participantes avaliaram rostos para determinarem se eles tinham sido gerados algoritmicamente ou se pertenciam a pessoas reais. A taxa de precisão foi de 48,2%. Em um segundo experimento, 219 participantes receberam feedback sobre as suposições anteriores à medida que avançavam na avaliação; essa indicação fez a pontuação subir até 59%.

Imagem: PNAS

Deepfakes soam mais confiáveis sob a ótica humana

Em um terceiro e último experimento, os pesquisadores pediram para 223 participantes avaliarem rostos, desta vez, sob uma escala de confiabilidade percebida — julgamentos rápidos para determinar se uma pessoa é confiável com base apenas no rosto —, o que poderia se correlacionar com a forma de eles detectam rostos falsos e autênticos. Deste modo, a maioria considerou deepfakes como mais confiáveis.

A distribuição da precisão do participante para (A) experimento 1 e experimento 2 (o desempenho casual é de 50%), e (B) classificações de confiança para o experimento 3 (uma classificação de 1 corresponde a menor confiança). Imagem: PNAS

No jornal PNAS, no qual o estudo foi publicado, os pesquisadores afirmam que isso se deve ao fato de que rostos falsos representam um composto da média de rostos. As faces brancas, tanto masculinas quanto femininas, foram as mais prováveis de serem classificadas incorretamente; com faces masculinas pontuando com menos precisão. “Lançamos uma hipótese de que as faces brancas são mais difíceis de classificar porque estão sobrerrepresentadas no conjunto de dados de treinamento StyleGAN2 e, portanto, são mais realistas”, escreveram os pesquisadores.

A tecnologia baseada em aprendizado de máquina surgiu pela primeira vez em 2017. Na época, houve muitas tentativas para se detectar deepfakes e esforços de empresas privadas e orçamentos governamentais criados para combatê-las. Hoje, as deepfakes são criados para uso comercial.

De acordo com os pesquisadores, “as técnicas atuais não são eficientes ou precisas o suficiente para enfrentar uma enxurrada de uploads diários”, o que dificulta cada vez mais a nossa capacidade de discernir o falso do real.

Via Vice