DeepMind, do Google, cria método para marcar imagens criadas por IA

Um dos debates mais acalorados da informática recente pode estar perto do fim: a DeepMind, empresa de pesquisa em inteligência artificial (IA) do Google, desenvolveu um novo método para marcar discretamente imagens geradas por ferramentas de IA generativa, como o Imagen e similares.

Essencialmente, a novidade – chamada SynthID – cria uma ‘marca d’água’ que identifica imagens geradas pelos recursos contemporâneos, impedindo que alguém possa fazê-las passar por criações reais. Mais além, as marcas ficam incorporadas ao arquivo independente da aplicação de filtros ou outras edições.

Atualmente, a ferramenta da DeepMind está em testes dentro da Vertex AI, a plataforma de IA generativa interna do Google. Mais além, é importante ressaltar que, ao menos por enquanto, a SynthID só funciona no Imagen, que é a ferramenta de geração de imagens da empresa de Mountain View. Ainda não há informações de qualquer previsão sobre ela atuar sobre as outras ferramentas.

“Tecnologias de IA generativa estão evoluindo rapidamente, e imagens geradas por computador, também conhecidas como ‘imagens sintéticas’, estão se tornando mais difíceis de serem separadas daquelas que não foram desenvolvidas por um sistema de IA.

Ainda que a IA generativa possa permitir um imenso potencial criativo, ela também traz novos riscos, como permitir que seus criadores espalhem desinformação – intencionalmente ou não. Ser capaz de identificar conteúdo gerado por IA é essencial para o empoderamento das pessoas com o conhecimento de que, quando elas interagem com a geração de mídia, e para auxiliar na prevenção da disseminação da desinformação.

Estamos comprometidos em conectar pessoas com informações de alta qualidade, e elevar a confiança entre criadores e usuários por toda a sociedade. Parte dessa responsabilidade envolve dar aos usuários ferramentas mais avançadas de identificação de imagens geradas por IA para que as suas próprias imagens — e até versões editadas delas — possam ser identificadas posteriormente.” – DeepMind

Imagem: DeepMind/Reprodução

Em outras palavras: a SynthID não só encontra e marca imagens geradas por IA. A ferramenta da DeepMind também é capaz de marcar edições de IA feitas depois da criação de imagens reais.

Com as imagens de ferramentas de IA tornando-se cada vez mais realistas e profissionais como designers e outros artistas digitais se levantando contra os abusos que tais softwares podem trazer às suas carreiras, certamente a criação da DeepMind promete vir para ajudar. Resta saber quando a tecnologia chegará em caráter universal.