Soldados americanos vencem uma IA…se escondendo em caixas de papelão

Em algum lugar do mundo, Hideo Kojima está rindo copiosamente: um grupo de soldados norte-americanos conseguiu derrotar um sistema de inteligência artificial (IA) ao se esconder…em caixas de papelão.

Nem todo mundo vai entender isso, então vale contextualizar: na franquia de jogos Metal Gear Solid – criada por Kojima -, o protagonista Snake é um super agente de infiltração que, vez ou outra, engana soldados inimigos ao se esconder em caixas de papelão, com direito a andar com a caixa nas costas e em “passinhos de formiga”, como diz a expressão.

Não, não estamos brincando… (Imagem: Konami/Reprodução)

Agora que você já viu a, digamos, sagacidade da situação, vamos transportá-la à vida real: o grupo de soldados pertence aos fuzileiros navais estadunidenses (os “Marines”, se você quer ser técnico) e estavam ativamente trabalhando com engenheiros da Agência de Pesquisa em Projetos Avançados de Defesa (DARPA, na sigla em inglês).

O objetivo era, essencialmente, treinar uma IA para que ela aprendesse a identificar os movimentos humanos em suas mais variadas formas e ser avaliada como sistema de vigilância: durante sete dias, os soldados caminharam, correram, engatinharam, agacharam…fizeram tudo o que podiam para “ensinar” o sistema. No oitavo dia, o objetivo era derrotá-lo.

E, de acordo com a publicação de Shashank Joshi, repórter especializado em defesa militar da Economist e autor de um livro sobre o uso da IA no exército, derrotar o sistema eles conseguiram…com caixas de papelão “no lombo”. Ele expôs o caso no Twitter:

These aren’t the marines you’re looking for. pic.twitter.com/qMwzJblQwp

— Shashank Joshi (@shashj) January 18, 2023

Oito soldados.

Um computador inteligente.

Um confronto. Um só resultado.

E o resultado foi: nenhum fuzileiro foi detectado: “eles derrotaram o sistema de IA usando não a camuflagem tradicional, mas truques ‘malandros’ que estavam fora do escopo de treinamento dele: dois avançaram dando cambalhotas por 300 metros. Dois se esconderam dentro de caixas de papelão. Dava para ouvi-los dando risada o tempo inteiro. Teve um outro cara (…) que quebrou lascas de uma figueira e começou a ‘andar’ como se fosse uma árvore’”.

O próprio Joshi disse que a situação é no mínimo pitoresca: sistemas de inteligência artificial são baseados em um conceito chamado “machine learning” – você exibe um comportamento para o computador, e esse computador “aprende” padrões desse mesmo comportamento, consequentemente antecipando determinadas ações.

Há inúmeros casos onde isso se mostrou bastante útil: o programa AlphaZero, da empresa DeepMind, conseguiu vencer 100 partidas repetidas de xadrez contra outro sistema de computador em 2017. o AlphaZero havia “aprendido” as regras do jogo em apenas quatro horas mais cedo no mesmo dia, e venceu um sistema especificamente desenhado para jogar xadrez. Cem vezes.

A ironia não nos é perdida aqui: se de um lado, a IA se mostrou inteligente o suficiente para, em meras horas, decorar regras e vencer campeões; no outro, ela falhou em aspectos onde um humano dificilmente falharia (que a gente saiba, não é? Convenhamos: se você é um vigia e não enxerga dois homens caminhando dentro de caixas de papelão, você meio que merece ser roubado, com o perdão da sinceridade…).

As capturas do tuíte referem-se a páginas do futuro livro assinado por Joshi e, infelizmente, ainda não tem previsão de lançamento.

via Shashank Joshi (Twitter) | Kasparov