Alexa, da Amazon, propõe desafio letal à criança de 10 anos

“O desafio é simples. Conecte um carregador de telefone pela metade em uma tomada, depois toque uma moeda na parte exposta”. Este foi o desafio proposto pela assistente virtual alimentada por inteligência artificial Alexa, da Amazon, à uma criança de 10 anos. Além de causar ferimentos graves com risco de choque e incêndio devido às faíscas e curto-circuito, o desafio poderia ser letal.

A mãe, que estava próxima quando o episódio aconteceu, repreendeu imediatamente a assistente virtual. A falta de curadoria no conteúdo coletado a partir de motores de busca e sites de terceiros para sugerir ideias aos desafios, têm preocupado Kristin Livdahl e usuários da Alexa na mesma condição. Equipados com inteligência artificial, tais assistentes virtuais têm representado uma ameaça para a segurança dos filhos.

OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8

— Kristin Livdahl (@klivdahl) December 26, 2021

A assistente está presente em todos os produtos inteligentes com alto-falantes como Echo, Echo Dot e Amazon Tap. Diferentemente de outros assistentes como a Siri, da Apple, apenas a Alexa compreende o comando “me diga um desafio para fazer”.

Por se tratar de uma IA alimentada por mecanismo de busca e conteúdo de terceiros, o desafio sugerido pela Alexa pode ter sido influenciado a partir de um post do ourcommunitynews.com de janeiro de 2020. À época, o mesmo desafio da tomada era tendência no TikTok.

O episódio com a filha de Livdahl com os alto-falantes da Amazon parece não ser um caso isolado. Desafios perigosos ou estranhos sugeridos pela Alexa têm aparecido para outros usuários também, como relatou o perfil de John, no Twitter.

Imagem: @LimpStack/Twitter

Após o incidente com a filha de Livdahl ser noticiada, a Amazon declarou à Indy100 que corrigiu o problema. Entretanto, não explicou as causas dele. “A confiança do cliente está no centro de tudo o que fazemos e a Alexa foi projetada para fornecer informações precisas, relevantes e úteis aos clientes. Assim que tomamos conhecimento deste erro, tomamos medidas rápidas para corrigi-lo”, disse um porta-voz da empresa.

A mãe da vítima disse que o aparelho Echo foi um presente e era usado principalmente como temporizador e tocador de músicas e podcasts. “Foi um bom momento para atravessar pela segurança na internet e não confiar nas coisas que você lê sem pesquisar e verificar novamente”. Achávamos que a fossa do YouTube era o que precisávamos nos preocupar com esta idade – com acesso limitado à internet e à mídia social – mas não era a única coisa”, adiciona Livdahl.

Via Bleeping Computer