Twitch ativa ferramenta de banimento baseada em machine learning

A Twitch aumentou seus esforços para reduzir o assédio online com uma nova ferramenta. Chamado de Detecção de Usuários Suspeitos, o recurso usa aprendizado de máquina para identificar usuários que são “possíveis” ou “qualificáveis” como invasores banidos de um canal.

Essa é a última novidade do serviço de streaming para combater campanhas de ódio, por meio das quais o chat de streamers é tomado por trolls que enviam mensagens ofensivas.

A tecnologia se baseia em um modelo de machine learning que identifica aspectos como comportamento e características da conta e os compara às informações de pessoas banidas previamente.

(Imagem – iStock)

Twitch identificando suspeitos

As mensagens de possíveis invasores nem aparecem no chat, mas streamers e moderadores ainda poderão vê-las. O passo seguinte é decidir se o usuário deve ser posto em uma lista de monitoramento ou banido diretamente. Contas “qualificáveis” como invasoras aparecerão no chat, mas os administradores da transmissão poderão bloquear essas mensagens também.

A Twitch diz que a ferramenta estará sempre habilitada por padrão, mas donos de canais podem modificar ou desativar a opção se desejarem. É possível, ainda, selecionar manualmente usuários tidos como suspeitos desse tipo de infração.

Nova ferramenta de Detecção de Usuários Suspeitos (Imagem – Twitch)

A produtora de saúde da comunidade da Twitch, Alison Huffman, disse ao The Verge que a ferramenta foi inspirada por feedback de usuários e tem como vantagem a possibilidade de diferenciar pessoas que mandam mensagens inadequadas e que seriam ofensores frequentes daquelas que são novos usuários e que ainda não tinham conhecimento sobre as regras do canal. Com a ferramenta, os criadores poderão fazer decisões mais corretas na hora do banimento.

A detecção também pode ser vantajosa para silenciar mensagens de ódio, especialmente quando usada em conjunto com novos controles de moderação que exigem a verificação de número de telefone ou e-mail para habilitar a participação no chat. Pode acontecer, no entanto, de usuários frequentemente banidos encontrarem novas maneiras de contornar a detecção.

Plataforma está atenta aos banimentos

A Twitch está cada vez mais atenta e pronta para banir usuários e, algumas vezes, pode ser até rigorosa demais. O streamer brasileiro Gaules foi um dos banidos que conseguiu voltar. Na ocasião, ele transmitia um jogo da NBA.

Embora a Twitch possua regras rígidas contra transmissões de campeonatos sem a devida autorização, Gaules possui os direitos legais de exibição da liga de basquete americana na plataforma.

Assim, das duas, uma: ou o bot de punições do serviço acabou fazendo o escaneamento incorreto, ou o streamer exibiu a disputa esportiva para outras regiões nas quais ele não tinha os direitos. Ao menos, por ora, a plataforma não informou o motivo da punição.

Naturalmente, fãs do mundo todo repercutiram o ban ao streamer nas redes sociais. Diversas mensagens de apoio foram enviadas ao brasileiro que, por sua vez, procurou acalmar a comunidade e amenizar a situação.

A punição demorou cerca de nove horas para ser revertida e, assim que a página foi reestabelecida na Twitch, Gaules abriu uma nova live para transmitir o campeonato mundial de Counter-Strike.