Reconhecimento facial: Comissão recomenda banir uso da tecnologia

Após mais de 20 horas de debate ouvindo mais de 60 especialistas, a Comissão de juristas (CJSUBIA) responsável por elaborar uma proposta de regulamentação da inteligência artificial (IA) no Brasil concluiu a primeira fase dos trabalhos. A limitação e banimento de tecnologias de alto risco para a sociedade, que afetam minorias e crianças, ou reproduzam padrões de discriminação, foi uma das principais recomendações apresentadas pelos especialistas.

Com a conclusão desta primeira fase na última quarta-feira (18), que discutiu as diferentes classes de inteligência artificial e diferentes usos; impactos da tecnologia e seus riscos; a responsabilidade de desenvolvedores, fabricantes e usuários; além de modelos de regulação e fiscalização, a relatora do colegiado e jurista, Laura Schertel Mendes, apresentou um balanço dos debates sobre a regulação da IA, destacando a reprodução do racismo relacionado à tecnologia de reconhecimento facial.

De acordo com Mendes, especialistas apontaram o risco de ‘discriminação algorítmica’ em ferramentas voltadas à identificação de suspeitos por crimes nas mãos da segurança pública. Alguns dos participantes levantaram a necessária ‘correção de vieses’ dos algoritmos para uso da tecnologia.

“Ao reconhecermos o racismo estrutural, não podemos aceitar que técnicas simplesmente reproduzam, codifiquem e consolidem para o futuro essa discriminação pretérita e atual da sociedade. A solução é a abertura para um futuro diferente, mais igualitário e não a reprodução de estruturas discriminatórias e racistas”, apontou Mendes.

Imagem: Geraldo Magela/Agência Senado

Durante as audiências também foram levantas questões sobre a preocupação com as crianças, questões de responsabilidade civil e a mineração de dados para fins de pesquisa. De acordo com a relatora, há um consenso sobre a necessidade de regulamentação desses temas por meio de ‘procedimentos e normas concretas’, e não apenas sob a forma de princípios gerais. “De modo geral vimos em todos os dias das audiências a necessidade de irmos além dos projetos atuais de forma a trazer maior concretude na aplicação de direitos normas e obrigações”, salientou.

“Todos os participantes destacaram essa necessidade da regulação como forma de mitigação de seus riscos: vigilantismo, perda de autonomia, discriminação e risco à participação democrática. Todos os direitos humanos podem ser afetados pela inteligência artificial, então estamos falando do fim do nosso futuro. A complexidade do fenômeno exige a combinação de instrumentos regulatórios, sempre respeitando a diversidade de aplicações e de riscos de inteligência artificial”, destacou.

Embora a primeira fase de debates e audiências tenha sido finalizado na última quarta, a Comissão ainda vai receber sugestões externas até 10 de junho. Interessados em contribuir com a discussão, devem mandar um e-mail com a sugestão para cjsubia@senado.leg.br ou para o Protocolo do Senado Federal (Ala Senador Alexandre Costa, Sala 15, subsolo).

Imagem: Trismegist San/Shutterstock

Outras discussões sobre inteligência artificial

Anteriormente a criação da Comissão, a inteligência artificial já era pauta de diversos projetos de lei sob análise dos senadores. Eles foram citados durante a criação do colegiado:

• PL 5.051/2019: define princípios para uso da inteligência artificial no Brasil (autoria de Styvenson Valentim (Podemos-RN));
• PL 21/2020: regulamenta o uso da inteligência artificial; em análise no Senado (autoria de Eduardo Bismarck (PDT-CE));
• PL 872/2021: disciplina o uso desse tipo de recurso no país (autoria de Veneziano Vital do Rêgo (MDB-PB)).

Via Agência Senado