Uma comissão de juristas formada pelo Senado brasileiro para discutir a regulamentação da inteligência artificial no país parece unânime na ideia do banimento dos sistemas de reconhecimento facial pela polícia. Em um balanço dos debates que ocorreram desde abril, em Brasília (DF), a ideia foi contrária à utilização da tecnologia, que foi avaliada como reprodutora de racismo estrutural.

Ao apresentar as conclusões, a relatora e jurista Laura Schertel Mendes apontou o risco de discriminação algorítmica na utilização de plataformas desse tipo para reconhecer suspeitos e acusados de crime. A ideia é que as plataformas de reconhecimento facial podem reproduzir o racismo embutido na sociedade e não combinam com a proposta de maior abertura e igualdade que acompanha a modernização dos sistemas judiciários.

Além disso, ela apontou a preocupação quanto ao mau uso de dados coletados por tais sistemas, principalmente em relação a crianças e operações de mineração de dados. Na visão de Mendes, há a necessidade de estabelecimento de regulações que garantam a segurança e estejam de acordo com a complexidade na utilização de tais tecnologias, levando em conta, também, os riscos envolvidos em sua adoção.

“Além dos vieses raciais já mencionados, tais [sistemas] oferecem riscos intrínsecos à liberdade e privacidade da população em geral e à própria democracia”, comenta Marcelo Cárgano, advogado da área de direito digital e proteção de dados do escritório Abe Advogados. “Basta imaginar o uso indiscriminado por um governo de inclinações autoritárias para perseguir seus opositores e implantar uma plataforma de vigilância em massa.”

A ideia da comissão, que reunião mais de 160 especialistas em 12 painéis, é criar subsídios para a produção de um projeto de lei substitutivo, que reúna diferentes projetos de lei que tramitam no Senado sobre o tema. São três ao todo, focados na regulamentação e disciplina na utilização de sistemas de inteligência artificial, dos quais as tecnologias de reconhecimento facial também fazem parte.

A proposta acompanha preocupação internacional sobre o tema, como aponta Cárgano. Ele lembra que outras consultas públicas desse tipo estão ocorrendo, por exemplo, no Conselho Europeu de Proteção de Dados), que entendeu que o uso do reconhecimento facial tem impactos sobre a liberdade de movimento, reunião e a dignidade humana. “Seu uso em espaços públicos não tem lugar em uma sociedade democrática, com os receios não sendo hipotéticos ou exagerados, mas a partir de exemplos concretos”, completa. […]

A comissão formada pelo Senado recebe sugestões externas por e-mail ou pessoalmente até o dia 10 de junho. Depois, a ideia é auxiliar a casa na aprovação de um projeto que garanta a liberdade e possua regras claras sobre a utilização da inteligência artificial e sistemas de reconhecimento facial no país.

Confira aqui a notícia completa.