O reconhecimento facial é uma nova ameaça para a população negra?

Há dois dias o Jornal Correio fez uma reportagem sobre uma abordagem policial violenta a um jovem de Salvador. Infelizmente, são muitos os casos desses tipos então o que havia de diferente nesse caso para que virasse uma matéria jornalística? Tudo começou com um falso-positivo do sistema de reconhecimento facial implantado pela Secretaria de Segurança Pública da Bahia. O sistema já possibilitou a prisão de 35 pessoas até o momento e já houve outras ocorrências de erros do algoritmo.

O grande problema é que podemos estar entrando em uma fase em que essas atitudes violentas sejam direcionadas por algoritmos racistas.

Nos últimos anos vimos uma série de algoritmos que possuem um comportamento racista e nós ainda estamos nos aprofundando nesse tipo de discussão. O MIT fez um estudo demonstrando que sistemas de reconhecimento facial possuem um erro médio de 0,8% para homens brancos, mas podem chegar até 34% ao reconhecer mulheres negras (https://oglobo.globo.com/economia/softwares-de-reconhecimento-facial-funcionam-bem-mas-apenas-para-homens-brancos-22411486). A responsável por esse estudo é a pesquisadora Joy Buolamwini, que explica sobre sua atuação nesse TEDx. Ela criou a Liga da Justiça do Algoritmo para combater essa força invisível.

O governo do Reino Unido foi acusado de implantar um sistema racista para o reconhecimento de fotos no passaporte. A acusação é que o governo tinha informações que o sistema tinha piores resultados com pessoas de pele negra e ainda assim autorizou a implantação do sistema.

Uma das formas de resolver esse tipo de viés nos algoritmos é com mais diversidade. É comum que esses algoritmos tenham sido treinados com uma massa de dados muito maior de pessoas brancas do que pessoas negras, isso faz com que os sistemas tenham falhas em reconhecer características relevantes em pessoas negras. Além de que apenas a falta de vivência com pessoas negras pode ser um fator que atrapalha a normalização dos dados para o treinamento. Como cientistas de dados sabem, se você não conhece bem a sua massa de dados é possível que você crie um modelo que não corresponde à realidade. É isso acarreta um número elevado de falso-positivos.

O problema muda de escala quando algoritmos enviesados podem dar o aval para uma ação policial que pode ser truculenta e ameaçadora. Há ainda a estatística de que 90% dos presos por esses sistemas de reconhecimento facial no Brasil são negros. Em um país em que tivemos casos como os jovens assassinados com 111 tiros e também da menina Ágatha, os algoritmos de reconhecimento facial podem ser mais um vetor de violência contra a população negra.

O caso do início do artigo é um retrato dessa situação, quando um policial aponta uma arma antes de qualquer confirmação de identidade direcionado por um algoritmo que falhou em reconhecer características. De um lado precisamos ter um crivo maior no desenvolvimento de algoritmos de inteligência artificial que suportem a diversidade que os humanos possuem e do outro agentes policiais melhor treinados para colaborar com esses tipos de sistemas.

Inscreva-se para receber conteúdos sobre tecnologia e inteligência artificial por email

O reconhecimento facial é uma nova ameaça para a população negra?

Inscreva-se para receber conteúdos sobre tecnologia e inteligência artificial por email

Copyright 2025 © Todos os direitos reservados. Design por Lucas Santana.

Vamos conversar?

Que tal receber por email conteúdos sobre novas tecnologias e inteligência artificial?