Imagem produzida por IA
Por ADVÉRBIO NEGRO:
Estudos do MIT revelam que algoritmos de reconhecimento facial apresentam até 34% mais erros na identificação de mulheres negras em comparação com homens brancos, cujo índice de erro é inferior a 1%. No Brasil, a situação é ainda mais alarmante: 90,5% das pessoas presas por reconhecimento facial são negras, segundo a Rede de Observatórios da Segurança. Esses dados não são meras estatísticas — são evidências de um sistema que criminaliza corpos negros com base em tecnologia enviesada.
O problema não reside apenas na tecnologia, mas nos dados que alimentam os algoritmos. Bancos de imagens majoritariamente compostos por rostos brancos ensinam os sistemas a reconhecer melhor esses perfis, enquanto falham com rostos negros. Isso gera o chamado racismo algorítmico, uma forma sofisticada de discriminação que se esconde sob a aparência de neutralidade técnica.
A tecnologia é usada como argumento de autoridade, legitimando prisões e ações policiais sem contestação. O caso de um homem negro preso por 26 dias na Bahia, após ser erroneamente identificado por um sistema de reconhecimento facial, ilustra como essas ferramentas podem destruir vidas. O projeto “Smart Sampa”, com 13 mil câmeras em São Paulo, reacendeu o debate sobre perfilamento racial e vigilância em massa.
A ausência de leis específicas para o uso de inteligência artificial na segurança pública permite que essas tecnologias operem sem transparência ou controle social. Organizações como a Conectas recomendam a suspensão imediata do uso de reconhecimento facial até que se prove que os sistemas estão livres de viés racial e de gênero.
Sem regulamentação, a tendência é de expansão do uso dessas tecnologias, aprofundando desigualdades. Estudos indicam que algoritmos tendem a reforçar padrões históricos de exclusão, pois aprendem com dados que refletem a realidade racista do Estado brasileiro. A tecnologia, nesse contexto, não é neutra — é uma extensão das estruturas de poder.
A tecnologia de reconhecimento facial, quando aplicada sem critérios éticos e legais, transforma-se em uma ferramenta de opressão. É imperativo que o Brasil avance na criação de leis que regulamentem o uso da inteligência artificial, com foco na justiça racial, transparência e controle social. O futuro da segurança pública não pode ser construído sobre algoritmos que perpetuam o encarceramento e a violência contra a população negra.
Fontes:
Revista REASE sobre racismo algorítmico
Revista RUA - Discriminação Codificada
G1 - Prisões indevidas na Bahia por reconhecimento facial
