Thiago Fragata*
Em abril de 2024, João Antônio Trindade Bastos, 23 anos, foi detido durante um jogo de futebol do seu time, Confiança, em Aracaju. (1) Ano passado, na cidade de São Paulo, Francisco Ferreira da Silva, um senhor 80 anos, foi abordado enquanto prestava trabalho voluntário e conduzido à delegacia. Ambos foram identificados e confundidos por meio do moderno sistema de reconhecimento facial. Assim que o cruzamento de dados revelou as discrepâncias e a polícia confirmou erro, os cidadãos constrangidos foram liberados. Estes e outros casos similares refletem um padrão histórico de prisões injustas contra a população negra. Isso mesmo, as vítimas eram homens negros. Essa padronização do potencial suspeito, parece-me a ressureição do “criminoso nato”, da teoria proposta por Cesare Lombroso (1835/1909). Será exagero? Vejamos...
O professor do Departamento de Educação, da Universidade Federal do Maranhão (UFMA) e especialista na área da Inteligência Artificial na Educação, João Batista Bottentuit Junior, explica que o termo foi criado para exemplificar um novo tipo de preconceito racial, “racismo algorítmico é quando os sistemas de inteligência artificial ou algoritmos desses sistemas acabam reproduzindo ou ampliando preconceitos raciais existentes. Diferente do racismo estrutural, que está presente em instituições, leis e práticas sociais historicamente construídas, o racismo algorítmico surge de forma mais invisível, pois está embutido nas tecnologias que usamos no dia a dia. Ele é uma manifestação mais técnica, mas que reflete o racismo estrutural da sociedade, porque os dados e as decisões automatizadas são baseados em informações que carregam esses vieses. Isso ocorre porque os textos nas bases estão escritos muitas vezes com termos ou conteúdos racistas, e os algoritmos terminam por reproduzir esse comportamento no novo texto produzido”. (2) Ou seja, algoritmos aprendem a partir dos dados que recebem, e esses dados vêm da realidade marcada por desigualdades e preconceitos. Se o conjunto de dados é parcial ou injusto, o resultado desvela injustiças.
Em meados do século XIX, cientistas europeus inspirados na teoria evolucionista de Charles Darwin (1809/1882) forjaram uma explicação para a diferença da raça humana. Assim, nasceu o evolucionismo científico (no século XX receberia nome de racismo científico), que colocava o branco europeu como ápice da espécie humana, portanto, um legítimo civilizador. Se até então, o discurso para invasão de territórios era pautado na missão divina da cristandade, a nova base adotada em meados do século dezenove, na "partilha colonial", foi racializada, constituída a partir de uma pretensa verdade científica embasada num discurso eugenista.
Animado com esse ideário científico vigente, que favorecia o povo europeu, o médico italiano Cesare Lombroso desenvolveu uma teoria eugênica, do “criminoso nato”. Ele é considerado o pai da criminologia em face da sua contribuição ao inserir método científico nas investigações policiais. Da pretensa hipótese científica inicial que prometia provar que características físicas, fenotípicas, como o tamanho do crânio (craniometria), por exemplo, indicava sujeitos propensos ao crime, a perspectiva lombrosiana tornou-se a legitimação do racismo, a sentença baseada na raça. No século XX, a teoria do “criminoso nato” caiu em descrédito, mas reaparece toda vez que alguém é tomado como suspeito por ser negro. (3)
Se a tecnologia do reconhecimento facial segue o padrão da sociedade racializada, lombrosiana, ela não é neutra muito menos pensada para a diversidade. Assim como a fotografia, a festejada Inteligência Artificial segue mesma lógica. É o professor Dr. Zulu Araújo, ex-presidente da Fundação Palmares, quem alerta em “Algoritmo, Inteligência Artificial e racismo: a nova face de um velho problema”, matéria da Revista Raça, de abril corrente. Diz assim:
“Não existe neutralidade quando o mundo é desigual. Nem a inteligência artificial nem o algoritmo pairam acima da sociedade. Pelo contrário, nascem e crescem dentro dela, ainda mais no Brasil, que possui uma estrutura profundamente racista e desigual. Por isso mesmo, não dá para termos a ilusão de que os algoritmos e a inteligência artificial são neutros. Em verdade, são decisões codificadas. Escolhas políticas disfarçadas por técnicas sofisticadas. Portanto, o que estamos vendo hoje, não é inovação tecnológica apenas. É a digitalização das desigualdades e dentro delas o racismo. E isso está ocorrendo em várias áreas: econômica, social, ambiental, de gênero ou sexual. Na segurança pública, por exemplo, o reconhecimento facial já funciona como uma nova forma de suspeição automática. E essa suspeição tem alvo: corpos negros e pobres”.
A resposta é sim, apesar dos casos de sucesso (identificação de foragidos, de sujeitos que desrespeitam medidas protetivas, etc) a tecnologia que norteia o reconhecimento facial é lombrosiana, ou seja, é a “arma branca” (o trocadilho é intencional) do racismo institucional. Lembrar disso, toda vez que se frustrar durante o reconhecimento facial no aplicativo do seu banco, eu sempre deixo para o dia seguinte, sol a pino, tendo ao fundo uma parede branca...
*Texto publicado no JORNAL DO DIA. Aracaju, ano XXII, N. 7106, 5 de maio de 2026, p 4.
FONTES DA PESQUISA
1 - Medo, frustrado e constrangido', diz homem detido por engano em estádio após erro do sistema de reconhecimento facial. G1, matéria do Fantástico, consulta em 26/4/2026 https://g1.globo.com/fantastico/noticia/2024/04/21/medo-frustrado-e-constrangido-diz-homem-detido-por-engano-em-estadio-apos-erro-do-sistema-de-reconhecimento-facial.ghtml
2 - Racismo algorítmico e os impactos sociais: professor da UFMA explica os desafios no /combate à discriminação racial na era da Inteligência Artificial. Consulta 17/3/2026 https://portalpadrao.ufma.br/site/noticias/racismo-algoritmico-e-os-impactos-sociais-professor-da-ufma-explica-os-desafios-no-combate-a-discriminacao-racial-na-era-da-inteligencia-artificial
3 - MACHADO, Daniel Dias. Teoria de Cesare Lombroso e sua influência na sociedade. São Paulo: Dialética, 2021.
4 - ARAUJO, Zulu. Algoritmo, Inteligência Artificial e Racismo – a nova face de um velho problema. Revista Raça. Abril 2026, consulta em 26/4/2026
https://revistaraca.com.br/algoritmo-inteligencia-artificial-e-racismo-a-nova-face-de-um-velho-problema/



Nenhum comentário:
Postar um comentário
Deixe seu comentário sobre essa matéria.