Thiago Fragata*
Em abril de 2024, João Antônio Trindade
Bastos, 23 anos, foi detido durante um jogo de futebol do seu time, Confiança, em
Aracaju. (1) Ano passado, na cidade de São Paulo, Francisco Ferreira da Silva, um
senhor 80 anos, foi abordado enquanto prestava trabalho voluntário e conduzido à
delegacia. Ambos foram identificados e confundidos por meio do moderno sistema de
reconhecimento facial. Assim que o cruzamento de dados revelou as discrepâncias
e a polícia confirmou erro, os cidadãos constrangidos foram liberados. Estes e
outros casos similares refletem um padrão histórico de prisões injustas contra
a população negra. Isso mesmo, as vítimas eram homens negros. Essa padronização
do potencial suspeito, parece-me a ressureição do “criminoso nato”, da teoria proposta
por Cesare Lombroso (1835/1909). Será exagero? Vejamos...
O professor do Departamento de Educação,
da Universidade Federal do Maranhão (UFMA) e especialista na área da Inteligência
Artificial na Educação, João Batista Bottentuit Junior, explica que o termo foi
criado para exemplificar um novo tipo de preconceito racial, “racismo
algorítmico é quando os sistemas de inteligência artificial ou algoritmos
desses sistemas acabam reproduzindo ou ampliando preconceitos raciais
existentes. Diferente do racismo estrutural, que está presente em instituições,
leis e práticas sociais historicamente construídas, o racismo algorítmico surge
de forma mais invisível, pois está embutido nas tecnologias que usamos no dia a
dia. Ele é uma manifestação mais técnica, mas que reflete o racismo estrutural
da sociedade, porque os dados e as decisões automatizadas são baseados em
informações que carregam esses vieses. Isso ocorre porque os textos nas bases
estão escritos muitas vezes com termos ou conteúdos racistas, e os algoritmos
terminam por reproduzir esse comportamento no novo texto produzido”. (2) Ou seja,
algoritmos aprendem a partir dos dados
que recebem, e esses dados vêm da realidade marcada por desigualdades e
preconceitos. Se o conjunto de dados é parcial ou injusto, o resultado desvela injustiças.
Em meados do século XIX, cientistas europeus
inspirados na teoria evolucionista de Charles Darwin (1809/1882) forjaram uma
explicação para a diferença da raça humana. Assim, nasceu o evolucionismo
científico (no século XX receberia nome de racismo científico), que colocava o
branco europeu como ápice da espécie humana, portanto, um legítimo civilizador.
Se até então, o discurso para invasão de territórios era pautado na missão
divina da cristandade, a nova base adotada em meados do século dezenove, na
"partilha colonial", foi racializada, constituída a partir de uma
pretensa verdade científica embasada num discurso eugenista.
Animado com esse ideário científico vigente,
que favorecia o povo europeu, o médico italiano Cesare Lombroso desenvolveu uma
teoria eugênica, do “criminoso nato”. Ele é considerado o pai da
criminologia em face da sua contribuição ao inserir método científico nas investigações
policiais. Da pretensa hipótese científica inicial que prometia provar que
características físicas, fenotípicas, como o tamanho do crânio (craniometria),
por exemplo, indicava sujeitos propensos ao crime, a perspectiva lombrosiana tornou-se
a legitimação do racismo, a sentença baseada na raça. No século XX, a teoria do
“criminoso nato” caiu em descrédito, mas reaparece toda vez que alguém é tomado
como suspeito por ser negro. (3)
Se a tecnologia do reconhecimento facial
segue o padrão da sociedade racializada, lombrosiana, ela não é neutra muito menos
pensada para a diversidade. Assim como a fotografia, a festejada Inteligência Artificial
segue mesma lógica. É o professor Dr. Zulu Araújo, ex-presidente da Fundação
Palmares, quem alerta em “Algoritmo, Inteligência Artificial e racismo: a nova
face de um velho problema”, matéria da Revista Raça, de abril corrente. Diz
assim:
“Não existe neutralidade quando o mundo
é desigual. Nem a inteligência artificial nem o algoritmo pairam acima da
sociedade. Pelo contrário, nascem e crescem dentro dela, ainda mais no Brasil,
que possui uma estrutura profundamente racista e desigual. Por isso mesmo, não
dá para termos a ilusão de que os algoritmos e a inteligência artificial são
neutros. Em verdade, são decisões codificadas. Escolhas políticas disfarçadas
por técnicas sofisticadas. Portanto, o que estamos vendo hoje, não é inovação
tecnológica apenas. É a digitalização das desigualdades e dentro delas o
racismo. E isso está ocorrendo em várias áreas: econômica, social, ambiental,
de gênero ou sexual. Na segurança pública, por exemplo, o reconhecimento facial
já funciona como uma nova forma de suspeição automática. E essa suspeição tem
alvo: corpos negros e pobres”.
A resposta é sim, apesar dos casos de
sucesso (identificação de foragidos, de sujeitos que desrespeitam medidas
protetivas, etc) a tecnologia que norteia o reconhecimento facial é lombrosiana,
ou seja, é a “arma branca” (o trocadilho é intencional) do racismo institucional.
Lembrar disso, toda vez que se frustrar durante o reconhecimento facial no aplicativo
do seu banco, eu sempre deixo para o dia seguinte, sol a pino, tendo ao fundo
uma parede branca...
FONTES DA PESQUISA
1 - Medo, frustrado e constrangido', diz homem detido por engano em estádio após erro do sistema de reconhecimento facial. G1, matéria do Fantástico, consulta em 26/4/2026 https://g1.globo.com/fantastico/noticia/2024/04/21/medo-frustrado-e-constrangido-diz-homem-detido-por-engano-em-estadio-apos-erro-do-sistema-de-reconhecimento-facial.ghtml
2 - Racismo algorítmico e os impactos sociais: professor da UFMA explica os desafios no /combate à discriminação racial na era da Inteligência Artificial. Consulta 17/3/2026 https://portalpadrao.ufma.br/site/noticias/racismo-algoritmico-e-os-impactos-sociais-professor-da-ufma-explica-os-desafios-no-combate-a-discriminacao-racial-na-era-da-inteligencia-artificial
3 - MACHADO, Daniel Dias. Teoria de Cesare Lombroso e sua influência na sociedade. São Paulo: Dialética, 2021.
4 - ARAUJO, Zulu. Algoritmo, Inteligência Artificial e Racismo – a nova face de um velho problema. Revista Raça. Abril 2026, consulta em 26/4/2026
https://revistaraca.com.br/algoritmo-inteligencia-artificial-e-racismo-a-nova-face-de-um-velho-problema/
.jpeg)
