Algoritmos racistas, até quando?, pág

ALGORITMOS RACISTAS, ATÉ QUANDO?

P o r F a b i o R i t t e r

O pensamento científico é encantador por muitas razões, uma delas é a expressão das capacidades humanas. A ciência ao contrário dos humanos não discrimina. Dois mais dois sempre serão quatro, independentemente do seu sexo, cultura, raça ou nacionalidade. Mas e se eu disser que a interpretação de dados digitais brutos muda para as pessoas pretas? Um documentário da Netflix, Coded Bias, examina os preconceitos perturbadores dos algoritmos e das máquinas.

O documentário tem cerca de 85 minutos e investiga a definição histórica da inteligência artificial, que a pouco tempo era do restrita ao jogo de xadrez, por exemplo. O documentário traça a gênese da Inteligência Artificial (IA), chegando ao Dartmouth College em 1956, onde algumas dezenas de homens (brancos) decidiram a base da tecnologia. Ele discute a ficção científica, o domínio padrão de homens brancos heterossexuais por décadas.

Essa abordagem histórica de dados e algoritmos só reforça que as novas máquinas não estão criando uma nova sociedade, argumenta o documentário, mas apenas replicando os padrões discriminatórios do velho mundo, como sexismo, classicismo e racismo.

O documentário acompanha Joy Buolamwini, uma cientista da computação do Massachusetts Institute of Technology que é vítima do software automatizado discriminatório. Joy, que acabou se tornando um ativista digital, percebeu que o software de reconhecimento facial de inúmeros APPS não conseguiam registrar sua presença, pois estavam programados para reconhecer indivíduos brancos. A ausência de reconhecimento é um apagamento da identidade e da ancestralidade da própria Joy.

Coded Bias faz perguntas perspicazes sobre o estado do nosso mundo, justapondo o avanço tecnológico com inúmeras lacunas sociais. Quando a Amazon usou software automatizado para contratação, rejeitou todas as candidatas do sexo feminino. Essa discriminação não foi aleatória: menos de 14% das mulheres ocupam posições de poder na gigante da tecnologia.

O alcance da IA – e seu uso para controlar uma grande população – não se restringe apenas a um país. A China recebe muitas críticas por sua pontuação de crédito social, já nos EUA 117 milhões de pessoas têm seus rostos nos bancos de dados das agências governamentais e sujeitas a aplicação da lei, cerca de uma em cada três pessoas no país está neste arquivo digital.

Analisando diferentes facetas do crescimento tecnológico, Coded Bias retrata uma imagem abrangente – às vezes aterrorizante – de um mundo lutando em seu domínio. Examina o lado vicioso das máquinas, ponderando o crescente abismo entre o matemático e o ético. A tecnologia, no universo de Coded Bias, não é algo que vai nos salvar – é algo de que devemos nos salvar.

O que é uma das principais preocupações do documentário: máquinas desumanizando pessoas. Um software automatizado, por exemplo, começou a avaliar professores no Texas, determinando sua competência. Mas esses parâmetros não são divulgados, agravando o processo de exame humilhante. “Como esse algoritmo pode me definir?” pergunta um professor em Houston, “Como se atreve?”.

Coded Bias apresenta uma visão desconcertante do futuro: máquinas moldando um mundo tirânico negando às pessoas seus direitos básicos. Mas o documentário extrapola essa questão: quem está orquestrando o controle real? Corporações, com a intenção de vender pessoas de diferentes maneiras. Primeiro, eles programaram e monetizaram nossas preferências de compra e agora estão sufocando nossas liberdades civis. “Não é o que a IA fará conosco por conta própria, é o que os poderosos farão conosco com a IA.”

Nossos governantes não mudaram; eles apenas delegaram máquinas para fazer o trabalho sujo para eles.

Você profissional que atua com técnicas visagistas deve reconhecer, entender e buscar conhecimento sobre essas pautas e informações. Já presenciei profissionais que preferem continuar utilizando VISAMIOJO (visagismo que julga e padroniza pessoas) do que estudar o visagismo em sua matriz acadêmica. Infelizmente esses “profissionais” não reconhecem o racismo, a misoginia e o sexismo nas técnicas aplicadas de forma padronizada, aliás hoje em dia muitos APPS de coloração pessoal e mensuração facial dizem o que você deve fazer e usar, baseado em quê? Em dados de um programador, talvez branco e hétero que inseriu dados para manter seu emprego nesta determinada empresa sem entender a magnitude da situação.

Quem nos salvará das máquinas, do visamiojo ... e de nós mesmos?

Fabio Ritter

Visagista Acadêmico - Brasil Prof. Mestre - PUC