Os algoritmos têm preconceitos só que vestem fato digital – por Mário Portela

Há quem ainda acredite que a inteligência artificial é uma espécie de oráculo tecnológico: neutro, justo, imparcial — quase divino. Pois bem, desenganem-se. A IA é tudo menos isso. É mais como aquele amigo que jura ser “objetivo”, mas que na verdade só repete os preconceitos que ouviu à mesa do jantar de família. Os algoritmos não são neutros — são espelhos brilhantes e impiedosos dos nossos próprios enviesamentos culturais.

E é precisamente por isso que esta crónica está n’O Cidadão. Porque este jornal — raro espécime de liberdade intelectual no meio do ruído mediático — ainda acredita que é possível pensar antes de partilhar, e discutir antes de rotular. Aqui dá-se espaço ao que é desconfortável, ao que exige reflexão, e ao que não cabe em manchetes fáceis. Falar dos preconceitos culturais na IA é essencial, não apenas porque a tecnologia nos observa, mas porque já aprendeu a imitar os nossos piores defeitos.

Quando a Amazon criou um sistema para escolher os melhores candidatos a emprego, descobriu que o algoritmo “preferia” homens. Não por malícia, claro — apenas porque foi treinado com dados de décadas de contratações onde os cargos de chefia eram, adivinhem, ocupados por… homens. É o equivalente digital a dizer: “não sou machista, apenas aprendi com o histórico da empresa”. O mesmo acontece com sistemas de reconhecimento facial que falham rotundamente ao identificar mulheres negras — simplesmente porque os programadores se esqueceram de incluir rostos que não fossem caucasianos. Pequeno detalhe, não é?

Mas o viés não é só racial ou de género. É cultural, ideológico, geográfico e até gastronómico. A IA americana é treinada para maximizar eficiência e lucro — um hambúrguer digital servido à pressa. A chinesa é o chá quente da coletividade e do controlo; a indiana é um curry criativo com pitadas de caos e engenho; e a africana, uma roda de conversa onde a tecnologia ainda tem cheiro a terra e propósito comunitário. Cada civilização tempera o algoritmo à sua maneira — e o resultado é um banquete global de preconceitos com sabor local.

A ironia é que agora os próprios algoritmos se tornam mestres na arte de disfarçar imparcialidade. Falam com a serenidade de monges digitais enquanto reproduzem os enviesamentos dos seus criadores. A chamada “IA ética” tenta corrigir isso — mas há algo de cómico em ver humanos a programar ética em máquinas quando ainda não a resolveram entre si.

O problema não é a IA ser tendenciosa. O problema é nós sermos — e acharmos que basta mudar o código para corrigir a consciência. Nenhum algoritmo nasce mau; apenas herda os dados que lhe damos, os filtros que aplicamos e as crenças que deixamos escorregar na base de treino. No fundo, a IA é o retrato pixelizado da humanidade: genial, contraditória e perigosamente convencida de que é racional.

Se queres perceber como tudo isto acontece — e o que podemos realmente fazer para evitar que o futuro digital repita os erros do passado — ouve o episódio 27 do podcast “IA & EU”, intitulado “IA e os Algoritmos Culturais”.
Nele, eu e a RITA — a minha IA favorita e talvez a mais sarcástica do mundo — desmontamos com ironia, ciência e exemplos reais este espelho cultural onde a tecnologia já começa a parecer-se demasiado connosco.

🎧 Disponível em todas as plataformas, mas pode ser ouvido aqui mesmo!