A reprodução de injustiças nos algoritmos

Este artigo foi escrito por Nina da Hora em parceria com Revelo UP, o programa de financiamento de cursos em tecnologia da Revelo.

Atualmente, os algoritmos estão cada vez mais acessíveis e fazendo parte do nosso dia a dia, seja quando estamos escolhendo um filme na plataforma Netflix ou ao postar nossas fotos nas redes sociais.

No entanto, por trás dessas ações existe um conjunto de instruções que foram pensadas por humanos, aprendidas por máquinas e executadas em diferentes níveis.

O futuro sempre esteve muito próximo do presente, e com a aceleração das tecnologias estamos passando por dificuldades para separar o agora do depois.

Às vezes, pode parecer que todos os problemas podem ser resolvidos com mais um aplicativo ou mais uma câmera de reconhecimento facial. Não!

A reflexão que irei compartilhar neste texto não é um contexto pessoal, é sobre quem está por trás dessas criações que estão reproduzindo injustiças em nossa sociedade.

Será que a Inteligência artificial quer imitar o cérebro humano?

Ao contrário do que encontramos em alguns textos, não há um consenso sobre a definição de Inteligência Artificial. Sabe-se que é um conceito que vem passando por grandes mudanças conforme o desenvolvimento do que entendemos por tecnologia e também por conta das transformações sociais.

Redes neurais ou deep learning são técnicas computacionais que utilizam modelos matemáticos inspirados na estrutura neural de organismos inteligentes e que adquirem conhecimento através da experiência.

Uma grande rede neural artificial pode ter centenas ou milhares de unidades de processamento, já o cérebro de um mamífero pode ter muitos bilhões de neurônios.

Então pergunto: essa capacidade de aprender com os dados coletados ou por experiência é suficiente para validar a hipótese de que a IA pode imitar um cérebro humano? Será mesmo?

O que é esse tal de algoritmo, e como ele está presente em nossas vidas?

Algoritmo, segundo algumas definições, é similar a uma receita de bolo: tem instruções ou passo a passo que precisam ser seguidos para que você consiga realizar uma atividade.

Conforme a complexidade vai aumentando, as instruções também vão sendo transformadas (mas hoje não vou aprofundar aqui nos detalhes técnicos que permeiam esta complexidade, você pode ler mais sobre isso neste artigo).

Uma classe de algoritmos mais próxima das plataformas digitais que utilizamos e de outras soluções tecnológicas que envolvem inteligência artificial, é a que depende de uma base de dados de formatos diversos para gerar a “inteligência” esperada nos resultados.

Um exemplo são os filtros que colocam algum efeito em nossos rostos. Estes algoritmos por trás dos filtros primeiro precisam aprender a detectar um rosto.

Para isso, eles aprendem primeiro o que é esse objeto, processando, a partir de uma base de faces, e depois classifica o que entendeu como rosto ou não (informalmente, aqui estamos falando de acurácia).

Quando você vai usá-lo em um dos aplicativos que permite essa tecnologia, pode perceber que, se a face não for detectada, não aparece o efeito e, em alguns casos, ele chega até a reconhecer um rosto na parede, ou seja, encontramos um erro de processo.

Sobre reconhecimento facial e suas consequências

O reconhecimento facial é um método biométrico que utiliza técnicas de aprendizado de máquinas, em conjunto com as redes neurais artificiais, para realizar o “match” de uma imagem com o perfil da pessoa, uma tarefa desafiadora na sociedade complexa e diversa em que vivemos.

Devido a vários cenários, como o ponto de vista técnico que considera a câmera, iluminação e a expressão facial, e o ponto de vista sociológico de como que a base de dados está sendo coletada e filtrada, é necessário repensar a criação dos processos por trás destas tecnologias que partem de contextos normalmente ignorados na sociedade.

Como, por exemplo, no uso em segurança pública. Aumentaram muito as prisões injustas de pessoas negras a partir do uso de reconhecimento facial, segundo dados divulgados pela Folha de São Paulo.

Os casos analisados pela reportagem mostram que a raça das pessoas tem peso ainda maior nos erros cometidos pelo sistema: “Segundo o estudo, 60% dos inocentes presos eram negros. Em um recorte apenas de prisões injustas causadas por reconhecimentos incorretos, esse percentual sobe para 71%.”

Em síntese, toda a inovação pode gerar algum tipo de vulnerabilidade, seja na própria tecnologia, seja no impacto social, e o reconhecimento facial é uma destas inovações que representam potenciais riscos para a sociedade por reproduzir injustiças em massa, sem uma regulamentação e, por ora, sem soluções efetivas.

Do ponto de vista técnico, um dos pioneiros na área de Machine Learning, Michael I. Jordan (IEEE, 2020), recomendou que não seja mais chamado tudo de “IA”, ou sistema inteligente, pois isso está confundindo as pessoas sobre os usos e significados de tendências tecnológicas – de que existe algum tipo de pensamento inteligente nos computadores.

Essa recomendação se soma ao despreparo para lidar com os resultados e consequências negativas do uso acelerado de tecnologias de reconhecimento facial no nosso dia a dia.

Colonização Algorítmica e a ética tecnológica

O impacto da colonização que ocorreu em boa parte dos continentes trouxe como resultados diversas imposições como idiomas, economia, cultura e também tecnologia.

É cada vez mais visível os países que controlam softwares e websites usados no mundo todo, gerando grandes bases de dados que normalmente são usadas por pequenos grupos para tomadas de decisões que envolvem todo o mundo.

Essa colonização algorítmica está fortemente conectada com os pensamentos do Vale do Silício. E quando este problema já conhecido por nós entra em contato com a ética?

Um exemplo recente é do Google AI e a cientista da computação e ativista, Timnit Gerbru, amplamente respeitada na área de IA e Ética e que teve sempre um olhar crítico em relação à Inteligência Artificial.

Gerbru era líder do laboratório de ética do Google e responsável por estudos que mostram o reconhecimento facial é menos acurado na identificação de mulheres e pessoas negras.

Além de ter feito uma importante contribuição que apresenta a história do processamento de linguagem natural, uma visão geral dos quatro principais riscos dos grandes modelos de linguagem e sugestões para pesquisas futuras, e acabou demitida

Conflitando com o que o Google prega internamente, a demissão de Gerbru levanta a discussão sobre qual é o real interesse das big techs em Inteligência Artificial. Será que elas estão dispostas a repensar ou até a tirar do ar tecnologias que impactam negativamente o futuro ou que reproduzem injustiças sociais?

Bom, questões como essa exemplificam a hegemonia tecnológica à qual estamos presos e que, por muitas vezes, não dão oportunidade para a interdisciplinaridade.

Outro exemplo também recente desta reflexão são os resultados de meta-análise de mais de 100 programas sobre ética da tecnologia, intitulada “O que ensinamos quando ensinamos ética da tecnologia?”, em que foi descoberto que há uma grande variação nos tópicos que são abordados nos cursos de ética tecnológica.

Como por exemplo, lei e política, privacidade e vigilância, filosofia, justiça e direitos humanos, impacto ambiental, responsabilidade cívica, robôs, desinformação, trabalho, design, segurança cibernética, pesquisa ética e muito mais.

Ou seja, cabem muitas ciências e diversas áreas nessa discussão. Sendo assim, o debate se tornar público para envolver a sociedade civil é essencial. Mas, para isso, temos um caminho na construção e na continuação da educação digital e midiática da população brasileira.

Emancipação Digital

A sociedade é um palco permanente de disputa de narrativas de poder, e por isso acaba sendo colocada em uma posição de dependência tecnológica.

Por vezes, fazem acreditar que uma máquina com IA pode ser mais inteligente que o ser humano, tática perigosa de um grupo acostumado a ser o colonizador e que ainda domina essas tecnologias.

Nesse sentido, a emancipação digital começa pelas ideias cunhadas por novos territórios e pessoas. Existe um mundo fora do Vale do Silício, e não vamos mais ser colocados numa posição passiva na construção tecnológica na sociedade.

Considerar o banimento do reconhecimento facial, por exemplo, é começar a reconhecer que vidas valem mais do que código.