A heroína necessária: Dr. Joy Buolamwini e a Liga da Justiça Algorítmica

15 de março de 2024 - 19h39

Uma das experiências mais marcantes do SXSW, na minha opinião – e são muitas – é a oportunidade de explorar diferentes perspectivas, cruzar cenários de um futuro ainda incerto, porém amplamente especulado.

Nesse sentido, vou contradizer meu texto anterior: embora tenha sido emocionante ver Ray Kurzweil de perto (sou uma admiradora de longa data) e Peter Deng ter me animado com um olhar mais positivo sobre o futuro da IA em coexistência com a humanidade, o ápice do SXSW foi indiscutivelmente a poderosa da Dra. Joy Buolamwini.

Embasada em dados e cheia de estilo, ela nos apresenta uma realidade menos “Poliana” do que a pintada pelos líderes do Chat GPT e da Singularidade, e embasar suas afirmações com muita ciência, poesia e autenticidade.

É incontestável que, ao observar nossa sociedade, o otimismo de Ray e Peter sobre o potencial da IA como uma ferramenta para aprimorar o mundo e combater desigualdades, apresenta lacunas estruturais significativas. E é aqui que a Dr. Joy Buolamwini se torna indispensável: uma mulher negra, cientista do M.I.T e ativista digital, que encontrou na arte uma maneira de se destacar em um campo que é, estruturalmente, predominantemente masculino e branco. Filha de um pai cientista e uma mãe artista, a corajosa Dra. Joy nos apresenta, com autoridade, uma perspectiva mais realista sobre os imensos desafios que enfrentamos em um futuro no qual a IA não reflete nem contribui para a sociedade como um todo.

Sua palestra começou com um soco no estômago: por meio de uma poesia que presta homenagem e reflexão às suas ancestrais negras, ela demonstrou as falhas gritantes nas atuais tecnologias de reconhecimento facial, especialmente ao analisar os rostos de mulheres pretas. Sim, ela comprovou que a IA é incapaz de reconhecer como figuras femininas líderes negras mundialmente conhecidas, como Serena Williams, além de confundir Oprah Winfrey com Michelle Obama.

O reconhecimento facial é particularmente criticado em sua aplicação para fins de segurança, com casos recentes de homens e mulheres negros presos por engano – como o exemplo uma mulher negra grávida de oito meses, presa erroneamente por roubo de veículo e mantida sob custódia enquanto entrava em trabalho de parto.

Para ajudar as pessoas nessa nova realidade, ela fundou a Liga da Justiça Algorítmica, uma organização que trabalha para desafiar os preconceitos nos softwares de inteligência artificial e tomadores de decisão, utilizando arte, ciência e pesquisa para revelar as implicações dos seus vieses e seus crimes sociais.

Nesse ponto, destaca que o que a mantém acordada à noite, pensando no futuro, são as armas automatizadas, drones que agem por reconhecimento facial – e o que essas máquinas com vieses racistas estruturais podem significar em um futuro próximo, especialmente considerando a ampla disseminação pelos varejistas de armas americanos.

Aqui, ela nos presenteia com uma reflexão óbvia, porém crucial: uma ferramenta que não atende à maioria das pessoas é realmente útil? Outro golpe no estômago.

A solução para os vieses da IA não é simples. No entanto, é necessário que as grandes empresas de tecnologia, como Meta, Google e OpenAI, invistam em pesquisas como as realizadas pela Dra. Joy. Esse deve ser um esforço contínuo, como ela ressaltou, mais semelhante ao tratamento de uma doença crônica do que do combate à uma infecção rápida.

É urgente o interesse e vigilância constantes das grandes empresas de tecnologia para aprimorar essas máquinas e reduzir seus vieses estruturais. E de nós, pessoas, pois hoje um clique no “Aceito” sem uma leitura atenta pode resultar na transferência de suas impressões digitais, rostos e dados para uma variedade de bancos de dados, incluindo os policiais.

Outra preocupação são as deep fakes. De Taylor Swift a Tom Hanks, ninguém está imune. Imagina nas eleições? Nesse ponto, a Dra. Joy (chiquérrima) teve uma reunião com Biden (Está no seu livro ” Unmasking AI”) para discutir exatamente a imensa preocupação com a desinformação durante as eleições – a voz de Biden já foi usada recentemente com essa intenção.

Seu trabalho também pode ser apreciado no premiado documentário “Coded Bias”, disponível na Netflix, onde ela aborda sua pesquisa sobre as falhas na tecnologia de reconhecimento facial e seus vieses. Vamos conhecer, celebrar e agradecer à Dra. Joy, uma heroína dos tempos atuais.