IA e o dilema dos vieses de preconceito da tecnologia

Caio Fulgêncio
28 de fevereiro de 2024 - 16h31

À medida que a inteligência artificial continua a se popularizar, também ganha força entre os especialistas as discussões sobre como essas tecnologias podem reproduzir preconceitos e acentuar desigualdades. IA é desenvolvida por seres humanos – a partir de bases de dados – e, obviamente, carrega diversos vieses de seus criadores. O desafio, porém, é encontrar maneiras de mitigar tais problemas, a fim de garantir respostas e análises fomentem a equidade.

Painel analisou a questão dos vieses de preconceito da inteligência artificial (Crédito: Caio Fulgêncio)

“É muito interessante que em torno de 97% dos CEOs acreditam que IA será capaz de transformar inteiramente suas companhias e responsabilidade é um importante imperativo. No entanto, o que é surpreendente é que somente 2% das organizações possuem políticas de responsabilidade em vigor. Então, há um enorme gap”, pontuou Juhi Munjal, managing director da Accenture.

A executiva ressaltou, ainda, que, ao pensar sobre o assunto, é importante diferenciar IA tradicional e IA generativa, já que as origens, propósitos e inputs não são iguais. Para mitigar os preconceitos e vieses, os dois modelos precisam ser tratados de maneiras diferentes, uma vez que precisarão de soluções também distintas. “De todo modo, o que é importante é que precisamos ter humanos em todo o processo de decisões”, disse.

IA e outras camadas

Rika Nakazawa, vice-presidente da NTT Data, trouxe outra perspectiva sobre o assunto ao afirmar que nem sempre os vieses são negativos. Ela usou a linguagem como exemplo e refletiu sobre as diferenças entre os idiomas. “Também é sobre como usamos a IA para chegar a outras lugares, é sobre expressão”, falou durante painel no Mobile World Congress (MWC) nesta quarta-feira, 28.

A NTT criou o emoji usado em conversas online em 1999. Originalmente, explicou Rika, a companhia pensou a ferramenta para ser a representação de um personagem. Como o tempo, a partir de novos vieses, a companhia acrescentou outras opções, como tons de pele e mais características físicas. “Ou seja, é sobre como absorvermos dados para criar expressões”, reiterou.

O CEO da Turkcell, Ali Taha Koç, contou que, como operadora, inteligência artificial já se tornou um grande aliado na busca por eficiência energética e otimização de custos. Com isso, por utilizarem grande volume de dados, foi necessário estabelecer normas e princípios para lidar com essa tecnologia. “Assim, a regra é de que os dados precisam ser livres, de erros e de vieses”, falou. E esses protocolos, segundo ele, norteiam o desenvolvimento de novos projetos na área e o processo de educação de todo o público interno.

Solução conjunta

Uma solução possível a questão, de acordo com Iryna Manukovska, chief strategy officer (CSO) da XME.digital, é repensar o desenvolvimento dos algoritmos. “É preciso analisar como você está treinando o seu modelo, que tipo de dados está usando e como está usando”, complementou.

Nesse contexto, ela acrescentou que ainda existe medo nessa relação entre humanos e IA em termos de treinamento ferramenta. A educação, então, ganha papel de relevância para desmistificar o impacto da tecnologia e aumentar a diversidade de dados.

“A forma de atenuar o viés que você pode ter capturado em seus próprios dados internos é garantir que esteja treinando o seu modelo de IA com mais informações. Portanto, trata-se também de compartilhar seus dados com parceiros e clientes, e assim obter perspectivas diferentes”, salientou.