Consumidores, confiança e a inteligência artificial

6 de março de 2023 - 6h00

Crédito: Shutterstock

Afinal, qual será o impacto da popularização de sistemas de inteligência artificial baseados em linguística computacional, como o ChatGPT? Parte desta resposta depende da percepção sobre a confiabilidade desses softwares. Após os anúncios de lançamentos de serviços concorrentes (do Google e Meta, entre outros) e do investimento de US$ 10 bilhões da Microsoft na Open AI (que desenvolveu o programa), começaram a surgir relatos de interações potencialmente perturbadoras com a tecnologia, principalmente depois da sua incorporação no Bing (https://nyti.ms/3EFJGyH).

Toda nova tecnologia ameaça sistemas sociais e econômicos baseados em formatos produtivos tradicionais, e consequentemente desperta temores dos mais variados tipos. Os games de computador são um caso clássico, mas até mesmo o surgimento da prensa foi motivo de ira e revolta por parte de vastos segmentos da parte “bem-pensante” das sociedades antigas – aproveito para recomendar o genial História Global da Ignorância, recém-lançado por Peter Burke, mesmo autor dos não menos fundamentais Uma História Social da Mídia e Uma História Social do Conhecimento (https://amzn.to/3kCCQmA).

No caso da inteligência artificial, o medo de substituição vai além da esfera do trabalho e passa para o terreno das emoções e principalmente do suposto “livre-arbítrio” do ser humano. A relação entre sociedade e inteligência artificial é marcada por um longo imaginário de desconfiança, começando com HAL 9000 (2001, Uma Odisseia no Espaço) e indo até AVA (Ex-Machina), sem esquecer claro do Arquiteto da Matrix (“o problema é a capacidade de escolha” – https://bit.ly/3kEnePB), para ficar apenas no cinema (a primeira vez que a palavra “robô” apareceu no seu sentido moderno foi em uma peça de teatro na extinta Tchecoslováquia em 1920).

Os sistemas de linguística computacional são treinados em vastos bancos de dados com textos produzidos em cada idioma, usando um processo probabilístico para construir seu “diálogo” (o pioneiro desta técnica foi o matemático russo Andrey Markov, nome bem conhecido nas finanças, que no começo do século XX contou as palavras e letras de um dos maiores romances da literatura russa para determinar a probabilidade de elas aparecerem umas depois das outras – https://bit.ly/3mcvd6T). Ou seja, o tipo de dado no qual o sistema foi treinado faz uma enorme diferença. Isso explica ao mesmo tempo a extraordinária evolução nas respostas do ChatGPT desde que ele foi aberto para o público em geral, mas ao mesmo tempo algumas “perturbações” que ele passou a demonstrar em certos casos, gerando dúvidas sobre seu uso na substituição de algumas atividades.

Segundo o “Global AI Adoption Index” da IBM, publicado em 2022, uma parte expressiva dos profissionais de tecnologia da informação (74%) acredita que as empresas ainda não são capazes de impedir a inteligência artificial de reproduzir preconceitos (como por exemplo o chamado “racismo algorítmico” – https://amzn.to/3IBOp5K), e 61% simplesmente não conseguem explicar as decisões recomendadas pelos sistemas. Somadas as questões como segurança de dados (52%) e um conjunto de diretrizes para implantação ética de processos de inteligência artificial nas organizações (60%), essas respostas indicam a possibilidade de enormes barreiras de adoção por parte dos consumidores finais.

Principais barreiras à adoção de uma IA confiável

Fonte: IBM Global AI Adoption Index 2022 (https://ibm.co/3ELkFSI)

A confiança é também um mecanismo para reduzir a complexidade e a incerteza em situações transacionais – mercados só funcionam onde existe algum tipo de confiança, gerada pelo convívio entre seus integrantes ou institucionalizada por algum mecanismo regulatório. E enquanto as empresas não forem capazes de convencer seus consumidores de que eles podem confiar nelas quanto ao uso da inteligência artificial, esta terá problemas para se expandir. E este será um excelente desafio para os profissionais de marketing e comunicação interessados em trabalhar com tecnologia nos próximos anos.