As analogias ao filme Her, em que o personagem vivido pelo ator Joaquim Phoenix se apaixona por uma inteligência artificial estiveram presentes em quase todos os paineis relacionados a IA no South by Southwest deste ano. O longa é uma alternativa a uma outra visão que Hollywood construiu sobre robôs ou computação inteligente: a de que eles iriam ganhar autonomia própria e dominar a espécie humana. A produção foi citada pois esse é um medo recorrente que surge da evolução dessa tecnologia, mas a resposta é: que quem coloca emoção ou senciência em IA são os humanos.
No filme Her, o personagem se apaixona por um sistema de inteligência artificial (Crédito: Reprodução)
No painel “Operacionalizando a empatia: como a IA mudará a consciência humana e acelerará a inteligência emocional”, o professor do MIT, Pulkit Agrawal, comentou que a capacidade de interpretar algo sob as lentes da emoção ou da humanidade é o que faz com que os próprios humanos interpretem emoções na tecnologia.
Para exemplificar, ele citou um experimento em que há um carro seguindo o outro. Um carro está com o farol aceso e o outro não. O carro que está seguindo o primeiro está seguindo a luz, mas quando a imagem era apresentada aos participantes da experiência e eles eram perguntados sobre o motivo e respondiam que um carro gosta do outro, estão apaixonados. “Não há nada de emocional, é nossa interpretação. Se eu conheço um estranho e eu penso neles como humanos e isso ajuda a formar uma conexão”, explicou.
Complementando o professor, a neurologista e Chief Medical Officer da Qualtrics, Adrienne Boissy, descreveu que o cérebro é treinado para dar sentido ao mundo. Conforme o avanço da tecnologia de modelos de linguagem de IA que não comunicavam empatia ou sentimentos para os que o fazem, se torna mais fácil o humano interagindo com a máquina gerar sentidos de lealdade e conexão.
Não é algo que fica restrito ao âmbito da inteligência artificial. Agrawal trouxe a mesma analogia para a esfera das redes sociais. “Se você tem uma conversa interessante com um Chatbot, você começa a inserir nele traços de personalidade. Na Covid-19, fizeram um experimento de namoro sem ver o rosto e mostrava o quão fácil era fazer as pessoas se conectarem. Essas impressões levaram a amizades falsas pelo Facebook, relacionamentos falsos por aplicativos”, disse.
Ambos defendem que é necessário transparência e ética no desenvolvimento de sistemas de IA e deixar claro aos usuários que as tecnologias são máquinas e que seus usos são para tarefas específicas para evitar o comportamento instintivo de atribuir emoções humanas para seres inanimados.
Como saber se IA é senciente?
Para aplacar as ansiedades em relação a isso e provar que a senciência não está em jogo até o momento, a Wunderman Thompson lançou no festival o The Sencient-O-Meter, uma ferramenta com uma série de perguntas que o usuário responde sobre a ferramenta de inteligência artificial com a qual está interagindo para mapear o quão evoluída está a tecnologia em relação a isso.
Lançado no SXSW, Sentient-O-Meter está disponível para uso (Crédito: Thaís Monteiro)
A metodologia é própria. Ao perceber que alguns testes para medir senciência estavam ultrapassados, a agência desenvolveu parâmetros para compreender o que seria senciência. Na definição de Jason Carmel, global lead de creative data da agência, senciência é uma mistura de inteligência, habilidade de resolução de problemas, ter experiências por si próprio e consciência sobre si. Atualmente, ele considera que IA só é inteligente.
Na ferramenta, senciência está dividido nas categorias experiência (possibilidade de participar de eventos internos e externos, o que envolve o sensorial, emocional e memória), agência (escolhas, reflexões sobre o mundo e conexão com outros) e magia (conectar pontos, sintetizar conteúdos e a capacidade de surpreender).
A ferramenta foi testada ao vivo por Ilinca Barsan, diretora de ciência de dados da Wunderman Thompson, no painel pensando na última versão do ChatGPT. O resultado foi que o ChatGPT tem 1% de probabilidade de ser senciente. “ChatGPT é o melhor que o mundo tem hoje em dia. Se juntássemos todas as IAs e submetêssemos, o resultado seria baixo da mesma forma”, afirmou Carmel.
Ele reafirmou a necessidade de transparência e melhores manchetes ao se tratar de inteligência artificial. “Ao invés de ‘IA vai tomar nossos trabalhos’, deveríamos perguntar se gerentes vão demitir pessoas quando eles tiverem acesso à IA”, disse.
Lado positivo da empatia
Apesar de tudo, o fato de sistemas de inteligência artificial demonstrarem empatia não é algo considerado ruim pelos especialistas, pelo contrário. Para a neurologista, empatia pode ser descrita por quatro perspectivas: sentimento (sentir pela experiência do outro), cognição (possibilidade de imaginar a experiência do outro), moral (se conectar e entender) e comportamental (compaixão e ação em relação ao relatado).
Na área da saúde – e em outras -, ela considera que quanto mais empático o atendimento ao cliente, melhor. Um sistema empático poderia melhor suprir as demandas do usuário, identificar riscos e liberar os profissionais de tarefas manuais para exercer melhor sua humanidade e atenção no dia a dia e contato com pacientes, clientes ou outros humanos.
