Bilionários pedem pausa em pesquisas sobre inteligência artificial

30 de março de 2023 - 9h49

*Atualizada às 11h17

O avanço desenfreado dos debates acerca da inteligência artificial nos últimos meses chamou a atenção dos bilionários da tecnologia. Em carta assinada por nomes como Elon Musk e Steve Wozniak, além de centenas de executivos do setor – de empresas como Google e Microsoft, inclusive –, há o apelo por uma suspensão de seis meses no desenvolvimento de sistemas de IA que superem o ChatGPT-4, a última atualização da OpenAI.

(Crédito: Kathy Hutchns/Shutterstock)

A iniciativa foi divulgada pela Future of Life Institute, organização sem fins lucrativos. Até o momento, a carta aberta já conta com 1377 assinaturas.

Além dos executivos de empresas de tecnologia, mobilizaram-se também nomes como Stuart Russell, um pioneiro da pesquisa acerca do assunto; pesquisadores da DeepMind, da Alphabet; e acadêmicos de instituições como Oxford, Cambridge e Stanford.

Uma das principais críticas é o fato da corrida da IA ser precipitada, acirrando a concorrência pelo rápido lançamento de novos recursos relacionados à tecnologia sem que haja a articulação e medidas necessárias para comprovar seus impactos. Ainda, o grupo defende que os sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade, conforme demonstrado por pesquisas e comprovação reconhecida pelos principais laboratórios de tecnologia.

O grupo alega que o desenvolvimento deve continuar apenas quando houver confiança sobre seus efeitos positivos e riscos administráveis. Consta no documento que “essa pausa deve ser pública e verificável e incluir todos os principais atores. Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”.

A carta levanta alguns questionamentos por parte dos bilionários sobre a inteligência artificial. Devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade? Devemos automatizar todos os trabalhos? Deveríamos desenvolver mentes não-humanas que eventualmente nos superem em número, fossem mais espertas, obsoletas e nos substituíssem?

relacionado

OpenAI e ChatGPT: pró-humano e pró-ética

Entre as sugestões propostas, está o trabalho junto a autoridades reguladoras da tecnologia; financiamento público robusto para a pesquisa técnica de segurança da IA; supervisão e rastreamento de sistemas de IA; e sistema de informações sobre a origem e marca d’água para auxiliar na distinção entre materiais criados pela tecnologia e os reais, entre outros.

Musk versus OpenAI

Além disso, foi citada a OpenAI, claro. Anteriormente, a startup emitiu uma declaração que dizia que, em algum momento, seria importante uma “revisão independente antes de começar a treinar sistemas futuros e para os esforços mais avançados concordar em limitar a taxa de crescimento da computação usada para criar novos modelos”. O grupo concorda que a hora de tomar tais ações é agora.

A participação de Musk no movimento acontece algumas semanas depois do portal Information apontar que o magnata buscou especialistas em IA para concorrer com o ChatGPT. A reportagem aponta que o bilionário recrtuou Igor Babuschkin, especialista que deixou a DeepMind AI, da controladora Alphabet.

A OpenAI foi fundada em 2015 por Musk ao lado do atual CEO, Sam Altman. A parceria foi descontinuada em 2018 por divergências nos rumos que a companhia estava tomando. Recentemente, o fundador da Tesla emitiu uma crítica de que o negócio tinha uma proposta legítima. Contudo, passou a “visar o lucro máximo” quando aproximou-se da Microsoft.

Chamada da Unesco

A Unesco aproveitou a movimentação do Future of Life Institute e convoca todos os países a aferirem às suas recomendações sobre ética na inteligência artificial. Esta é a primeira iniciativa global pelo o uso consciente da tecnologia, que orienta as nações sobre formas de maximizar os benefícios da IA, bem como mitigar seus riscos.

Segundo a organização, a medida se comporta também como um parâmetro para que os países elaborem suas próprias regulamentações e informem, a cada quatro anos, sobre os avanços e práticas neste sentido. Em comunicado à imprensa, a Unesco informa que mais de 40 países já trabalham em conjunto com a instituição em prol da causa. Além disso, um relatório de progresso sobre a Ética da Inteligência Artificial deverá ser apresentado no Fórum Global da Unesco, que acontece na Eslovênia em dezembro deste ano.