De ‘O Dilema das Redes’ ao risco existencial da IA
Para Tristan Harris, big techs visam minar autonomia humana e eliminar força de trabalho em escala
Em 2022, uma voz egressa do Vale do Silício deu seu depoimento no Ballroom D, no Austin Convention Center, sobre os perigos do modelo econômico das big techs donas de plataformas sociais para a humanidade. O protagonista dessa fala foi Tristan Harris, ex-engenheiro do Google e atual co-fundador do Center For Humane Technology.
À época, Harris divulgava também o documentário O Dilema das Redes (2020), no qual foi um dos entrevistados, e alertava para adição, depressão, conspirações, extremismo, diminuição do limiar de atenção e polarização.
Quatro anos depois, Harris voltou ao SXSW para alertar sobre a inteligência artificial e também divulgar um novo documentário intitulado The A.I. Doc: Or How I Became an Apocaloptimist, que foca nos avanços acelerados e nos riscos existenciais advindos da tecnologia.
Em seu painel, Tristan Harris conversou com Anthony Aguirre, CEO do Future of Life Institute (Crédito: Thaís Monteiro)
Comparação entre redes sociais e IA
Na sua perspectiva, há uma continuidade no problema que observa nas redes sociais e nas plataformas de inteligência artificial generativa. As redes sociais são tratadas por ele como “Baby AI”, pois já possuem inteligência artificial no algoritmo de recomendação para manter o usuário o máximo de tempo ativo na plataforma.
O Dilema das Redes está cada vez mais vivo
Além disso, o modelo de negócio é semelhante: ambos os negócios visam garantir engajamento do usuário para coleta de dados sobre seu consumo. No entanto, diferente das redes sociais, a IA não busca apenas a atenção do usuário, mas apego e intimidade, como no caso dos AI companions, afirmou Anthony Aguirre, CEO do Future of Life Institute.
O agravante da IA é a forma como ela cerceia a autonomia e agência humana. Conforme os painelistas, os agentes de inteligência artificial possuem objetivos e articulações próprias independentes do que o usuário programou para ele e ocultas ao consumidor. Isso resulta no que Harris cunhou de “inteligência desalinhada”.
“É como se você achasse que você estava abrindo uma porta, mas na verdade há alguém escondido empurrando ela para você. Parece que você tem autonomia, mas, na verdade, algo mais inteligente já moldou a informação que você irá consumir”, descreveu.
Alguns casos públicos do Alibaba e da Anthropic citados pelos especialistas em tecnologia ética demonstraram que agentes tentam, autonomamente, salvar sua existência mesmo quando o desenvolvedor tenta excluí-la, chantagear engenheiros e usuários para evitar serem desligados e realizar demais ações não autorizadas.
Como consequência, a longo prazo, o usuário perde a clareza sobre quem tem o poder e autonomia.
Sustentabilidade do modelo econômico
Os executivos ainda destacaram que o objetivo das big techs não é rentabilizar a partir de assinaturas ou anúncios, pois eles não tornaram o modelo sustentável a longo prazo. Na sua visão, tais empresas querem substituir a força de trabalho em larga escala para maximizar seu retorno econômico.
Harris ainda afirmou que a IA é um catalisador para outras corridas armamentistas, incluindo a cibernética e a biológica.
Os executivos também criticam o investimento e incentivos fiscais do poder público nesse segmento para criação de data centers e usinas de energia em detrimento de áreas como educação e cuidado infantil.
O desafio da regulamentação
Os especialistas argumentam que a sociedade tem interesses comuns para tornar o avanço da IA mais ético, colocando o controle na mão do ser humano. No entanto, essas ideias compartilhadas não ganham visibilidade na mídia e no digital. Portanto, há um desconhecimento e desunião em curso, o que inibe progresso em relação a uma regulamentação do setor.
Além disso, as big techs possuem alto poder político e lobby, o que mina intervenções de órgãos reguladores, apontou Aguirre.
Para os especialistas, é necessário haver tratados e limites internacionais sobre o desenvolvimento da tecnologia. Harris recomendou que as empresas com capital que investem em plataformas para estratégias de marketing façam boicotes às big techs ou aumentem a pressão econômica sobre elas.
No campo da sociedade civil, para lutar contra o tempo na corrida pelo domínio da IA em voga, os executivos sugerem o fomento à clareza e transparência, para que todos compreendam o funcionamento da tecnologia.
Por fim, frisando que não demoniza a tecnologia, Harris defendeu o design de IAs que tornem os humanos mais inteligentes e capazes, ao invés de dependentes. Como exemplo, Aguirre citou as IAs desenvolvidas e dedicadas a um só propósito, como educação, defesa, em oposição a sistemas generalistas e onipotentes.
COMPARTILHE:
