Tristan Harris e a disputa pela nossa soberania cognitiva
Tristan Harris alerta que o desafio da IA não é a técnica, mas a soberania cognitiva e quem detém o controle
Algumas vozes ficam na memória não apenas pelo que dizem, mas pelo momento em que conseguem nomear algo que a gente ainda não sabia explicar. Foi assim comigo quando vi Tristan Harris no SXSW de 2022, falando sobre regulação das redes sociais. Naquele momento, sua crítica parecia mirar sobretudo o estrago já visível das plataformas: a economia da atenção, a manipulação dos nossos impulsos, a corrosão do debate público, a polarização como modelo de negócio. Três anos depois, ao vê-lo novamente no SXSW, percebo que sua tese não mudou, só ficou maior, mais urgente e mais assustadoramente atual.
Se antes a discussão era sobre redes sociais, agora o centro da preocupação é a inteligência artificial. Mas, no fundo, o diagnóstico de Harris continua o mesmo: o problema nunca foi apenas a tecnologia em si. O problema é o que acontece quando sistemas extremamente poderosos passam a ser guiados por incentivos corporativos, opacos e extrativistas, enquanto as sociedades seguem sem regulação, sem linguagem comum para reagir e, muitas vezes, sem nem perceber o tamanho da perda de controle.
Uma das imagens mais fortes da fala deste ano é quando ele diz que já convivíamos com uma “AI desalinhada” sem chamá-la assim: as redes sociais. Durante anos, tratamos esses ambientes como ferramentas neutras de conexão, quando na verdade já eram sistemas de otimização moldando o nosso ambiente psicológico coletivo. Não era só sobre ver fotos, vídeos ou opiniões. Era sobre viver dentro de uma arquitetura desenhada para capturar atenção, induzir comportamento e reorganizar silenciosamente a percepção do mundo. A ilusão era de escolha. Mas, como ele sugere, será que escolhemos de fato quando algo muito mais inteligente do que nós já editou previamente o campo inteiro do que podemos ver, desejar, temer ou acreditar?
É isso que torna a reflexão de Tristan Harris tão poderosa: ele não fala apenas de inovação e tecnologia, mas de soberania cognitiva. Da capacidade humana, individual e coletiva, de perceber a realidade, formar julgamento, deliberar em comum e decidir o próprio futuro. Quando essa capacidade é sequestrada, primeiro por feeds, agora por sistemas de IA cada vez mais autônomos, o que está em jogo não é só produtividade, nem apenas segurança. É a própria possibilidade de continuarmos no comando.
Há também uma linha muito interessante entre os dois documentários que marcam esses momentos. Em 2022, O Dilema das Redes ajudava a traduzir, para o grande público, o que estava por trás da aparente inocência das plataformas. Agora, com The AI Doc (que estou louca para assistir) a promessa parece ser semelhante, mas em uma escala ainda mais decisiva: criar consciência compartilhada sobre os riscos reais da IA antes que seja tarde demais. Não se trata de demonizar tecnologia. Trata-se de olhar para ela com a maturidade que talvez tenha faltado quando ainda dava tempo de colocar limites mais firmes sobre as redes sociais.
E talvez seja justamente isso que mais me toca nessa trajetória: a defesa de um futuro tecnológico que não seja anti-humano. Um futuro em que inovação não seja sinônimo de substituição, manipulação ou concentração absoluta de poder. Um futuro em que tecnologia seja ferramenta de fortalecimento humano e não de erosão lenta das nossas capacidades, vínculos e instituições.
Ouvir Tristan Harris hoje mexe comigo também em outro lugar: o de mãe. Porque discutir regulação, controle e soberania cognitiva ganha outra dimensão quando pensamos nas crianças que estão crescendo dentro desse ambiente. Tenho duas filhas pequenas, e talvez seja impossível ouvir tudo isso sem transformar a reflexão em desejo. O que eu desejo para o futuro da tecnologia não é um mundo de fascínio cego nem de medo paralisante. É um mundo em que possamos continuar encantados com a potência humana de criar, mas sem abrir mão da responsabilidade de governar aquilo que criamos. Um mundo em que minhas filhas possam usar tecnologia sem serem usadas por ela.
No fim, talvez seja por isso que eu admire tanto Tristan Harris. Porque, em meio a tanto deslumbramento apressado, ele insiste em uma pergunta difícil, mas essencial: quem está no controle? E essa talvez seja a pergunta mais importante do nosso tempo.
COMPARTILHE:
