IA existe, mas a que se destina?

5 de agosto de 2024 - 6h53

(Crédito: Shutterstock)

O vídeo é um trecho de um documentário de 2016, mas o seu conteúdo sempre volta a viralizar. Nele, Hayao Miyazaki, cineasta e co-fundador do venerado Studio Ghibli, assiste a um experimento criado por um grupo de programadores.

Na tela, o diretor vê uma animação do que parece ser um corpo humano se movendo no chão. Explicam a ele que é um modelo de inteligência artificial que aprendeu certos movimentos. O diretor vê o corpo animado, movendo-se a partir da cabeça e se rastejando. Uma imagem desconfortável de ver, e Miyazaki observa em silêncio. No final da apresentação, quando abre a boca, é brutal: “Não consigo olhar para isso e achar interessante. Sinto que é um insulto à própria vida”.

O desconforto continua. Um produtor do Studio Ghibli pergunta qual é o objetivo daqueles programadores. Um deles responde: “Nós gostaríamos de desenvolver uma máquina que desenhe como os humanos.” A cena muda de lugar e vemos Miyazaki desenhando em um ateliê. Sua voz ao fundo soa como uma sentença: “Sinto que estamos perto do fim do mundo. Nós, humanos, estamos perdendo a fé em nós mesmos”.

Não é incomum nos depararmos com reações apocalípticas diante de aplicações de inteligência artificial. A ideia de criar seres vivos a partir de matéria inanimada remonta à Grécia Antiga, como lembra o livro “Ética na Inteligência Artificial” (Editora UBU). E Mary Shelley escreveu sobre uma inteligência artificial, seu Frankenstein, em 1818.

Mas foi principalmente depois que modelos de linguagem de grande escala (LLM, na sigla em inglês) ganharam uma interface de chat como o GPT que os debates que opõem humanos e máquinas voltaram com intensidade. O binarismo sobre a inteligência artificial segue os extremismos com que a maioria das opiniões hoje é expressa nas redes: ou é a solução de todos os problemas da humanidade ou o início do seu fim.

Provavelmente, porque, como a socióloga Sherry Turkle, que estuda tecnologia há mais de 40 anos, disse: “a tecnologia nos desafia a afirmar nossos valores humanos, o que significa que, antes de tudo, precisamos descobrir quais são eles.” E quais valores humanos são esses que vemos refletidos na tecnologia? Certamente não os valores da maioria da população brasileira, mas sim os valores de uma demografia muito específica do Vale do Silício, berço da maioria dos códigos que inundam nossas vidas.

“Nerds brancos machos que trancaram Harvard ou Stanford e têm vida social zero” é como John Doerr, investidor do ramo de tecnologia, define os fundadores de sucesso, chamando isso de “molde” para selecionar em que investir. É esse o perfil que desenhou as plataformas que hoje mediam grande parte das nossas relações humanas e cuja cultura vem cada vez mais impactando a maneira como produzimos conteúdo, imagem e linguagem, com auxílio das aplicações de IA.

Observando a evolução dessas ferramentas e como elas vêm se infiltrando em nossas vidas, não posso deixar de lembrar da pergunta do engenheiro do Studio Ghibli: qual é o objetivo?

Ou melhor, qual é o objetivo das pessoas que estão por trás desses experimentos com inteligência artificial, sabendo a demografia tão específica que as desenvolve?

O recente tumulto pelo controle da OpenAI, criadora do ChatGPT, nos dá o que pensar. Acompanhamos a demissão, seguida da recontratação, do CEO Sam Altman, e a saída mal explicada do co-fundador e cientista-chefe Ilya Sutskever da empresa, gerando todo tipo de especulações sobre a maneira como a empresa opera internamente.

Sutskever foi um dos responsáveis por criar uma equipe dentro da OpenAI que buscava garantir que as futuras versões da tecnologia não causassem danos à humanidade. Para uma empresa que promete garantir que a inteligência artificial seja benéfica para toda a humanidade, ela não parece ser muito “open”.

Eu não sou contrária à tecnologia. Pelo contrário, sou uma entusiasta e curiosa buscando me aprofundar sobre o tema e tentando aplicar IA para otimizar tarefas do meu dia. Mas observar as movimentações de empresas do segmento, como a OpenAI, prometendo o bem da humanidade e entregando pouco, me dá uma sensação de déjà vu de outras empresas de tecnologia fundadas por homens brancos que prometeram um mundo melhor para todos e, anos após suas fundações, nos fazem refletir se não estaríamos melhores sem esse vício. Porque nossa ansiedade em usar essas tecnologias foi mais rápida do que a velocidade das instituições para controlar e regulamentar suas práticas. Ficamos dependentes antes de sabermos as implicações desse consumo. Como as máquinas, precisamos aprender com o passado, para não repetirmos os mesmos erros no futuro.