Este ano, o Estados Unidos enfrenta a primeira eleição presidencial desde que a inteligência artificial se tornou popular e acessível através do ChatGPT, da OpenAI, e demais modelos de linguagem concorrentes. Também é a primeira eleição depois do lançamento do Sora, também da OpenAI, mas que produz vídeos. O país enfrenta um cenário de deepfakes sem regulamentação. Painéis do SXSW 2024 se propuseram a discutir os impactos da IA nas eleições e os desafios advindos da falta de regulamentação política.
Painel “Elections in the Age of AI: New Tech’s Impacts on Democracy” reuniu especialistas em política, jornalismo e secretária de estado (Crédito: Thaís Monteiro)
Segundo Joan Donovan, professora de jornalismo e mídias emergentes na Boston University , uma das raízes para o desafio da desinformação é, na verdade, a distribuição do conteúdo falso. A IA apenas tornou a prática de criar conteúdo falso acessível. “Desinformação não importa em uma escala pequena, assim como conteúdo banal. Colocamos essas tecnologias para o mundo e democratizamos desinformação. Tornamos barato, rápido e mais crível”, explicou no painel “Elections in the Age of AI: New Tech’s Impacts on Democracy”.
Para ela, não são as campanhas de políticos que estão distribuindo conteúdo falso sobre os candidatos, mas usuários comuns com acesso à tecnologia. A quantidade de conteúdo falso torna a tarefa de identificar o que é verdadeiro e falso e informar o consumidor desafiadora.
Essa interferência da IA nas eleições começou há tempos, diz Lindsay Gorman, head de tecnologia e geopolítica no fundo German Marshall Fund’s Alliance for Securing Democracy, mas desde 2023, o problema ganhou escala. Segundo a executiva, o governo pode tentar divulgar o máximo de informações ao público e fazer checagem de fatos para remediar o problema de deepfakes. A mídia também tem um papel nisso.
Porém, essas duas esferas da democracia não conseguem fazer esse trabalho com a mesma velocidade com que conteúdos falsos são criados e distribuídos. Segundo Joan, cidades menores que já não contam com jornalismo local são as que devem sofrer mais com a influência de deepfakes.
“Os nossos rivais têm sucesso em local de caos. No outro lado, a total descrença é autocrática. Nós temos que fortalecer a balança. Isso é onde a segurança nacional deve trabalhar. A melhor forma de desequilibrar a democracia é lançar vários ataques à desinformação. Estamos vulneráveis”, declarou Lindsay.
Secretária do Estado do Colorado, Jena Griswold informou que o governo tenta usar a IA para fortalecer a segurança de seus sistemas de tecnologia e informação, para se defender de ataques cibernéticos e deep fakes. Além disso, o estado treina para cenários desastrosos e ensina oficiais eleitorais a se proteger e identificar conteúdo falso. “Estamos no meio de um ataque generalizado à democracia. Há massiva desinformação circulando”, disse.
Jena argumentou que o Congresso precisa criar legislações em relações a deepfakes, pedir a identificação de conteúdo criado com IA e penalidades para aqueles que infringirem a lei. Para ela, o governo não sabe bem como lidar com a desinformação em escala, porque há grupos que descredibilizam o sistema eleitoral.
Joan não tem a mesma esperança. “Eu não tenho muita esperança nas nossas instituições para legislar. O maior lobby dos Estados Unidos é o das big techs, que querem operar em um ambiente desregulamentado”, argumentou.
Como anda a regulamentação?
Se as esferas públicas, a mídia e as plataformas sociais não conseguem dar conta do recado, a regulamentação pode se tornar um caminho viável. O painel “Beyond the Hype: Policy for Keeping AI in Check” se propôs a debater essa questão.
Painel “Beyond the Hype: Policy for Keeping AI in Check” reuniu conselheiros e especialistas em tecnologia e privacidade (Crédito: Thaís Monteiro)
Por ora, o Estados Unidos não conta com uma regulamentação sobre o tema. O presidente do país lançou em 2023 uma Ordem Executiva com diretrizes a respeito da IA.
Já a União Europeia aprovou o texto The AI Act, que determinou regras de transparência, o estabelecimento de ambientes para testes controlados e classificou as IAs por riscos. Além disso, investiga aportes da Microsoft na OpenAI e demais investimentos das big techs em startups de inteligência artificial.
Segundo Alisa Valentin, diretora política da organização Public Knowledge, a União Europeia está “há anos luz” dos Estados Unidos quando se trata de regulamentação. “São países que valorizam saúde para todos, vida balanceada, se preocupam com privacidade de dados”, descreveu.
Os painelistas criticaram o fato dos Estados Unidos ainda não contar com uma lei sobre privacidade de dados, como no Brasil. “A IA consome muitos dados pessoais. Já que não temos essa lei, tem pouco a fazer para lutar contra isso. Muito dos danos pela IA seriam mitigados com proteção de dados”, afirmou Calli Schroeder, conselheira sobre privacidade global na Epic.
Para Bertram Lee Jr., conselheiro sobre políticas de dados, e IA da National Telecommunications and Information Administration (NTIA), o próprio governo do país não tem interesse em regulamentar a tecnologia, pois é grande investidor dela. Ele frisou a importância de uma futura lei sobre privacidade de dados interagir com IA e do usuário poder conceder ao compartilhamento de dados, mas também poder retirá-los do sistema se for sua vontade.
Já Alisa sublinhou a importância de ter pessoas marginalizadas na mesa quando o poder público for discutir a fundo os impactos da IA, pois são grupos que são mais prejudicados.
Em relação aos deepfakes, na ordem executiva, a Casa Branca ordenou ao Departamento de Comércio que investigasse técnicas novas e existentes para determinar a autenticidade do conteúdo e rotular conteúdo artificial.
Segundo Calli, um deepfake pode trazer prejuízos de múltiplas esferas: financeiro, para alugar ou comprar casas, para entrar em instituições de ensino ou conseguir um novo emprego e reputacional, de forma geral. “Também há efeitos psicológicos e emocionais. São todos impactos reais que estão machucando pessoas”, disse.
“Os desenvolvedores falam que o território da IA ainda é um velho oeste, ou seja, que não há regras e que ainda estão tentando entender como navegar. Não precisamos de políticas e regulamentação para cumprir com princípios básicos de responsabilidade que já são aplicados em outros campos. É necessário transparência, contratos, regras para proteção de dados. Há tantos passos que já existem e essa indústria convenientemente gosta de pensar que não há. Há oportunidade das IA serem responsáveis e mostrar liderança”, concluiu a executiva.
