Em Austin a percepção é clara: a IA precisa superar a crise de confiança

14 de março de 2024 - 14h15

Como não poderia deixar de ser, a Inteligência Artificial é a grande protagonista na edição deste ano do SXSW. Até porque, há alguns anos, ela deixou de ser segredo, se tornando uma realidade com potencial disruptivo imenso de transformar o mundo de maneiras que mal conseguimos acompanhar. Contudo, quanto mais caminho pelas ruas do festival, em Austin, percebo existir uma pulga atrás da orelha entre os especialistas – que ganha cada vez mais tamanho – com a IA. Passado o momento de maravilhamento, o quanto podemos confiar cegamente nesta tecnologia?

Longe de mim não reconhecer a capacidade do recurso em alavancar mudanças em nossa sociedade, sobretudo no próprio setor publicitário no qual atuo, ao potencializar habilidades humanas a patamares quase inimagináveis anteriormente. Entretanto, percebo que um dos grandes desafios dos especialistas, que abrem os nossos olhos por aqui é para o fato de que a IA ainda precisa superar uma espécie de crise de confiança, resultado dos novos problemas que surgem com os avanços tecnológicos.

Ao aprofundar a análise, percebo que tal sentimento é justificável. Especialmente quando avalio que os pontos de atenção da IA começam a fazer parte da discussão, junto aos benefícios da tecnologia. Analisando diante da perspectiva das marcas, por exemplo, existem algumas preocupações que passam a fazer parte da discussão de maneira constante. A perpetuação de preconceitos, a falta de dados bons o suficiente para alimentar os modelos, a geração de respostas sem qualquer embasamento na realidade e as problemáticas deep fakes são alguns dos aspectos que abrem questionamentos quanto à essa relação no momento.

Aliás, tais inquietações não possuem origem somente na teoria. Os impactos já são tangíveis. Um exemplo foi a situação vivida recentemente pela Canada Air, que sofreu um revés judicial por conta de uma alucinação cometida por uma IA. Apesar do impacto financeiro ter sido pequeno, a ação abriu um precedente jurídico importante. É possível imaginar que praticamente toda empresa ao redor do mundo sentiu um frio na espinha e pensou: e se a próxima falha acontecer comigo?

Outro ponto, que talvez seja ainda mais alarmante, é como o uso mal-intencionado de deep fakes se tornou um temor real e presente não só nas empresas, mas também no contexto político, que deve sofrer muito mais que o mercado corporativo. Com a IA se tornando acessível e barata o suficiente para quase qualquer usuário, as campanhas eleitorais se tornaram vulneráveis a ser associadas a contextos indesejáveis e perigosos, criando espaços para prejuízos incalculáveis à reputação.

Aqui nos deparamos com outro dilema prioritário para a discussão: quem deve assumir a responsabilidade por regular e controlar o uso da IA? Hoje, acompanhamos falsificações circulando de forma livre no Facebook e TikTok. Porém, é justo culpabilizar somente as plataformas por tais atos? Em sua palestra no SXSW, a especialista Sandy Carter sugere a blockchain como uma ferramenta essencial para esse domínio. Por outro lado, no painel AI and Humanity’s Co-evolution, que contou inclusive com a participação de Peter Dang, Head do ChatGPT na Open AI, a ideia é de que o processo de moderação acontecerá naturalmente através de normas sociais, em que os próprios indivíduos passarão a adotar boas práticas naturalmente.

De uma forma ou de outra, a realidade é que ainda estamos navegando em águas bastante turvas. Com quase 50 projetos de lei em tramitação no Brasil visando a regulamentação da IA, fica claro que estamos tentando correr atrás do prejuízo. No entanto, mesmo com a regulação jurídica, será que conseguiremos desenvolver mecanismos de controle e fiscalização à altura dos desafios?

Estamos diante de um paradoxo: a IA, capaz de nos elevar a novos patamares de existência, também nos lança em um abismo de dúvidas. De todas elas, a que mais me chama atenção é de como conseguir chamar a atenção e conquistar a confiança do consumidor em um mundo onde a veracidade é uma moeda cada vez mais rara. Afinal, como nos relacionamos com uma audiência que, impactada pelo avanço tecnológico da IA, vai passar a duvidar de tudo? Este é um enigma que estamos prestes a decifrar, e sua solução pode redefinir completamente a maneira como vivemos, trabalhamos e interagimos uns com os outros.