Por que precisamos de mais calma (e menos deslumbramento)

6 de junho de 2025 - 6h00

Aqui em Londres, no SXSW, não dá para fugir: um dos assuntos mais quentes é a inteligência artificial. Todo mundo falando e agindo: mercados se sentindo ameaçados, empresas correndo para implementar IA e escalar operações, fundos de investimento sedentos por novas tecnologias para aplicar capital e, claro, fazer muito dinheiro.

Eu, como boa empreendedora (e super impaciente, confesso), fui atraída direto pelo título da palestra “The Age of Impatience”. E olha só quem estava lá era Euan Blair — sim, ele mesmo, filho do ex-primeiro-ministro britânico, que fundou a Multiverse em 2016 para criar uma alternativa prática à educação universitária tradicional, apostando em programas de aprendizado dentro das empresas.

O recado dele foi direto: antes de sair aplicando inteligência artificial no coração do negócio, a gente precisa investir pesado em treinamento. Porque, spoiler, erros vão acontecer.

E para provar como a pressa (e a fé cega na tecnologia) pode custar caro, logo ali do outro lado do bairro, o jornalista Bryan Glick, editor-chefe da Computer Weekly, trouxe o caso que virou símbolo desse risco: o escândalo do Post Office britânico, considerado um dos maiores desastres corporativos da história recente.

Durante anos, centenas de gerentes de agências foram acusados injustamente de desfalques, tudo com base nos dados de um software chamado Horizon. Pequenas falhas técnicas acabaram se transformando em grandes tragédias pessoais. A empresa confiou cegamente no sistema, ignorou alertas humanos e não tinha processos internos para checar ou auditar o que a tecnologia estava entregando. Resultado: uma avalanche de injustiças, vidas arruinadas e danos profundos.

Essa história bate forte no debate de hoje sobre IA.

A gente está vivendo o começo de uma nova revolução tecnológica, com a inteligência artificial prometendo mundos e fundos, como produtividade nas alturas, inovação em escala e aquela velha esperança de resolver a crise de produtividade que o Ocidente carrega faz mais de duas décadas mesmo depois de tantas promessas não cumpridas das gerações passadas de softwares e soluções digitais.

Mas há um risco gigante na adaptação superficial.

A história mostra que adotar novas ferramentas sem critério quase nunca traz ganho automático. A chegada dos softwares, lá atrás, mudou o ambiente corporativo, mas nem por isso gerou saltos de produtividade onde mais se precisava.

Agora, com a IA, o potencial é absurdo, sim. Só que o perigo de repetir erros do passado também é. Sem uma mudança cultural verdadeira, sem capacitação de times e revisão de processos e governança, a gente corre o risco de confiar cegamente em sistemas que, como toda criação humana, também falham.

A inteligência artificial é poderosa, claro. Mas está longe de ser perfeita. Ela erra, é cheia de vieses e pode ser bem opaca. A diferença é que agora, se um erro antes afetava algumas dezenas de pessoas, hoje pode atingir milhões em segundos.

Governança digital não é luxo. É necessidade.

O escândalo do Post Office deixa isso claro: governança digital robusta é obrigação. Assim como o software precisa de atualização, as empresas precisam de processos para auditar, validar e, principalmente, questionar os resultados da tecnologia.

Traduzindo: a gente precisa construir estruturas que mantenham o fator humano no centro das decisões. E investir pesado em treinamento e senso crítico.

No fim das contas, implementar tecnologia com calma virou vantagem estratégica. A inteligência artificial é, sim, um divisor de águas. Mas não é varinha mágica. O que vai fazer diferença para valer é a nossa capacidade de integrar tudo isso com responsabilidade.

O caso do Post Office deixou marcas profundas porque faltou o que hoje a gente já deveria saber que é essencial: senso crítico, adaptação cultural e uma governança firme. Em vez de só se deslumbrar com a velocidade e a escala que a tecnologia promete, é hora de andar com calma. Bem mais calma.