1 de abril de 2024 - 10h46

Este mês, foi aprovada pelo Parlamento Europeu o AI Act, a primeira regulamentação do mundo sobre Inteligência Artificial feita por um player relevante. Como o texto traz obrigações mesmo para empresas e profissionais que não estão baseados na Europa, mas que tenham soluções usadas no mercado europeu, ele influenciará a atuação da maior parte das companhias do mundo. Neste cenário, o que uma liderança de marketing precisa saber?

A versão final da regulamentação possui 272 páginas, mas vou resumir os pontos mais relevantes para quem atua no marketing. Primeiro, trago a fala de Margrethe Vestager, Comissária Europeia de Competitividade, e voz ativa na negociação do texto. Segundo ela, o objetivo primário é o de criar um ambiente em que as pessoas tenham confiança na tecnologia de inteligência artificial, e busca-se isso ao criar proibições de usos maliciosos e normas para usos com alto risco para o usuário final. Nas palavras dela, para que a IA possa gerar impacto na sociedade, é fundamental que as pessoas desejam usá-la e, para isso, elas precisam se sentir seguras.

Dentre os casos de uso vedados pela regulamentação, alguns se conectam à área de marketing, mas, em sua maioria, já não desaconselhadas ou proibidas por legislação ou autorregulamentação do setor. São eles:

– Uso da IA para manipulação e/ou técnicas subliminares;

– Exploração de vulnerabilidades baseadas em características de uma pessoa (como gênero, raça, classe social etc.);

– Inferir emoções em ambientes públicos e privados;

– Identificação biométrica em tempo real em espaços públicos;

Vale ressaltar que a regulamentação é expressa ao dizer que são permitidos usos de IA para comunicação persuasiva (desde que em conformidade com legislações e outras regras já existentes).

De maneira complementar, os casos de uso abaixo são entendidos como de alto risco:

– Toda e qualquer perfilização feita com dados pessoais;

– Aplicações que possam fazer uma pessoa achar que está interagindo com outra pessoa (como chatbots e deepfakes).

Nestes casos, os desenvolvedores precisam ter um sistema de gestão de risco, uma governança de dados que comprove que são usados dados válidos e sem viés intencional para treinar os modelos e garantir uma supervisão humana, dentre ouras obrigações técnicas.

Como disse acima, a regulamentação europeia sobre IA busca mapear riscos e coibi-los, para que fique apenas o espaço para usos positivos. Nas palavras de Margarethe, “estamos proibindo certos usos, e não a tecnologia”.

A regulamentação não gera nenhuma interferência em casos de uso de maior impacto para o marketing, como a criação de conteúdo personalizado, a análise de dados de performance, a produção de conteúdos audiovisuais e a automação de tarefas. Pelo contrário, a definir claramente a linha do que não é permitido, evita que determinados usos fiquem numa zona cinzenta, que poderia provocar insegurança na sua adoção.

Para uma liderança de marketing, vale saber que a regulamentação europeia ajuda a tornar mais seguro o uso da IA para a maior parte das atividades de marketing, e indica quais cuidados tomar para ações que podem gerar riscos, como perfilização.