Como o Google usa a IA para garantir a segurança em anúncios

Giovana Oréfice
27 de março de 2024 - 10h30

A inteligência artificial generativa é caracterizada, em grande parte, pelo treinamento que recebe – e o Google está aplicando a tecnologia para sofisticar seus mecanismos de segurança de anúncios.

Nova etapa de avanços do Google em anúncios dá luz à IA (Crédito: Primakov-shutterstock)

A big tech apresentou, durante coletiva de imprensa realizada na última sexta-feira, 22, avanços em relação a sua política para anunciantes e publishers por meio da divulgação de seu Relatório Anual de Segurança de Anúncios. As políticas de anúncios se aplicam a todo o ecossistema coberto pelo Google Ads.

Ainda que as equipes de segurança já utilizassem a IA há algum tempo, por meio de machine learning, um dos grandes facilitadores têm sido os Large Language Models (LLMs). Os programas de processamento de linguagem natural são capazes de processar enormes quantidades de dados e padrões a fim de executar determinados comandos.

“Os LLMs nos permitem começar a aplicar políticas de violação de conteúdo muito mais rapidamente e com menos dados. Eles não exigem tantos exemplos para identificar os métodos dos criminosos”, explicou Duncan Lennox, general manager para o time de privacidade e segurança de anúncios do Google.

relacionado

Nvidia amplia presença no Brasil com canais do Nvidia Studio

Implementação da IA

De acordo com o executivo, 2023 foi o ano em que a empresa implementou suas primeiras políticas com LLMs: mais de 90% das ações de aplicação das políticas para publishers utilizaram os modelos de machine learning.

Entre os resultados, esteve a eliminação de 5,5 bilhões de anúncios, em comparação aos 5,2 bilhões em 2022. Além disso, o Google suspendeu 12,7 milhões de contas de anunciantes – quase o dobro do ano anterior. Para publishers, os times tomaram medidas contra mais de 2,1 bilhões de páginas e 395 mil sites, contra cerca de 1,5 bilhão de páginas e 133 mil sites em 2022.

Apesar da aplicação da IA em larga escala, as equipes seguem sendo essenciais para a aplicação das políticas. Anunciantes e veículos têm a opção de recorrer de uma decisão se acharem que cometemos algo errado. “Os humanos ainda são uma parte essencial desse processo”, disse Lennox.

Ainda, os anunciantes têm acesso a controles dentro do ecossistema Google para escolher os locais em que seus anúncios serão veiculados. Há também a possibilidade de excluir determinados temas ou categorias do contexto de exibição no YouTube e inventários de Display. Ao todo, foram 31 atualizações de políticas de anúncios e voltados para publishers.

Verificação, detecção e remoção

Uma das violações mais vistas pelo Google no ano passado foram os anúncios fraudulentos. A sofisticação da IA também aumentou o uso de deepfakes, a qual Alejandro Borgia, diretor de product management no Google, apontou ser uma das propriedades para as equipes de segurança da companhia.

Em 2023, golpistas estavam utilizando campanhas direcionadas para disseminar malwares por meio de anúncios do Google. A gigante da tecnologia buscou identificar padrões de comportamento dos criminosos e, então, treinou modelos de aplicação automatizados para detectar e remover os anúncios. “Na verdade, estamos mais focados na construção de um ecossistema de anúncios que seja seguro por design, por isso investimos na prevenção e também na detecção”, comentou Borgia.

relacionado

“A TV paga foi redefinida pelas tecnologias”, diz Gustavo Fonseca, CEO da Sky

O relatório aponta que o Google bloqueou ou removeu 206,5 milhões de anúncios que violaram a política de declarações falsas, bem como 273,4 milhões que foram contra sua política de serviços financeiros.

As políticas também se baseiam nos requisitos de verificação de identidade dos anunciantes a fim de fornecer mais transparência aos usuários. Os esforços são somados a parcerias com organizações como a Global Anti-Scam Alliance e a Stop Scams UK.

Eleições e anúncios no Google

O ano de 2024 será marcado por decisões eleitorais em diversos países pelo mundo: 52% da população global irá às urnas nos próximos meses. Por isso, o Google deu enfoque às políticas voltadas para anunciantes eleitorais.

A companhia segue um padrão de verificação de qualificação de candidatos para a veiculação de anúncios, bem como a sua identidade. Na sequência, utilizam as informações que coletam durante o processo de verificação para obter informações pelas divulgações que aparecem em todos os serviços do Google ao final das eleições. Todos os dados, bem como números relacionados a investimentos, estão disponíveis no relatório de transparência de política eleitoral do Google.

No ano passado, a empresa verificou mais de 5 mil novos anunciantes eleitorais. Também removeu mais de 7,3 milhões de anúncios eleitorais vindos de anunciantes com verificação incompleta. No período, o Google também lançou um requisito de identificação de conteúdo sintético em anúncios eleitorais.

“Reconhecemos plenamente a implementação do impacto que a IA pode ter na política. Como cada vez mais anunciantes aproveitam o poder da IA ​​generativa em seus anúncios, queremos garantir que nossas políticas refletem o cenário em constante mudança”, apontou Borgia.

Durante a apresentação, o executivo também reforçou as medidas relacionadas a informações prejudiciais ou falsas sobre mudanças climáticas e saúde, por exemplo. A consequência é a remoção de anúncios e diminuição da monetização do conteúdo.