Meio&Mensagem

Victória Navarro
30 de junho de 2021 - 12h59

A Autoridade Catalã de Proteção de Dados (APDCAT) organizou, nesta quarta-feira, 30, para o Mobile World Congress (MWC), o painel “Inteligência artificial aplicada ao reconhecimento facial: os principais riscos para a privacidade”. O encontro contou com a participação de especialistas na área, como Maria Àngels Barbarà, diretora da APDCAT, Simona Levi, cofundadora da Xnet, Carles Fernández, diretor técnico da Herta Security, e Josep Domingo-Ferrer, diretor de proteção de dados da Unesco. O painel foi moderado por Jordi Soria, coordenador de segurança da tecnologia da informação da APDCAT.

Segundo Maria, as aplicações de reconhecimento facial em videovigilância de massa pelas autoridades públicas é questionável. “Como muitas outras tecnologias, há aplicações benéficas e prejudiciais. O reconhecimento facial na vigilância em massa é provavelmente a aplicação mais controversa”, disse.

Jordi Soria, coordenador de segurança da tecnologia da informação da APDCAT, Carles Fernández, diretor técnico da Herta Security, e Simona Levi, cofundadora da Xnet (crédito: reprodução/MWC)

Do ponto de vista social, explicou a diretora da APDCAT, a tecnologia enfrenta forte oposição, principalmente no mundo ocidental: “Esses medos têm uma base sólida”. Nesse sentido, ela citou como exemplo o uso do reconhecimento facial no sistema de crédito social chinês, que avalia o comportamento diário das pessoas, para recompensá-las ou puni-las. As autoridades europeias de proteção de dados acabam de emitir um parecer conjunto, lembrando que o uso massivo do reconhecimento biométrico em espaços públicos não só afeta os direitos e a liberdade dos indivíduos, mas também pode criar um efeito grave e irreversível de perda de anonimato a população como um todo: “Isso afeta negativamente e diretamente o exercício de importantes direitos e liberdades em uma sociedade democrática”. Maria lamentou que “a confiabilidade continua sendo um problema dos sistemas atuais e é dez vezes menos confiável quando se trata de mulheres, jovens, negros e outras etnias”.

Simona lembrou que o Regulamento Geral sobre a Proteção de Dados (GDPR) oferece um princípio que deve nortear qualquer processamento de dados públicos ou privados: a minimização, essencial para evitar que nossa privacidade seja violada. Nesse sentido, a executiva destacou que “é difícil encontrar hipóteses em que o reconhecimento facial seja compatível com esse princípio”.

De acordo com Carles, a tecnologia avançou muito nos últimos anos, impulsionada pelos avanços em deep learning. O diretor técnico da Herta Security disse que os avanços técnicos têm sido muito mais rápidos do que a legislação correspondente. “É aqui que entra em cena o recente projeto de regulamentação da inteligência artificial, proposto pela Comissão Europeia”, afirmou. O objetivo da proposta não é banir uma tecnologia que impeça seu uso contra o direito dos cidadãos à privacidade, mas sim definir os critérios que permitirão um uso responsável: usos permitidos (emergências, ameaças sociais e pessoas desaparecidas), requisitos processuais (proporcionalidade entre privacidade e proteção de outros direitos) e qualidade das soluções (eliminação de preconceitos, alta precisão, cibersegurança, e supervisão humana). “Essa proposta pretende garantir que o reconhecimento facial, nos espaços públicos da Europa, é uma oportunidade para proteger direitos e que as soluções europeias podem ser tecnicamente as melhores do mundo”.

A identificação biométrica, em tempo real, em espaços públicos, é listada como uma prática de inteligência artificial a ser proibida na proposta de regulamento da União Europeia sobre inteligência artificial, sinalizou Josep Domingo-Ferrer, diretor de proteção de dados da Unesco: “Nessa proposta, a utilização destas tecnologias pela polícia só é permitida se forem estritamente necessárias para a procura de potenciais vítimas de um crime, para desativar uma ameaça iminente e específica de terrorismo ou para processar condenados criminosos”. Mesmo se a identificação biométrica não for em tempo real, acrescentou, o regulamento do uso de reconhecimento facial deve ser controlado.