>>>>1131 >>> >>>1131 >>

Gatos ajudam Facebook a criar algoritmos contra o bullying

Buscar

Mídia

Publicidade

Gatos ajudam Facebook a criar algoritmos contra o bullying

Técnica de repetição de imagens faz com que sistema de inteligência artificial melhore precisão ao detectar insultos e discurso de ódio

Luiz Gustavo Pacete
11 de maio de 2018 - 9h19

O Facebook lançou, no final de abril, uma ferramenta de checagem e filtragem de posts para detectar e reduzir a prática de bullying na plataforma. Uma das formas de aplicação da tecnologia é “desafiar” o algoritmo a aprimorar a maneira como podem ser identificados insultos e discursos de ódio. Isso é feito utilizando fotos do Instagram que contenham hashtags com gatos, cães e paisagens.

De acordo com a Wired, o algoritmo já processou, em sua primeira fase, mais de 3,5 bilhões de fotos públicas do Instagram. O desafio é que seu sistema consiga identificar fotos de mil categorias após o treinamento. Em um dos testes, a plataforma expôs o algoritmo a 1 bilhão de fotos. Na primeira vez, foram associadas as imagens às categorias corretas em 83,1% dos casos, posteriormente, o nível de acerto foi de 85,4%.

A inteligência artificial por trás do filtro foi treinada por humanos e é baseada em sistema de processamento de dados desenvolvido pelo Facebook chamado de DeepText. Ele classifica os comentários negativos em categorias como bullying, racismo e assédio sexual.

Uma pesquisa divulgada no final do ano passado pelo grupo anti-bullying Ditch the Label revelou que 42% dos jovens usuários da plataforma sofreram algum tipo de ofensa no Instagram, a mais alta das redes pesquisadas. De acordo com Luiz Carvalho, sócio e CTO da Nexo, empresa especializada em inteligência artificial, essas ações vêm de encontro com os desafios atuais relacionados a fake news e discurso de ódio proliferados pela rede atualmente.

“Não é humanamente viável identificar todas as possíveis inserções de comentários maliciosos que violam os direitos do outro e que, de certa forma, agridem moralmente. A inteligência artificial é uma extensão da inteligência natural”, afirma Carvalho.

Ele reforça que outro exemplo recente é o modo como o Facebook tem utilizado o tagueamento de fotos no Instagram para treinar seus modelos de machine learning. “São milhões de interações que geram modelos mais eficazes para identificação de fotos e assim poder, por exemplo, identificar e inibir conteúdo nocivo’”, afirma.

Publicidade

Compartilhe

  • Temas

  • Facebook

  • instagram

  • inteligencia artificial

  • Machine Learning

  • social media

Comente

“Meio & Mensagem informa que não modera e tampouco apaga comentários, seja no site ou nos perfis de redes sociais. No site, quando o usuário ler a indicação Este comentário foi apagado’ significa que o próprio comentarista deletou o comentário postado. Não faz parte da política de M&M gerenciar comentários, seja para interagir, moderar ou apagar eventuais postagens do leitor. Exceções serão aplicadas a comentários que contenham palavrões e ofensas pessoais. O conteúdo de cada comentário é de única e exclusiva responsabilidade civil e penal do cadastrado.”