Novos decretos ampliam proteção às mulheres na internet

Em maio deste ano, dois decretos foram instituídos para legislar sobre as responsabilidades das plataformas, estabelecendo regras no âmbito do julgamento do Supremo Tribunal Federal a respeito do Artigo 19 do Marco Civil da Internet. Anteriormente, o Artigo 19 estabelecia que as plataformas digitais só podiam ser responsabilizadas civilmente por conteúdos gerados por usuários se descumprissem uma ordem judicial prévia de remoção. Agora, o regime de responsabilização mudou.

O decreto nº 12.975 trata de um contexto geral a respeito da circulação de conteúdos, definindo novas obrigações de moderação e combate a crimes digitais. Já o segundo, nº 12.976, traz o recorte da proteção das mulheres no ambiente online.

Renata Mielli, coordenadora do Comitê Gestor da Internet no Brasil (CGI.br), conversou com o Women to Watch sobre as novidades e mudanças que estes decretos trazem para a segurança das mulheres e no combate a crimes e violência de gênero, além de discutir os próximos passos para a consolidação destas novas regras.

Meio & Mensagem – Quais mudanças as plataformas devem fazer agora quanto aos crimes online contra mulheres?

Renata Mielli – São várias as questões previstas no Decreto nº 12.976. A primeira é estabelecer regras para garantir o acesso a conteúdos e informações que permitam ao Estado brasileiro investigar contas que, reiteradamente, promovam violência contra a mulher. O decreto detalha tipos de violência, como crimes e atos ilícitos, violência doméstica e política e exploração de conteúdo íntimo, além de definir os deveres de cuidado das plataformas nesses casos.

Nesse contexto, surge o conceito de falha sistêmica. Ao identificarem uma ação coordenada de violência contra a mulher em seus serviços, os provedores devem indisponibilizar os conteúdos mesmo sem notificação prévia. Caso tenham conhecimento da existência desse material e não ajam, podem ser responsabilizados na caracterizando de falha sistêmica. As plataformas já adotam medidas previstas em seus termos de uso, mas agora precisam incluir nessa proteção preventiva conteúdos que configurem crimes contra as mulheres.

O decreto também estabelece procedimentos de notificação, que podem partir dos usuários ou das próprias plataformas e chegar ao sistema de Justiça. Exige ainda transparência sobre as medidas adotadas e informações que permitam identificar conteúdos criminosos quando forem removidos. Por fim, há uma seção que veda aplicações voltadas à manipulação sintética, por IA generativa, de imagens de mulheres. O decreto é tecnologicamente neutro e não regula plataformas ou funcionalidades específicas. Ainda assim, casos como o Grok, do X, mostram o problema na prática, com a geração de imagens de mulheres em situações de exploração sexual e nudez manipuladas por IA.

M&M – O texto fala sobre “falha sistêmica”. O que caracteriza a falha sistêmica?

Renata – A falha sistêmica é caracterizada à medida que os órgãos reguladores conseguem aferir que um provedor de aplicação tinha conhecimento da circulação massiva de determinado conteúdo. Não de um conteúdo individual, mas de uma determinada ação contra um público vulnerável, no caso, as mulheres, e não agiu para mitigar e indisponibilizar a circulação desse conteúdo. No exemplo do Grok, você tinha ali um conjunto de conteúdos sendo gerados por inteligência artificial que colocavam as mulheres numa situação de exploração sexual, de nudez e de violação da sua intimidade. A plataforma sabia que aquilo estava acontecendo e que esses conteúdos eram gerados e compartilhados em redes de exploração sexual e não fez nada para impedir. Isso é um risco sistêmico, porque precisa ser identificado e é preciso ter a ação da plataforma previamente ao dano, porque ele muitas vezes é irreparável e pode significar a morte de uma mulher.

M&M – O texto do decreto considera violência contra mulher no ambiente online: “i) crimes praticados por meio da internet que difundam conteúdo que propague ódio ou aversão às mulheres”. O que isso significa? Perfis dos chamados “red pills” poderiam entrar nesta esfera? Nesse caso, os donos deste perfis seriam responsabilizados ou apenas as plataformas?

Renata – Há uma cadeia de responsabilidade prevista. Se for um perfil que possa ter até um conteúdo que consideramos misógino, mas que foque apenas na masculinidade e não fale diretamente que o conceito subjuga a mulher, ou que não seja explicitamente uma violência contra a mulher. O limite é bastante tênue, mas esse conteúdo talvez não seja criminoso. Contudo, se configurar como um, se a plataforma for notificada e não agir, aí ela será responsabilizada. Mas o autor do conteúdo também pode ser responsabilizado.

Então, se pegarmos um caso que já aconteceu, de pessoas que publicam no seu perfil uma manifestação dizendo: “essa mulher merece ser estuprada”, isso é um ato criminoso que, sim, configura violência contra a mulher. Esse perfil precisa ser removido e a pessoa autora precisa ser responsabilizada pelo sistema de justiça. Então, há dois níveis de responsabilidade. O conteúdo “red pill” tem uma linha tênue e aí depende do conteúdo que ele esteja promovendo nesse canal. Ele pode cair numa condição de crime, mas pode estar ainda dentro dos limites do que é aceitável pela liberdade de expressão.

Se conheço o autor, por exemplo, posso abrir um processo judicial e a pessoa irá responder por um discurso de ódio tipificado em lei. Os decretos em questão regulam o Marco Civil da Internet na perspectiva da responsabilidade dos provedores de aplicação. Inclusive, dando obrigações para que esses provedores comuniquem às autoridades públicas com os dados necessários para identificar um autor de um determinado conteúdo criminoso, caso ele não seja claramente identificável por alguma questão.

M&M – O texto também inclui como violência atos de assédio, importunação, ameaça e perseguição. Mas o que acontece quando esses atos ocorrem por meio das DMs, ou seja, por mensagens privadas? As plataformas também deveriam se responsabilizar por isso?

Renata – Não nesse caso. O decreto não inclui serviços de mensageria dentro do escopo de aplicação. Assim como o Marco Civil, o próprio debate do Supremo Tribunal Federal também excepciona essa questão dos serviços de mensagem privada, porque não são conteúdos públicos. Mas, se uma vez você tiver a capacidade de denunciar um tipo de conteúdo que você tenha recebido como crime, você tem condição de fazer todo o processo. Nesse caso, não tem responsabilidade ativa da plataforma, porque a plataforma não monitora os conteúdos trocados em serviços de mensagem privada. Agora, quando você tem, dentro de um serviço de mensagem privada, canais públicos abertos com características de broadcasting, como por exemplo o Telegram, aí entendo que valeria uma avaliação se o decreto poderia ser aplicado nessas situações.

M&M – Existem debates ou vertentes que se contrapõem a estes decretos? É possível que as plataformas reajam de maneira defensiva ou contrária ao que os textos propõem? Há quem entenda estes decretos como uma forma de censura?

Renata – Existem setores que são contra qualquer tipo de regras para os provedores de aplicação. Alguns já acusaram o governo de não ter legitimidade para regulamentar o Marco Civil da Internet à luz da decisão do STF. O Comitê Gestor da Internet se posicionou dizendo que sim, o governo tem legitimidade, porque se trata de uma regulamentação. Não estão sendo criadas novas obrigações, e as que estão estabelecidas derivam de uma decisão do Supremo Tribunal Federal. Portanto, a inexistência de um direcionamento para a aplicação dessas novas regras numa regulamentação traria, de um lado, uma insegurança jurídica imensa sobre o que deveria ser feito. Houve até a apresentação de PDL, projetos de decretos legislativos, tentando suspender a validade desses decretos no governo federal.

Do outro lado, esses decretos existem em razão da omissão do Congresso Nacional de regulamentar as plataformas digitais, à medida em que não aprovaram lei alguma sobre o assunto até o momento.  E o argumento, além da legitimidade, é de que está se estabelecendo uma censura no ambiente digital, mas a impressão que tenho é que esse argumento se concentra de maneira mais intensa no decreto mais geral, porque para o decreto sobre as mulheres, apesar de ter também esse o argumento, é muito mais difícil de se sustentar. Mas é preciso dizer que esses setores contrários à existência de regras argumentam que o ECA Digital promove censura. Então, a régua do debate sobre o que é censura está muito distorcida para quem entende como permitido qualquer discurso de ódio e que atente a populações vulneráveis.

Nós preservamos e lutamos em defesa da liberdade de expressão, mas a liberdade de expressão em sociedades democráticas tem limites que precisam estar estabelecidos. E, entre eles, está o enfrentamento ao discurso de ódio. Então, a liberdade de expressão é um direito fundamental e precisa ser analisada na sua relação com outros direitos, e é por isso que ela tem limites.

M&M – O trecho “a existência de conteúdo criminoso ou ilícito de forma isolada não caracteriza, por si só, falha sistêmica” abre precedentes jurídicos para a não remoção do conteúdo?

Renata – O que nós estamos falando é da responsabilidade. É quando a plataforma se torna responsável por aquele conteúdo. Então, se a plataforma tomou conhecimento daquela ação e não tomou as medidas necessárias para impedir aquilo, ela se torna responsável. Ela também pode ser responsável, no caso, por um conteúdo isolado, mas não configura risco sistêmico. Então, por exemplo, na versão anterior do Marco Civil da Internet, o provedor de aplicação de internet só será responsável por um conteúdo de terceiro, no caso de ordem judicial, se não remover o conteúdo. A questão não era se ele podia remover ou não. Significava que ele só era responsável por aquele conteúdo se tivesse recebido uma ordem dizendo que ele precisava remover e não removeu.

Agora, não. Se ele for notificado, portanto, não necessariamente por uma ordem judicial, sobre um determinado conteúdo individual, não estamos falando aqui de risco sistêmico. Então, um usuário faz uma notificação porque se deparou com um conteúdo que considerou criminoso nos termos do que está estabelecido. Se a plataforma considerar, após avaliação, que esse conteúdo é lícito e não precisa ser removido, ela pode até não remover. Mas pode ser responsabilizada pela minha notificação, mesmo sem ter sido por ordem judicial. Nós estamos falando de a partir de que momento a plataforma passa a ser responsável por aquele conteúdo.

A plataforma não é obrigada a remover o conteúdo. Ela pode até mantê-lo, mas vai ser responsável por aquilo e vai responder judicialmente por ter tomado a decisão de não removê-lo. No caso individual, ou de uma ameaça coletiva, de um risco sistêmico, se ela não removeu e for provado que tinha conhecimento daquele ataque coordenado, também vai responder judicialmente por isso.

M&M – Quais os desafios de aplicação destes novos decretos? 

Renata – Com o ECA Digital e os dois decretos que definiram a Agência Nacional de Proteção de Dados (ANPD) como órgão responsável pela regulação, implementação e fiscalização dessas políticas, o Brasil entra em uma nova fase na relação entre plataformas digitais e Estado. Agora, as empresas precisam fornecer informações claras e detalhadas que permitam à agência verificar o cumprimento das novas regras. Para isso, a ANPD já iniciou consultas e tomadas de subsídios que visam definir sua agenda regulatória. O Brasil avança, assim, na criação de obrigações para empresas que antes atuavam no país sem responder diretamente à legislação nacional. O grande desafio agora é implementar e fiscalizar essas regras. Também serão necessárias campanhas informativas para que a população conheça seus novos direitos no ambiente digital e saiba como contribuir para sua efetivação.

Isso envolve entender como denunciar conteúdos ilegítimos, a quem recorrer, como agir nas redes sociais e quais respostas as plataformas devem oferecer às notificações. É um processo de educação digital e midiática que permitirá às pessoas participar dessa nova etapa regulatória, realizando denúncias adequadas e evitando notificações indevidas. A expectativa é que, em pouco tempo, possamos dizer que o Brasil passou a ter um ambiente digital mais seguro e protetivo dos direitos das populações vulneráveis.