O grupo brasileiro de ódio a mulheres que fabrica com IA imagens pornô falsas sob encomenda

Era o intervalo do seu trabalho como bartender em um restaurante de São Paulo. Momento de descanso — e de checar o celular. Ana* estranhou duas mensagens que recebeu pelo Instagram.

Ambas tratavam do mesmo tema. Era um aviso que levou a um turbilhão do qual ela ainda não saiu.

Duas mulheres diziam nas mensagens que uma foto de Ana ao lado de sua mãe — feita em uma festa de Natal — tinha sido alterada e transformada em uma imagem em que as duas apareciam nuas. A imagem estava sendo compartilhada na internet junto com o link para o perfil de Ana no Instagram.

"Minha mãe, a pessoa que mais amo na minha vida. Uma senhora religiosa de 65 anos. Só de lembrar da foto, de ter que rever a foto, eu fico mal. Ela não sabe até hoje o que aconteceu", ela conta à BBC News Brasil.

Apesar do choque, a bartender de 25 anos não demorou para perceber a relação da imagem manipulada com uma postagem que ela havia feito no Facebook — era uma provável represália.

Em maio, Ana havia compartilhado um alerta: participantes de uma comunidade no próprio Facebook estavam criando imagens pornô falsas a partir de fotos das colegas, vizinhas ou parentes.

Nestas manipulações, um corpo nu é inserido digitalmente no lugar do corpo vestido com roupas da pessoa que aparece na imagem original. Ou o rosto da vítima é adicionado.

Especialistas dizem que o avanço acelerado da inteligência artificial vem tornando essas montagens, conhecidas como deepfakes, cada vez mais realistas. São os antigos "photoshops" com capacidades multiplicadas.

Ana decidiu fazer por conta própria uma investigação para descobrir quem eram as pessoas por trás desse grupo.

Ela notou que comunidades deste tipo costumam ser tiradas do ar pelo Facebook em algum momento, porque violam as regras da rede social. Mas ressurgem com nomes ligeiramente diferentes pouco tempo depois e sobrevivem por alguns dias até que sejam derrubadas de novo.

É tempo suficiente, diz Ana, para que essas páginas alcancem seu objetivo: promover comunidades de pornô deepfake que funcionam dentro do aplicativo de mensagens Telegram.

Foi assim com a página do Facebook na qual a imagem de Ana e sua mãe foi publicada, que virou uma comunidade no Telegram que tem quase 2 mil membros.

'Mulher é um ser maligno'

A reportagem da BBC News Brasil presenciou em tempo real participantes da comunidade no Telegram encomendando deepfakes pornô a partir de fotos de mulheres que diziam ser suas conhecidas.

Depois de algum tempo, quem tinha feito o pedido recebia a imagem manipulada de volta.

Uma das mensagens mostrava, por exemplo, uma selfie comum — sem grande produção ou cuidado com iluminação — de uma mulher vestida.

A seguir, apareceu uma versão digitalmente modificada em que ela aparecia nua.

Participante 1 - Quem é?

Participante 2 - Mãe de um amigo meu kkkk

Nos diálogos travados no grupo, os participantes demonstravam ter uma postura de forte hostilidade em relação a mulheres.

Nos diálogos travados no grupo, os participantes demonstravam ter uma postura de forte hostilidade em relação a mulheres.

Participante 3 - Mulher calada ou tá lavando louça ou dando pro marido depois do trabalho

Participante 4 - Ou apanhando

Participante 5 - Mulher é um ser maligno e também é o ser mais falso da humanidade. Hoje em dia elas são verdadeiros demônios

Outro membro da comunidade fala de forma obsessiva sobre a irmã, aborda a possibilidade de abusá-la e pede que façam um pornô deepfake dela.

Alguns também se gabam de apreciar gore — vídeos e fotos de situações de extrema violência, quase sempre reais.

Mesmo em comunidades abertas do Facebook, onde não é postado pornô deepfake, o propósito do grupo de constranger mulheres é celebrado.

Ana mostra uma página de memes, que se descreve como de "humor negro" e reúne 63 mil usuários, onde se ironiza o receio de mulheres de postarem livremente suas fotos.

"Apenas imagine: [...] mulheres passam a ter medo de postar qualquer foto na internet, pois o robô da p...ria está sempre à espreita", disse um dos participantes.

Outro comentou: "*mulheres passam a ter medo de postar qualquer foto na internet* Objetivo concluído ??

À BBC News Brasil, o Telegram e a Meta, dona do Facebook, disseram que monitoram constantemente a circulação de conteúdo prejudicial em seus aplicativos e atuam quando necessário.

Tanto nestes grupos de memes do Facebook, que são acessíveis sem qualquer restrição, quanto nas comunidades fechadas do Telegram são frequentes as menções a termos e temas da "machosfera", como são chamados os grupos e fóruns online em que os participantes debatem sobre uma suposta perda do poder masculino na sociedade atual.

Há as subdivisões dentro da machosfera, mas o discurso de ódio — ou ao menos de ressentimento — contra as mulheres está presente em boa parte delas. Os grupos incel e redpill estão entre os principais.

O nome incel vem da expressão em inglês "involuntary celibates" (celibatários involuntários, em tradução livre do inglês).

São adolescentes ou jovens adultos que se dizem rejeitados por mulheres e visitam fóruns online para encontrar uma comunidade.

Muitos alegam que perderam a "loteria genética" (consideram não ser o "protótipo" de homem popular) e afirmam que estão "condenados" ao desprezo pelo sexo feminino.

Diferentemente dos incels, os redpills falam de travar relacionamentos com mulheres, mas sustentam que é necessária uma atitude de dominação e de desconfiança em relação a elas.

Prega-se um retorno aos tempos em que o domínio masculino era indiscutível na sociedade.

Redpill (pílula vermelha, em tradução livre) é uma referência aos filmes da franquia Matrix, em que o protagonista escolhe entre tomar a pílula azul, que permite seguir em um "mundo de ilusões", e a vermelha, para encarar a "realidade".

Ana fala com o 'admin'

Ana conta que os administradores, ou "admins", da comunidade no Telegram ofereciam, por R$ 15, acesso a um "grupo VIP com outros tipos de conteúdo".

Ela mostrou à reportagem capturas de tela de uma conversa que teve com um deles em que ela demonstrou interesse em acessar o grupo.

O administrador, então, forneceu duas chaves de pix embaralhadas (aleatórias). Ana, porém, demorou alguns minutos para efetuar a transação.

Ela mostrou à reportagem capturas de tela de uma conversa que teve com um deles em que ela demonstrou interesse em acessar o grupo.

Ele voltou então a procurá-la e passou uma nova chave pix: seu número de celular.

Ana diz que, a partir dessa informação, encontrou informações que levavam a dados associados a um homem do interior de Goiás.

Ela decidiu levar essas informações à polícia. Junto com Ana, outras vítimas de pornô deepfake denunciaram seus casos.

Elas se reuniram em um grupo de WhatsApp para discutir estratégias sobre como fazer os responsáveis pela comunidade pornô deepfake serem responsabilizados pela Justiça.

Entre as participantes, há a mãe de uma menor de idade que foi alvo de deepfake.

Outra é Fernanda*, de 22 anos. Ela é cosplayer (veste fantasias de personagens famosos, principalmente dos animes japoneses) e teve uma foto de uma festa de Halloween alterada.

Fernanda diz que já sofre com agressões online quando não responde a abordagens de interessados na cultura cosplayer.

Após a manipulação da sua foto, a preocupação aumentou.

"Você começa a ficar com medos do tipo 'será que eu devo sair com tal roupa? E se fizerem alguma coisa? E se tirarem uma foto?", diz.

"Porque eles acreditam que, por causa da roupa, eles têm direito de fazer isso. Tanto que um dos comentários no grupo deles do Telegram foi 'para não ser vítima do nosso grupo, basta não tirar foto com decote'."

Ela decidiu tornar privados seus perfis, que incluíam as fotos de cosplay, e diz que se tornou "reclusa" nas redes sociais desde então.

Poucas respostas da polícia

Ana, Fernanda e outras vítimas que moram em São Paulo levaram capturas de tela de conversas e imagens postadas nos grupos no Facebook e no Telegram à Delegacia de Delitos Cometidos por Meios Eletrônicos, divisão criada no final de 2020.

Elas dizem que, após uma espera de quatro horas, foram informadas que a denúncia seria registrada, mas que a delegacia só investiga casos de fraudes financeira ou violação de redes de dados e que outros crimes cometidos por meios eletrônicos devem ser apurados pelas delegacias mais próximas de onde as vítimas moram.

Ana e Fernanda afirmam que, nas respectivas delegacias, foram informadas que os policiais ainda aguardavam o registro feito pela Delegacia de Delitos Cometidos por Meios Eletrônicos.

Até o momento de publicação desta reportagem, nenhuma das vítimas diz ter recebido qualquer sinalização de que suas denúncias estão sendo apuradas.

Estado de São Paulo afirmou que "a instituição está à disposição da vítima, e de outras mulheres que sofreram este tipo de crime, para formalizar o registro do boletim de ocorrência e investigar os fatos".