Usuários de redes sociais enviam imagens de mulheres para criar deepfakes com teor sexual, alertando para o perigo dessa prática em comunidades online.
Atenção: Este artigo apresenta informações que podem ser sensíveis para algumas leitoras. Era o momento de descanso durante o expediente como garçonete em um restaurante de São Paulo. Intervalo para relaxar — e para dar uma olhada no celular. Maria se surpreendeu com duas mensagens que recebeu pelo Instagram. Ambas abordavam o mesmo assunto, relacionado a mulheres.
No segundo parágrafo, a situação se intensificou quando ela percebeu que as mensagens faziam parte de um grupo de disseminação de imagens pornográficas falsas. Maria ficou chocada com a quantidade de conteúdo de ódio direcionado às mulheres. A jovem decidiu agir e denunciar a situação, mostrando sua inteligência e coragem diante da situação de inteligência artificial prejudicial.
Alerta sobre Deepfakes: Mulheres Manipuladas em Imagens Pornográficas Falsas
Era um alerta que desencadeou um turbilhão de emoções do qual ela ainda não conseguiu se libertar. Duas mulheres no grupo de mensagens alertaram que uma foto de Ana ao lado de sua mãe, tirada em uma festa de Natal, foi manipulada para parecer que ambas estavam nuas. Essa imagem falsa estava sendo compartilhada online, juntamente com o link para o perfil de Ana no Instagram.
‘Minha mãe, a pessoa mais importante da minha vida. Uma senhora religiosa de 65 anos. Só de pensar na foto, de ter que revê-la, me sinto péssima. Até hoje ela não sabe o que aconteceu’, desabafa Ana para a BBC News Brasil.
Apesar do impacto inicial, a jovem bartender de 25 anos logo percebeu a conexão entre a imagem manipulada e uma postagem que ela havia feito no Facebook. Era uma possível retaliação. Em maio, Ana havia compartilhado um alerta: membros de uma comunidade no Facebook estavam criando deepfakes pornográficos a partir de fotos de colegas, vizinhas ou parentes.
Artigos Relacionados
Nessas manipulações, um corpo nu era digitalmente inserido na imagem original de uma pessoa vestida. Ou o rosto da vítima era colocado em cenas de conteúdo sexual. Com o avanço da inteligência artificial, essas deepfakes se tornam cada vez mais realistas, alertam os especialistas.
Ana decidiu investigar por conta própria quem estava por trás desse grupo. Ela observou que essas comunidades costumam ser removidas pelo Facebook em algum momento por violarem as regras da plataforma. No entanto, ressurgem com nomes levemente alterados e sobrevivem por alguns dias antes de serem banidas novamente.
É tempo suficiente para essas páginas atingirem seu objetivo: promover comunidades de deepfakes pornográficos que operam dentro do aplicativo de mensagens Telegram. A página do Facebook onde a imagem de Ana e sua mãe foi compartilhada se transformou em uma comunidade no Telegram com quase 2 mil membros. Ana decidiu ingressar no grupo e monitorar as atividades.
Durante a reportagem da BBC News Brasil, foi possível testemunhar participantes da comunidade no Telegram solicitando deepfakes pornográficos com base em fotos de mulheres que afirmavam conhecer. Após algum tempo, quem fez o pedido recebia de volta a imagem manipulada.
Uma das mensagens exibiu uma selfie simples de uma mulher vestida, seguida por uma versão digitalmente alterada em que ela estava nua. Nos diálogos do grupo, os participantes demonstravam uma postura hostil em relação às mulheres.
‘Mulher calada ou está lavando louça ou se entregando ao marido depois do trabalho’, comentou um participante. Outro acrescentou: ‘Ou levando pancada’. Em meio a essas interações, a frase ‘Mulher é um ser maligno’ foi repetida, evidenciando o teor de ódio direcionado às mulheres nessas comunidades.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo