Redes sociais de Meta transmitiram 1.400 publicações sobre falsas nudes criadas por Inteligência Artificial. (Manipulação-de-imagens, imagens-geradas-por-IA, remoção-de-roupas)
O Instagram e o Facebook estão exibindo anúncios-pagos de aplicativos que alegam remover a vestimenta de mulheres em fotografias. Os desenvolvedores dessas alegadas ferramentas de edição de imagens investem em espaços de propaganda nas redes sociais da Meta.
Além dos anúncios-pagos, as plataformas também veiculam campanhas-publicitárias que têm como objetivo promover produtos e serviços variados. Os usuários devem ficar atentos para distinguir entre conteúdo orgânico e anúncios-publicitários enquanto navegam pelas redes sociais.
Expansão dos Anúncios Pagos nas Redes Sociais
Apesar das diretrizes proibirem nudez, as gigantes redes sociais divulgaram desde dezembro de 2023 aproximadamente 1.400 anúncios pagos em todo o globo, com 150 destinados ao Brasil, promovendo aplicativos que supostamente geram nudes sem consentimento. No entanto, cerca de 15% desses anúncios foram retirados após a intervenção das plataformas.
Os registros estão registrados na Biblioteca de Anúncios da Meta, onde a empresa que controla as duas redes sociais exibe um histórico de campanhas publicitárias veiculadas em seus serviços. Não há informações públicas sobre a duração dos anúncios no ar antes da remoção nem o investimento realizado.
Artigos Relacionados
O g1 experimentou um dos aplicativos promovidos, porém, em vez de gerar nudes, o app era, na verdade, um ChatGPT simulando uma namorada virtual. Os usuários podem interagir com a personagem por meio de mensagens, oferecendo uma experiência diferente da anunciada.
A Meta afirmou utilizar inteligência artificial e equipes humanas para remover conteúdo que infringe suas diretrizes. A empresa também informou já ter removido anúncios mencionados pelo g1, embora novos tenham surgido desde então.
Detalhes Sobre os Anúncios de Geradores de Nudes
As campanhas publicitárias geralmente exibem duas imagens, aparentemente criadas por inteligência artificial. A primeira mostra a simulação de uma mulher vestida, enquanto a segunda revela como ela ficaria sem roupa, sendo a imagem encoberta por textos do anúncio para dificultar a moderação.
Alguns anúncios direcionam os usuários para aplicativos disponíveis na Play Store e na App Store. Estes aplicativos prometem recursos de criação de imagens com inteligência artificial, embora sem mencionar explicitamente a capacidade de remover roupas de fotos.
Cerca de 1.400 anúncios circularam no Instagram e Facebook a partir de dezembro de 2023, utilizando a expressão ‘any clothing delete’ (‘deletar qualquer roupa’, em inglês). Deste total, 211 (15%) foram removidos pelas plataformas, sendo 150 deles direcionados ao Brasil.
A Biblioteca de Anúncios da Meta não fornece detalhes sobre o alcance total, público-alvo e o valor investido na veiculação dos 1.400 anúncios, os quais apresentam diferentes imagens de mulheres geradas por IA. A disseminação não se limita somente a expressões como ‘deletar qualquer roupa’.
Propagação de Anúncios Semelhantes
Anúncios parecidos contendo termos como ‘undress’ ou ‘nudify’ também foram identificados nas redes sociais, confirmando o problema. Alguns aplicativos promovidos não funcionam conforme anunciado, chegando a solicitar uma assinatura de US$ 30 (cerca de R$150) aos usuários por recursos inexistentes.
Embora não proporcionem a funcionalidade esperada, tais anúncios atraem indivíduos em busca de meios para criar imagens íntimas de terceiros sem consentimento. A prática tem sido facilitada pelo uso mal-intencionado de ferramentas de inteligência artificial.
Em uma situação alarmante em novembro de 2023, mais de 20 alunas de escolas no Rio de Janeiro tornaram-se vítimas de manipulação de imagens associada à remoção indevida de roupas em fotos.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo