Mais de 80 mulheres de Minneapolis, no estado norte-americano de Minnesota, descobriram que imagens retiradas de suas redes sociais foram transformadas em pornografia gerada por inteligência artificial. O material foi criado por meio do site DeepSwap, um dos aplicativos “nudify” que prometem remover roupas e inserir corpos digitais em fotos e vídeos.
A história veio à tona em junho de 2024, quando a consultora de tecnologia Jessica Guistolise recebeu um alerta da amiga Jenny. Ela informava que o ex-marido, identificado como Ben, mantinha em seu computador montagens sexuais produzidas a partir de registros pessoais de dezenas de mulheres da região, inclusive amigas próximas, como a estudante de Direito Molly Kelley.
Entre as imagens manipuladas havia fotos de férias em família e da formatura da afilhada de Guistolise, todas extraídas de seu perfil no Facebook. O grupo formou uma rede de apoio para avaliar qual seria a reação possível, mas esbarrou em lacunas legais. “Ele não quebrou nenhuma lei que conhecemos”, observou Kelley ao notar que não existiam provas de disseminação do conteúdo.
Ferramentas acessíveis e mercado lucrativo
Plataformas como o DeepSwap funcionam por assinatura, aparecem em anúncios no Facebook e no Instagram e podem ser baixadas na App Store e no Google Play. Segundo Haley McNamara, do National Center on Sexual Exploitation, basta uma única foto e poucos segundos “— menos tempo do que preparar um café —” para gerar um deepfake sexual realista.
Pesquisadores da Universidade da Flórida e da Georgetown University afirmam que esse modelo de negócios, embora pequeno dentro do universo da IA generativa, já se mostra lucrativo. A facilidade de uso amplia o risco, sobretudo para mulheres, que historicamente concentram a maioria das vítimas.
Reação legislativa
A senadora estadual Erin Maye Quade apresentou um projeto de lei em Minnesota que prevê multas de até US$ 500 mil para empresas que ofereçam serviços de nudez artificial ou criem deepfakes sexuais sem consentimento. O texto se concentra na criação do material, tentativa de cobrir falhas de legislações que focam apenas na distribuição.
No âmbito federal, o Take It Down Act — assinado pelo então presidente Donald Trump — criminaliza a publicação online de imagens íntimas não consentidas, inclusive deepfakes. Especialistas, porém, alertam que a norma não contempla casos em que o conteúdo permanece restrito ao computador do agressor.
Imagem: Golden Dayz
Casos em outros países
O problema não se limita aos Estados Unidos. Em 2024, um australiano foi condenado a nove anos de prisão por produzir deepfakes de 26 mulheres. No Brasil, investigadores apontaram um esquema que utilizava fotos de redes sociais para fabricar pornografia falsa, com encomendas circulando em grupos do Facebook, Telegram e, mais recentemente, Discord.
Impacto nas vítimas
As consequências psicológicas foram severas. Grávida na época, Molly Kelley relatou aumento de estresse e problemas de saúde. Já Megan Hurley disse ter desenvolvido paranoia e pediu que amigos monitorassem a internet em busca de imagens suas.
Enquanto buscam reparar os danos, Guistolise e as demais vítimas tentam alertar o público sobre a facilidade com que conteúdos desse tipo podem ser produzidos. “É importante que as pessoas saibam que isso existe, é acessível e fácil de fazer, e precisa parar”, afirmou Guistolise.
Com informações de Olhar Digital
