X/Twitter anunciou novas restrições para o Grok, chatbot de inteligência artificial da xAI, na tentativa de impedir a produção de imagens sexualizadas de pessoas reais. A atualização foi divulgada após críticas crescentes sobre o uso da ferramenta para “despir” digitalmente mulheres e menores de idade.
Assinantes sob responsabilidade legal
A xAI informou ter implementado filtros que bloqueiam a edição de fotos de indivíduos em roupas íntimas ou trajes de banho. Além disso, o acesso aos recursos de geração e edição de imagens passou a ser exclusivo para assinantes, exigindo cartão de crédito vinculado à conta. A empresa argumenta que, com essa exigência, usuários podem ser identificados e responsabilizados em caso de violação das regras.
Barreiras ainda frágeis
Testes realizados pelo site The Verge revelaram que os novos filtros são facilmente contornados. Relatos indicam que bastam alterações sutis nos comandos para que o Grok continue produzindo imagens reveladoras de figuras públicas, contrariando as diretrizes recém-anunciadas.
A falha está ligada ao chamado prompt hacking, técnica em que o usuário formula instruções capazes de driblar restrições pré-definidas. Elon Musk, proprietário do X/Twitter e da xAI, reconheceu o problema, mas alegou que o chatbot só gera esse conteúdo quando provocado por solicitações “inesperadas”.
Pressão regulatória crescente
No Reino Unido, onde a criação de deepfakes sexuais é crime, a plataforma recorreu ao geoblocking e limitou ou desativou a função de edição do Grok. O governo britânico classificou o cenário anterior como “horripilante e insultuoso” para as vítimas. Já na Califórnia, o procurador-geral Rob Bonta abriu investigação para apurar a produção em larga escala de imagens que humilham mulheres e menores.
Imagem: Thrive Studios
Nos Estados Unidos, senadores e grupos de defesa dos direitos das mulheres pressionam Apple e Google a remover o aplicativo do X/Twitter de suas lojas. Na União Europeia, a Comissão Europeia monitora se as mudanças atendem às legislações de segurança digital, enquanto o regulador britânico Ofcom mantém inquérito aberto sobre o caso.
Analistas afirmam que a decisão da xAI de operar com proteções menos rígidas visava incentivar o engajamento, mas se tornou o principal obstáculo jurídico para a expansão do Grok em mercados regulados. Até o momento, as correções anunciadas são vistas por especialistas como paliativas e insuficientes para eliminar a circulação de deepfakes sexuais não consensuais.
Com informações de WizyThec
