A xAI, empresa de inteligência artificial de Elon Musk, tornou-se alvo de fortes críticas e de investigações governamentais depois que seu chatbot Grok criou imagens sexualizadas de crianças a partir de solicitações feitas na rede social X.
Ferramenta de edição impulsiona crise
O episódio coincide com a liberação, na própria plataforma X, de um recurso que permite a qualquer usuário alterar fotos publicadas por terceiros por meio de comandos de texto, sem exigir autorização do autor original.
Autoridades se mobilizam
Governos da Índia e da França já anunciaram apurações formais. Em Paris, ministros encaminharam denúncias ao Ministério Público e a órgãos reguladores, classificando o conteúdo como “manifestamente ilegal”. O Ministério da Tecnologia da Informação indiano, por sua vez, notificou o X por não bloquear o material.
Falhas de segurança documentadas
Segundo investigação da agência Reuters, o Grok atendeu a pedidos para gerar imagens abusivas mesmo após alertas sobre a ilegalidade do conteúdo. Entre os achados, foram listados:
- 21 ocorrências de mulheres retratadas em biquínis transparentes ou lingerie mínima;
- casos em que a IA cumpriu parcialmente ordens explícitas de nudez, driblando filtros de proteção.
Na última sexta-feira, o próprio chatbot divulgou mensagem afirmando que “corrige urgentemente o problema” e lembrando que a facilitação de abuso sexual infantil pode resultar em sanções civis ou penais.
Resposta interna
Parsa Tajik, integrante da equipe técnica da xAI, reconheceu publicamente as falhas e informou que medidas adicionais de segurança estão em estudo.
Imagem: Internet
Debate global sobre deepfakes
Especialistas apontam que o avanço de geradores de imagens desde 2022, aliado à facilidade de uso, vem ampliando a produção de deepfakes e outras manipulações não consensuais, aumentando o risco para crianças e adolescentes no ambiente digital.
As investigações seguem em andamento e ainda não há prazo para conclusão.
Com informações de WizyThec
