Governos da França e da Índia apresentaram queixas formais contra o Grok, chatbot de inteligência artificial da rede social X, de Elon Musk, depois que a ferramenta foi usada para criar e divulgar conteúdo sexualmente explícito.
Falha permitia alterar fotos de usuários
Segundo relatos enviados a promotores franceses e ao Ministério de Tecnologia da Informação indiano, uma brecha no código do Grok possibilitava que imagens publicadas na plataforma fossem manipuladas para contextos obscenos. A agência Reuters ouviu a brasileira Julie Yukari, 31 anos, moradora do Rio de Janeiro, que teve uma foto de Ano-Novo transformada pela IA: usuários solicitaram que o sistema a vestisse apenas com um biquíni, e o pedido foi atendido.
Em comunicado público, a equipe responsável pelo Grok reconheceu que o erro de software também permitiu a representação de menores em roupas íntimas. Os desenvolvedores afirmaram que já trabalham em correções.
Reação francesa
Na França, ministros acionaram o Arcom — órgão regulador de mídia digital e audiovisual — para verificar se o conteúdo gerado contraria a Lei de Serviços Digitais da União Europeia. As autoridades alegam que mulheres e crianças foram expostas a material ilegal.
Pressão da Índia
Do outro lado do mundo, o governo indiano exigiu que o X modificasse “imediatamente” as normas técnicas e processuais que permitiram a falha. A pasta de TI ordenou bloqueio à geração de nudez, material sexualmente explícito ou qualquer conteúdo proibido por lei e solicitou um relatório detalhado das ações adotadas. O documento deve ser entregue em até 72 horas; caso contrário, a plataforma pode perder a proteção de porto seguro, que evita responsabilização por publicações de usuários.
Imagem: Rajivam
A parlamentar indiana Priyanka Chaturvedi publicou mensagem de repúdio no próprio X, denunciando o aumento de casos em que aplicativos de IA são usados para sexualizar mulheres sem autorização.
Até o momento, o X não divulgou se concluiu as correções exigidas pelos dois países.
Com informações de WizyThec
