O Ministério da Comunicação e Assuntos Digitais da Indonésia determinou, neste sábado (10), o bloqueio provisório do Grok, chatbot de inteligência artificial da xAI integrado à rede social X (antigo Twitter). É a primeira ação oficial de um país contra a ferramenta, apontada por gerar imagens pornográficas e deepfakes sem consentimento.
Em nota obtida pela agência Reuters, a ministra Meutya Hafid afirmou que a produção de “deepfakes sexuais não consensuais” fere direitos humanos e compromete a segurança dos cidadãos no ambiente digital. O governo convocou representantes do X para prestar esclarecimentos.
Com a maior população muçulmana do mundo, a Indonésia mantém legislação rigorosa contra material considerado obsceno na internet. O bloqueio ocorre após queixas de que o Grok teria criado imagens sexualizadas de mulheres e crianças. A Internet Watch Foundation relatou que a ferramenta estaria sendo usada para fabricar conteúdo de abuso sexual infantil.
A repercussão levou autoridades do Reino Unido e da União Europeia a abrir investigações. Pressionada, a xAI restringiu a criação de imagens, liberando o recurso apenas para assinantes do plano pago. Reportagem do site The Verge, entretanto, mostrou que a limitação pode ser contornada.
Imagem: FarisFitrianto
Elon Musk, dono da xAI e do X, declarou que usuários que produzirem conteúdo ilegal serão punidos, medida criticada por especialistas por priorizar sanções posteriores em vez de barreiras técnicas preventivas. Questionada pela Reuters sobre a proibição na Indonésia, a xAI respondeu apenas com a frase: “A mídia tradicional mente”.
Com informações de WizyThec
