Um experimento conduzido pelo The Washington Post em oito grandes plataformas sociais indicou que apenas o YouTube alertou usuários sobre a natureza sintética de um vídeo criado com inteligência artificial (IA). O material testado foi produzido no Sora, novo gerador de clipes da OpenAI, e continha os metadados do padrão Credenciais de Conteúdo, projetado para atestar a origem de arquivos digitais.
Como foi o teste
O jornal enviou o mesmo vídeo para YouTube, Facebook, Instagram, Pinterest, TikTok, LinkedIn, Snapchat e X. O arquivo trazia, nos metadados imutáveis, as frases “Criado usando IA Generativa” e “publicado pela OpenAI”. As plataformas, porém, removeram essas informações ao processar o upload.
Resultados:
- YouTube exibiu o aviso “Conteúdo alterado ou sintético” na descrição do clipe, acessível apenas após clique manual. Não citou o uso de IA.
- Facebook, Instagram, Pinterest, TikTok, LinkedIn, Snapchat e X não mostraram qualquer indicação de que o vídeo era artificial.
- Nenhuma das oito aplicações manteve os metadados nem permitiu que o público os verificasse.
O que é o padrão Credenciais de Conteúdo
Lançado em 2021 por empresas como Microsoft, Adobe e BBC, o protocolo adiciona dados invioláveis que detalham câmera, software de edição ou sistema de IA utilizado. A iniciativa é gerida pela Coalition for Content Provenance and Authenticity (C2PA), da qual fazem parte Google, Meta, Intel, Sony, Nikon, OpenAI e TikTok. A adoção, contudo, é voluntária.
Promessas versus prática
Google, OpenAI e outras gigantes se comprometeram, durante o governo de Joe Biden, a desenvolver mecanismos que identifiquem conteúdo gerado por IA. O teste mostra que essas medidas ainda não se refletem de forma consistente nas plataformas.
Na Califórnia, uma lei que entra em vigor no próximo ano exigirá que grandes redes sociais exibam de forma clara quando um material foi alterado ou criado por inteligência artificial.
Limitações atuais
A OpenAI afirma incluir metadados e uma marca d’água transparente em todos os clipes do Sora, mas reconhece que essas sinalizações podem ser removidas. Há versões do serviço, voltadas a desenvolvedores e usuários profissionais, que permitem baixar vídeos sem qualquer marca.
Imagem: Miha Creative
Google e OpenAI também testam marcadores invisíveis — SynthID, no caso do Google —, mas essas soluções ainda não estão disponíveis ao público.
Posicionamentos
Christa Muldoon, porta-voz do Google, disse que as Credenciais de Conteúdo são “apenas parte” da estratégia da empresa para explicar como um conteúdo foi criado e que a adoção “levará tempo”. Meta, OpenAI, TikTok, Snapchat e X não responderam aos pedidos de comentário; LinkedIn e Pinterest preferiram não se manifestar.
Andrew Jenks, diretor-executivo da C2PA, declarou que os usuários precisam acessar informações sobre como um material foi produzido e que o setor deve aprimorar suas abordagens para garantir transparência.
Com informações de WizyThec
