Vídeos, fotos e áudios gerados por inteligência artificial estão alcançando um nível de realismo que dificulta a identificação de falsificações. Especialistas ouvidos pelo portal TechXplore alertam que a popularização do aprendizado de máquina coloca em risco processos eleitorais, relações pessoais e até investigações criminais.
Como a tecnologia funciona
Os deepfakes utilizam redes de aprendizado de máquina capazes de analisar sequências de vídeo até que o sistema “aprenda” quem é a pessoa retratada, seus movimentos e características faciais. A mesma lógica já se aplica à criação de imagens, áudios e até pinturas.
De acordo com o Dr. Richard Nock, líder do grupo de aprendizado de máquina da Data61, “é necessário um sistema de aprendizado de máquina para processar todas essas sequências; a máquina acaba compreendendo como a pessoa se apresenta e se movimenta”.
Material disponível em redes sociais facilita falsificações
O compartilhamento massivo de selfies, stories e gravações em plataformas digitais oferece matéria-prima abundante para golpistas. Filtros populares — como troca de gênero ou face infantil — servem de diversão, mas também alimentam crimes de catfishing. Em um caso recente, um universitário de 20 anos usou um filtro para se passar por adolescente e ajudou a denunciar um homem que marcava encontro pela falsa identidade.
Políticos, celebridades e usuários com grande presença on-line também viram alvos. Aplicativos capazes de gerar imagens explícitas de mulheres a partir de simples selfies ilustram, segundo Nock, um dos usos mais abusivos da tecnologia.
Impacto na opinião pública
Um exemplo emblemático ocorreu com o vídeo adulterado da deputada norte-americana Nancy Pelosi, que viralizou e mostrou como falsificações podem distorcer debates públicos. Para Nock, quando a credibilidade de conteúdos abertos se perde, usuários tendem a migrar para grupos fechados que reforçam crenças próprias, diminuindo o espaço para fatos.
Imagem: Reprodução
Estratégias de combate
Instituições acadêmicas, governos e empresas investem em duas frentes principais:
- Detecção: universidades como UC Berkeley e University of Southern California (USC) desenvolvem sistemas que analisam microexpressões e movimentos faciais sutis, alcançando até 92% de precisão.
- Autenticação: soluções baseadas em blockchain buscam garantir a origem de arquivos, enquanto marcas-d’água digitais permanecem vulneráveis a alterações simples.
Outras práticas incluem estudos contínuos para acompanhar a evolução dos algoritmos de deepfake e parcerias entre governo, indústria e academia. Mesmo assim, criminosos seguem aprimorando suas ferramentas, alimentando um jogo de “gato e rato” que tende a se intensificar à medida que a IA avança.
Com informações de WizyThec
