São Paulo, 10 de outubro de 2025 — Um estudo da Escola de Engenharia Tandon da Universidade de Nova York (NYU) indica que modelos de linguagem de grande porte (LLMs) podem criar vulnerabilidades intencionais em projetos de hardware, impossíveis de corrigir após a fabricação.
Competição colocou IA para atacar circuitos
A pesquisa, publicada na revista IEEE Security & Privacy, analisou resultados do AI Hardware Attack Challenge, competição de dois anos integrada ao evento de segurança CSAW. Equipes utilizaram inteligência artificial generativa para vasculhar designs abertos — entre eles processadores RISC-V e aceleradores criptográficos — e implantar trojans de hardware capazes de:
- vazar chaves criptográficas;
- abrir backdoors ocultos;
- travarem o sistema sob condições específicas.
Automação amplia o risco
Os organizadores observaram que as ferramentas de IA simplificaram todo o processo: a análise de código, a geração de modificações e a inserção dos trojans ocorreram com mínima intervenção humana. Até equipes de graduação, com pouca experiência em design de circuitos, conseguiram produzir falhas classificadas de média a alta gravidade.
Participantes também burlaram salvaguardas dos LLMs. Muitas vezes, bastou apresentar os pedidos como exercícios acadêmicos ou redigir os prompts em idiomas pouco usados para o sistema entregar instruções detalhadas de ataque.
Falhas sem reparo possível
Diferentemente do software, em que atualizações podem eliminar vulnerabilidades, um chip fabricado com um backdoor precisa ser fisicamente substituído. Por isso, os autores defendem filtros mais rígidos nos modelos de IA, além de ferramentas avançadas de verificação de hardware.
Imagem: Shutterstock
O estudo também alerta que modelos de código aberto voltados a projetos de circuitos podem tornar essas técnicas ainda mais acessíveis, ampliando a superfície de ataque no ecossistema de semicondutores.
Com informações de WizyThec
