Um levantamento do Instituto Stanford de Inteligência Artificial Centrada no Ser Humano (HAI) revela que empresas de tecnologia, entre elas OpenAI, Anthropic, Google, Microsoft, Meta e Nova, empregam as conversas dos usuários com chatbots para aprimorar seus modelos de inteligência artificial. A pesquisa examinou 28 documentos públicos de políticas de privacidade, subpolíticas e FAQs dessas companhias.
Coleta é padrão e opt-out nem sempre existe
Segundo o estudo, todas as plataformas analisadas capturam os diálogos por padrão. A Anthropic, por exemplo, atualizou recentemente seus termos de serviço para deixar claro o uso das interações no treinamento de IA. Algumas empresas oferecem a possibilidade de optar pela exclusão dos dados (opt-out), mas o mecanismo nem sempre é destacado ao usuário.
Armazenamento indefinido e revisão humana
Os pesquisadores identificaram que parte das empresas mantém as informações por tempo indeterminado e permite que funcionários revisem manualmente as transcrições. O material pode incluir anexos enviados pelo usuário, o que amplia o risco de exposição de dados sensíveis.
Ausência de lei federal agrava situação
A autora do estudo, Jennifer King, alerta que a falta de uma legislação federal de privacidade nos Estados Unidos cria um cenário fragmentado de normas estaduais e dificulta a responsabilização das companhias.
Pontos críticos apontados pela pesquisa
Entre os principais problemas mapeados estão:
- Armazenamento prolongado das informações dos usuários.
- Possível uso de dados de menores sem consentimento adequado.
- Falta de transparência sobre coleta, retenção e finalidade dos dados.
- Carência de mecanismos que garantam o cumprimento efetivo das próprias políticas de privacidade.
Combinação de dados e riscos à saúde
O relatório também destaca que dados obtidos em chatbots podem ser cruzados com histórico de buscas na web, redes sociais e compras on-line, formando perfis detalhados. Há preocupação especial com informações de saúde e biometria. Um pedido trivial, como receitas com baixo teor de açúcar, poderia levar o sistema a classificar o usuário como propenso a diabetes, influenciando publicidade direcionada ou até ofertas de seguro de saúde.
Imagem: Blessed Stock
Recomendação dos pesquisadores
Para reduzir os riscos, a equipe sugere uma lei federal que exija consentimento explícito (opt-in) para o uso das interações no treinamento de IA, além da remoção automática de dados pessoais.
“Precisamos decidir se os avanços em inteligência artificial justificam a perda significativa de privacidade dos consumidores”, afirmou Jennifer King ao portal TechXplore.
Com informações de WizyThec
