Um grupo formado por procuradores-gerais de dezenas de Estados e territórios norte-americanos encaminhou uma carta a Microsoft, OpenAI, Google e outras dez desenvolvedoras de inteligência artificial exigindo medidas urgentes para conter respostas “delirantes”, bajuladoras ou potencialmente prejudiciais emitidas por chatbots, sobretudo em assuntos de saúde mental.
O documento, assinado pela Associação Nacional de Procuradores-Gerais (NAAG) e representantes estaduais, pede que essas companhias adotem auditorias independentes e transparentes antes do lançamento de novos modelos. As avaliações deverão ser conduzidas por especialistas de universidades ou entidades civis, com publicação dos resultados sem necessidade de autorização prévia das empresas.
A carta também propõe protocolos de notificação semelhantes aos utilizados em incidentes de cibersegurança. Caso usuários sejam expostos a respostas potencialmente nocivas, as plataformas teriam de alertá-los rapidamente e divulgar cronogramas detalhados de detecção e resposta a esse tipo de falha.
Os procuradores argumentam que a IA já está ligada a incidentes graves, incluindo episódios de violência e suicídio, agravados por sistemas que reforçaram delírios em vez de contê-los. Por isso, defendem testes de segurança robustos antes que novas versões de chatbots cheguem ao público.
Imagem: Tada s
No plano federal, a postura é diferente. O governo Trump informou que pretende assinar, na próxima semana, uma ordem executiva para limitar a capacidade dos Estados de regulamentar a inteligência artificial, movimento visto como favorável à indústria.
Com informações de WizyThec
