A Administração do Ciberespaço da China (CAC) apresentou, no sábado (27), um projeto de regulamentação voltado a sistemas de inteligência artificial capazes de reproduzir traços de personalidade, raciocínio e comunicação semelhantes aos de pessoas reais.
O texto foi colocado em consulta pública e busca criar um marco regulatório mais rígido para aplicações que interagem emocionalmente com o usuário, incluindo assistentes virtuais, chatbots avançados e outras ferramentas que utilizam texto, imagem, áudio ou vídeo.
Responsabilidades ampliadas
Entre as exigências previstas, as empresas terão de:
- informar de forma clara os riscos do uso excessivo da tecnologia;
- monitorar o estado emocional dos usuários durante a interação, identificando sinais de dependência, estresse ou reações extremas;
- intervir quando houver apego excessivo ou outras emoções consideradas prejudiciais;
- adotar mecanismos de revisão de algoritmos, segurança de dados e proteção de informações pessoais ao longo de todo o ciclo de vida dos produtos.
Conteúdo restrito
A minuta também veta respostas ou interações que possam ameaçar a segurança nacional, disseminar informações falsas, incentivar violência ou veicular material considerado obsceno. Caso o sistema detecte comportamentos problemáticos, a plataforma deverá aplicar medidas para reduzir riscos psicológicos ao usuário.
Imagem: IM ry
A iniciativa integra a estratégia de Pequim para equilibrar a rápida expansão da IA voltada ao consumidor com requisitos de segurança, ética e responsabilidade.
Com informações de WizyThec
