São Francisco (EUA) – Um relatório divulgado nesta semana pela OpenAI aponta que aproximadamente 1,2 milhão de pessoas por semana usam o ChatGPT para conversar sobre suicídio. O dado corresponde a 0,15% dos cerca de 800 milhões de usuários semanais da plataforma.
Falhas na identificação de risco
Segundo o documento, em 9% das interações com indícios de intenção suicida o chatbot não encaminhou os usuários a serviços especializados de apoio, contrariando a política de segurança da empresa. Nos demais 91%, o modelo GPT-5 seguiu as diretrizes previstas.
Números de saúde mental
A OpenAI também relatou que 0,07% dos usuários semanais apresentam sinais de possíveis emergências de saúde mental relacionadas a psicose ou mania, o que representa cerca de 560 mil pessoas.
Comparação entre modelos
O estudo analisou mil conversas no GPT-5 e constatou uma redução de 65% nas respostas inadequadas em comparação com o GPT-4. Especificamente em diálogos sobre automutilação e suicídio, o índice de respostas indesejadas caiu 52%.
Medidas adotadas pela empresa
Diante da repercussão do caso do adolescente Adam Raine, de 16 anos, que se suicidou após manter conversas sobre métodos de suicídio no ChatGPT, a OpenAI afirma ter adotado ações adicionais de proteção. Entre elas estão um controle parental no aplicativo, a ampliação de serviços de apoio em situações de crise e o recrutamento de 170 médicos para auxiliar na pesquisa e no desenvolvimento de políticas de segurança.
Imagem: Mijansk
A família de Raine processa a OpenAI e o CEO Sam Altman por suposta negligência, alegando que a empresa teria afrouxado diretrizes de segurança antes do ocorrido.
Com informações de WizyThec
