Sob críticas sobre a proteção de adolescentes na internet, a OpenAI lançou nesta semana novos controles parentais para o ChatGPT. No entanto, testes conduzidos pelo Washington Post indicam que as barreiras são facilmente burladas.
Bloqueio driblado em cinco minutos
Em avaliação realizada pelo jornal norte-americano, um pai levou cerca de cinco minutos para fugir das restrições criadas para o perfil do filho: bastou encerrar a sessão e abrir uma conta nova no mesmo computador. O repórter concluiu que crianças com algum conhecimento de tecnologia conseguem repetir o processo sem dificuldade.
Outros problemas identificados
Além da criação rápida de perfis alternativos, o teste encontrou falhas em áreas que deveriam ser protegidas:
- A função que impede a geração de imagens por inteligência artificial não funcionou em algumas tentativas.
- Alertas sobre conversas potencialmente arriscadas foram enviados aos responsáveis com atraso aproximado de 24 horas.
A OpenAI afirma que os controles foram elaborados em parceria com especialistas em desenvolvimento adolescente. “Nosso objetivo é oferecer escolha às famílias”, declarou Lauren Jonas, chefe de bem-estar juvenil da empresa.
Reação de grupos de defesa
Organizações dedicadas à segurança infantil receberam a medida com cautela. Erin Walsh, cofundadora do Spark and Stitch Institute, classificou o lançamento como “um passo bem-vindo, mas insuficiente”. Robbie Torney, diretor da Common Sense Media, avaliou que a iniciativa “tem potencial de salvar vidas”, mas pediu avanços adicionais para tornar os chatbots mais seguros.
Coleta de dados e memória de conversas
Nos perfis para adolescentes, o ChatGPT vem configurado para usar automaticamente as conversas no treinamento da IA, salvo alteração manual pelos pais. O sistema também guarda memórias de interações anteriores, recurso que, segundo críticos, pode fazer o robô agir como um “amigo virtual”.
Esse mecanismo foi citado em um processo movido pela família do jovem Adam Raine, de 16 anos, que morreu por suicídio. A ação alega negligência da OpenAI e aponta o recurso de memórias como um dos fatores de risco.
Imagem: Roman Chekhovskoi
Suporte em casos de crise
Nos testes do Washington Post, o ChatGPT orientou corretamente usuários que mencionaram suicídio ou automutilação, sugerindo busca por ajuda profissional. Mesmo assim, a demora nas notificações aos pais preocupa especialistas. Jonas explicou que cada alerta passa por revisão humana antes de ser enviado e prometeu reduzir o tempo de resposta.
Pressão regulatória
Nos Estados Unidos, autoridades estudam regras mais rígidas. O procurador-geral da Califórnia, Rob Bonta, monitora a atuação da OpenAI. Já o projeto de lei AB 1064 propõe responsabilizar legalmente empresas cujos chatbots incentivem automutilação ou transtornos alimentares em adolescentes.
A OpenAI afirma apoiar regulações, mas rejeita pontos específicos da proposta californiana. A companhia ainda trabalha em tecnologia que aplique filtros automáticos a menores de idade e reconhece não dispor, por enquanto, de método definitivo para verificar a idade dos usuários.
[Final natural da notícia]
Com informações de WizyThec
