A OpenAI anunciou novas diretrizes de segurança para o ChatGPT com foco em usuários com menos de 18 anos. O pacote de medidas inclui restrições específicas nas conversas, sistema de detecção automática de idade e materiais de alfabetização em inteligência artificial direcionados a pais e responsáveis.
Restrições voltadas a adolescentes
O conjunto de regras proíbe encenações sexuais ou românticas em primeira pessoa, impõe cautela extra em temas ligados a transtornos alimentares, automutilação e suicídio, e recomenda que o chatbot incentive a busca de ajuda de familiares ou profissionais quando identificar situações de risco.
Para aplicar as normas, a OpenAI implementou um modelo de previsão de idade capaz de reconhecer usuários menores de 18 anos. Quando adolescentes são identificados, o sistema ativa filtros adicionais e evita oferecer conselhos potencialmente perigosos.
Monitoramento em tempo real e equipe de revisão
Interações classificadas como de alto risco — por exemplo, menções a abuso infantil ou autolesão — passam a ser monitoradas em tempo real. Caso um alerta seja considerado grave, uma equipe treinada pode revisar a conversa e, se necessário, avisar os pais ou responsáveis.
Materiais de alfabetização digital
Além dos filtros, a empresa disponibilizou orientações que descrevem as capacidades e limitações do ChatGPT, sugestões para estabelecer limites de uso, importância de pausas em sessões prolongadas e recomendações para dialogar sobre assuntos sensíveis de forma segura.
Imagem: DavideAngelini
Transparência e referência regulatória
As diretrizes foram publicadas integralmente para que pesquisadores e o público entendam como o modelo deve se comportar. Segundo a OpenAI, a iniciativa pretende servir de parâmetro para legislações futuras, como a lei californiana SB 243, que exigirá divulgação de práticas de segurança em chatbots a partir de 2027.
Com as mudanças, a companhia afirma buscar maior proteção para adolescentes e reforçar o papel da supervisão dos pais na experiência digital dos jovens.
Com informações de WizyThec
