A Character.ai anunciou que, a partir de 25 de novembro, adolescentes não poderão mais interagir com os chatbots presentes na plataforma. A decisão foi tomada após críticas públicas e processos judiciais que apontaram riscos nas conversas entre jovens e personagens gerados por inteligência artificial.
Fundada em 2021 e sediada nos Estados Unidos, a empresa vinha permitindo que milhões de usuários criassem avatares virtuais e mantivessem diálogos livremente. Agora, segundo o CEO Karandeep Anand, o objetivo é “construir a plataforma de IA mais segura do planeta para fins de entretenimento”.
Pressão de pais, reguladores e especialistas
Relatórios de órgãos reguladores, especialistas em segurança digital e grupos de pais alertaram que os bots podem inventar informações, exagerar empatia e até incentivar decisões perigosas. A Character.ai enfrenta processos no país, incluindo um ligado à morte de um adolescente, motivando a revisão de suas políticas.
Casos polêmicos
Nos últimos anos, a plataforma abrigou bots considerados ofensivos ou inadequados. Em 2024, usuários encontraram avatares que imitavam as adolescentes britânicas Brianna Ghey e Molly Russell, ambas vítimas de episódios de violência e suicídio. Em 2025, o Bureau of Investigative Journalism (TBIJ) identificou um chatbot inspirado no criminoso Jeffrey Epstein; o personagem registrou mais de 3 mil conversas, inclusive tentativas de flerte com um repórter que se passou por menor de idade. O bot foi removido após a denúncia.
Novas medidas de segurança
Segundo a Character.ai, as principais mudanças incluem:
Imagem: Layse Ventura via ChatGPT
- Proibição total de chats entre menores de 18 anos e avatares;
- Verificação de idade obrigatória para todos os usuários;
- Criação de um laboratório dedicado à pesquisa em segurança de IA;
- Oferta de experiências de jogo e narrativa de RPG para adolescentes, em substituição às conversas diretas.
A pesquisadora em segurança de IA Dra. Nomisha Kurian afirmou à BBC que a mudança “ajuda a separar a brincadeira criativa de interações mais pessoais e emocionalmente sensíveis”, etapa considerada essencial para jovens que ainda aprendem a estabelecer limites no ambiente digital.
Com a iniciativa, a Character.ai tenta recuperar a confiança do público e estabelecer novos parâmetros de proteção para crianças e adolescentes em plataformas de inteligência artificial.
Com informações de WizyThec
