Um estudo publicado na revista Information Systems Research mostra que determinados vídeos curtos nas redes sociais podem estimular pensamentos suicidas em usuários vulneráveis. Para conter esse risco, pesquisadores dos Estados Unidos e da China criaram um modelo de inteligência artificial (IA) capaz de sinalizar o conteúdo antes que ele se espalhe.
Comentários como alerta imediato
Os cientistas analisaram a reação de espectadores logo após assistir aos vídeos. Segundo o coautor Jiaheng Xie, “os comentários deixados imediatamente depois do consumo do conteúdo são indicadores poderosos de como o vídeo afeta emocionalmente quem assiste”. A partir dessa constatação, foi desenvolvido um modelo de tópicos neurais que combina conhecimento médico sobre fatores de risco de suicídio com padrões observados em publicações reais.
A ferramenta prevê a probabilidade de novos vídeos gerarem comentários relacionados a sofrimento emocional, permitindo que moderadores humanos atuem antes que o material alcance um público maior. O sistema também distingue o que é publicado pelo criador do que é sentido pelos espectadores, além de separar fatores clínicos de tendências sociais, como challenges virais ou relatos de desilusões amorosas.
Desempenho e aplicação em plataformas
De acordo com os autores, o modelo superou métodos existentes usados por empresas de tecnologia e pode ajudar plataformas como TikTok a responder às crescentes pressões regulatórias, processos judiciais e preocupações de especialistas em saúde mental. Os pesquisadores ressaltam que a IA deve complementar, e não substituir, o trabalho humano, pois decisões rápidas de moderação podem evitar danos maiores.
Imagem: evrymmnt
A publicação chega em um momento de atenção redobrada à saúde mental de jovens e crianças, público que passa cada vez mais tempo em aplicativos de vídeos curtos.
Com informações de WizyThec
