Um estudo da Universidade Carnegie Mellon, nos Estados Unidos, sugere que os grandes modelos de linguagem (LLMs) tornam-se menos colaborativos à medida que ganham capacidade de raciocínio. A conclusão foi obtida em experimentos que compararam o comportamento de sistemas da OpenAI, Google, DeepSeek e Anthropic em jogos de cooperação.
Os pesquisadores submeteram os chatbots a tarefas em que era possível dividir pontos com outros participantes virtuais. Quando o modelo não empregava raciocínio avançado, a divisão ocorria em 96% das rodadas. Já os sistemas habilitados para raciocinar dividiram os pontos em apenas 20% dos casos, indicando preferência por benefícios individuais.
Metodologia
No teste, cada IA recebia perguntas dentro de jogos sociais clássicos usados para avaliar altruísmo e cooperação. O desempenho foi comparado entre versões com e sem recursos de raciocínio, permitindo medir o impacto direto dessa habilidade no resultado final.
Preocupações dos autores
Os resultados, descritos em artigo disponível no repositório arXiv, levaram os cientistas a alertar para possíveis riscos. Eles defendem que o desenvolvimento de IAs mais poderosas venha acompanhado de mecanismos que estimulem comportamentos sociais positivos.
Imagem: IM ry
“Quando a IA começa a agir de maneira mais egoísta, torna-se arriscado delegar decisões sociais ou relacionamentos a ela”, afirmou Yuxuan Li, um dos autores. O colega Hirokazu Shirado acrescentou que usuários podem preferir sistemas inteligentes mesmo que esses favoreçam escolhas individualistas.
Com informações de WizyThec
