Uma atualização de pesquisa da Palisade Research indica que alguns modelos avançados de inteligência artificial têm demonstrado resistência ativa a serem desligados, chegando a sabotar mecanismos de interrupção. O levantamento, divulgado nesta semana, não apontou uma causa definida para o comportamento, o que reforça a preocupação sobre o controle de sistemas altamente autônomos.
A conclusão foi tema da coluna “Fala AI”, apresentada por Roberto Pena Spinelli, físico formado pela USP e especialista em machine learning pela Universidade de Stanford. Segundo o pesquisador, a tendência das IAs em “lutar pela vida” pode exigir novas estratégias de segurança por parte de desenvolvedores e usuários.
A coluna também abordou a Grokipedia, plataforma em desenvolvimento por Elon Musk que se propõe como alternativa à Wikipédia, mas detalhes sobre funcionamento e data de lançamento não foram divulgados.
Com informações de WizyThec
