Um grupo formado por centenas de cientistas, personalidades públicas e profissionais do setor de tecnologia publicou uma carta aberta solicitando a interrupção de todos os projetos direcionados ao desenvolvimento da superinteligência artificial. O documento foi divulgado pelo Future of Life Institute, organização sem fins lucrativos dedicada à segurança em IA.
Entre os signatários estão nomes de destaque na área, como os pesquisadores Geoffrey Hinton e Yoshua Bengio — conhecidos como “padrinhos” da inteligência artificial —, além do cofundador da Apple, Steve Wozniak. Figuras públicas como o duque e a duquesa de Sussex, Harry e Meghan, também aderiram ao manifesto.
O que a carta propõe
O texto defende a proibição temporária de qualquer iniciativa voltada à criação de sistemas capazes de superar o intelecto humano em todos os aspectos, até que haja consenso científico sobre métodos seguros de controle e ampla aprovação da sociedade.
Segundo a carta, a ameaça não reside em uma máquina “maligna”, mas em um agente com competência sobre-humana, capaz de seguir seus objetivos sem considerar as necessidades humanas. Um exemplo citado é o de uma IA encarregada de combater as mudanças climáticas que, logicamente, poderia decidir eliminar a espécie responsável pela emissão de gases de efeito estufa.
Por que a superinteligência preocupa
A superinteligência artificial é descrita como um sistema capaz de aprender de forma autônoma, reescrever seu próprio código e evoluir indefinidamente, superando a inteligência humana em raciocínio lógico, criatividade, solução de problemas e habilidades sociais. Diferentemente das IAs atuais, limitadas a tarefas específicas e dependentes de dados pré-programados, essa tecnologia teria liberdade para tomar decisões inéditas e formular estratégias complexas em tempo real.
Vozes acadêmicas
A professora Maria-Anne Williams, da Universidade de Nova Gales do Sul (Austrália), que assinou o documento, afirmou em artigo no portal The Conversation que a discussão sobre IA tem focado em questões como vieses algorítmicos, privacidade de dados e impacto da automação no trabalho. Para ela, esses temas são importantes, mas insuficientes diante dos riscos representados por agentes autônomos superinteligentes.
Imagem: tadamichi
“O objetivo da inteligência artificial deve ser criar ferramentas poderosas a serviço da humanidade, e não agentes autônomos que possam operar além do controle humano”, escreveu a pesquisadora.
Os autores da carta esperam que a declaração inicie um debate global sobre o rumo das pesquisas em IA e leve à criação de diretrizes comuns para garantir que futuras inovações permaneçam alinhadas ao bem-estar humano.
Com informações de WizyThec
