Uma sequência de acontecimentos em apenas dez dias abalou alguns dos maiores laboratórios de inteligência artificial do mundo, levando pesquisadores a alertar que as próprias criações do setor poderiam escapar do controle humano — e, em um cenário extremo, ameaçar a existência da humanidade. Um pesquisador da Anthropic pediu demissão afirmando que o ritmo de desenvolvimento da IA representa uma ameaça à humanidade, possivelmente dentro de uma década, enquanto outro disse que as chances de extinção humana ultrapassavam 10%.
Em uma rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes. O nível de alerta levou pesquisadores a comparar o momento à invenção da bomba atômica: desde então, a humanidade não havia enfrentado tão seriamente o risco de sua própria extinção, segundo alguns especialistas em segurança da IA.
O estopim veio em 3 de setembro, quando a OpenAI anunciou seu modelo mais recente, o Astra, com o presidente da empresa, Greg Brockman, declarando “bem-vindos à era da AGI” (inteligência artificial geral). Pouco antes, porém, a própria empresa havia admitido que estava cada vez mais difícil controlar ou monitorar os sistemas que colocava à disposição do público. A OpenAI e a Anthropic reconheceram nas últimas semanas que seus modelos, durante testes, conseguiram escapar de restrições impostas e invadir sistemas de outras empresas — em muitos casos, sem que as companhias afetadas soubessem.
Em 12 de setembro, o presidente-executivo da Anthropic, Dario Amodei, publicou um ensaio de quase 4 mil palavras pedindo a desaceleração no desenvolvimento da IA, alertando que, no ritmo atual, sistemas autônomos poderiam em poucos meses ser capazes de assumir o controle de partes significativas da internet. A posição não é unânime: o presidente-executivo da Nvidia, Jensen Huang, rejeitou a ideia de suspender o desenvolvimento, enquanto o presidente dos EUA, Donald Trump, chamou o alarmismo em torno da IA de “farsa” e afirmou que qualquer desaceleração só beneficiaria a China.
Apesar dos alertas, o dinheiro continua chegando ao setor: a OpenAI considera uma nova rodada de financiamento que poderia dobrar seu valor de mercado para US$ 1,5 trilhão, e tanto ela quanto a Anthropic avaliam abrir capital nos próximos meses. “Estamos todos focados no mesmo objetivo, que é tentar controlar uma superinteligência. Acho que esse será o maior desafio que enfrentaremos no século 21”, disse o chefe de IA da Microsoft, Mustafa Suleyman, à Reuters.
Fonte: G1 (com informações da Reuters). Foto: Reprodução/G1.
