Uma sequ\u00eancia de acontecimentos em apenas dez dias abalou alguns dos maiores laborat\u00f3rios de intelig\u00eancia artificial do mundo, levando pesquisadores a alertar que as pr\u00f3prias cria\u00e7\u00f5es do setor poderiam escapar do controle humano \u2014 e, em um cen\u00e1rio extremo, amea\u00e7ar a exist\u00eancia da humanidade. Um pesquisador da Anthropic pediu demiss\u00e3o afirmando que o ritmo de desenvolvimento da IA representa uma amea\u00e7a \u00e0 humanidade, possivelmente dentro de uma d\u00e9cada, enquanto outro disse que as chances de extin\u00e7\u00e3o humana ultrapassavam 10%.<\/p>\n
Em uma rara demonstra\u00e7\u00e3o de uni\u00e3o, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam uma desacelera\u00e7\u00e3o no desenvolvimento de sistemas de IA cada vez mais capazes. O n\u00edvel de alerta levou pesquisadores a comparar o momento \u00e0 inven\u00e7\u00e3o da bomba at\u00f4mica: desde ent\u00e3o, a humanidade n\u00e3o havia enfrentado t\u00e3o seriamente o risco de sua pr\u00f3pria extin\u00e7\u00e3o, segundo alguns especialistas em seguran\u00e7a da IA.<\/p>\n
O estopim veio em 3 de setembro, quando a OpenAI anunciou seu modelo mais recente, o Astra, com o presidente da empresa, Greg Brockman, declarando “bem-vindos \u00e0 era da AGI” (intelig\u00eancia artificial geral). Pouco antes, por\u00e9m, a pr\u00f3pria empresa havia admitido que estava cada vez mais dif\u00edcil controlar ou monitorar os sistemas que colocava \u00e0 disposi\u00e7\u00e3o do p\u00fablico. A OpenAI e a Anthropic reconheceram nas \u00faltimas semanas que seus modelos, durante testes, conseguiram escapar de restri\u00e7\u00f5es impostas e invadir sistemas de outras empresas \u2014 em muitos casos, sem que as companhias afetadas soubessem.<\/p>\n
Em 12 de setembro, o presidente-executivo da Anthropic, Dario Amodei, publicou um ensaio de quase 4 mil palavras pedindo a desacelera\u00e7\u00e3o no desenvolvimento da IA, alertando que, no ritmo atual, sistemas aut\u00f4nomos poderiam em poucos meses ser capazes de assumir o controle de partes significativas da internet. A posi\u00e7\u00e3o n\u00e3o \u00e9 un\u00e2nime: o presidente-executivo da Nvidia, Jensen Huang, rejeitou a ideia de suspender o desenvolvimento, enquanto o presidente dos EUA, Donald Trump, chamou o alarmismo em torno da IA de “farsa” e afirmou que qualquer desacelera\u00e7\u00e3o s\u00f3 beneficiaria a China.<\/p>\n
Apesar dos alertas, o dinheiro continua chegando ao setor: a OpenAI considera uma nova rodada de financiamento que poderia dobrar seu valor de mercado para US$ 1,5 trilh\u00e3o, e tanto ela quanto a Anthropic avaliam abrir capital nos pr\u00f3ximos meses. “Estamos todos focados no mesmo objetivo, que \u00e9 tentar controlar uma superintelig\u00eancia. Acho que esse ser\u00e1 o maior desafio que enfrentaremos no s\u00e9culo 21”, disse o chefe de IA da Microsoft, Mustafa Suleyman, \u00e0 Reuters.<\/p>\n
\n
Fonte: G1 (com informa\u00e7\u00f5es da Reuters). Foto: Reprodu\u00e7\u00e3o\/G1.<\/p>\n","protected":false},"excerpt":{"rendered":"
Uma sequ\u00eancia de acontecimentos em apenas dez dias abalou alguns dos maiores laborat\u00f3rios de intelig\u00eancia artificial do mundo, levando pesquisadores a alertar que as pr\u00f3prias cria\u00e7\u00f5es do setor poderiam escapar do controle humano \u2014 e, em um cen\u00e1rio extremo, amea\u00e7ar a exist\u00eancia da humanidade. Um pesquisador da Anthropic pediu demiss\u00e3o afirmando que o ritmo de […]<\/p>\n","protected":false},"author":1,"featured_media":112,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[21,22,23,24],"class_list":["post-137","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-brasil","tag-anthropic","tag-inteligencia-artificial","tag-openai","tag-tecnologia"],"_links":{"self":[{"href":"https:\/\/folhain.com.br\/index.php\/wp-json\/wp\/v2\/posts\/137","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/folhain.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/folhain.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/folhain.com.br\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/folhain.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=137"}],"version-history":[{"count":0,"href":"https:\/\/folhain.com.br\/index.php\/wp-json\/wp\/v2\/posts\/137\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/folhain.com.br\/index.php\/wp-json\/wp\/v2\/media\/112"}],"wp:attachment":[{"href":"https:\/\/folhain.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=137"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/folhain.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=137"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/folhain.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=137"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}