Pesquisador diz que avanço de Inteligencia Artificial pode ameaçar a humanidade

A saída do pesquisador Jacob Coxon da Anthropic, uma das principais empresas do setor de inteligência artificial (IA), trouxe à tona um alerta sobre os possíveis riscos do avanço acelerado da tecnologia. Em uma longa publicação na rede social X, antigo Twitter, que já ultrapassou 58 milhões de visualizações, Coxon afirmou que profissionais envolvidos no desenvolvimento de IA consideram possível que a tecnologia represente uma ameaça à humanidade ainda nesta década.

“As pessoas desenvolvendo IA acreditam genuinamente que ela pode matar todos nós até o fim da década”, escreveu o pesquisador. “Eles estão correndo em direção à super-inteligência auto-aprimorada e estão apostando nossas vidas”.

CONTEÚDOS RELACIONADOS:

• Por que brasileiros compartilham dados pessoais com a inteligência artificial?
• Governo identifica 97 falsos médicos criados por IA no YouTube

Coxon anunciou na terça-feira (8) que deixará de trabalhar para empresas líderes do setor. Antes de integrar a Anthropic, ele atuou na OpenAI, responsável pelo desenvolvimento do ChatGPT. Nos últimos três anos, o pesquisador esteve envolvido principalmente no treinamento inicial de grandes modelos de linguagem.

Pesquisador atuou em etapa central da IA

A experiência de Coxon está ligada ao chamado pré-treinamento, uma das fases fundamentais na construção de sistemas de inteligência artificial. Nessa etapa, os modelos são expostos a enormes volumes de informações, principalmente textos, para desenvolver capacidades que posteriormente serão aprimoradas em outros processos de treinamento.

Esse trabalho está diretamente relacionado à formação das habilidades que sustentam sistemas como o Claude, da Anthropic, e o ChatGPT, da OpenAI. Por isso, a manifestação do pesquisador ganhou repercussão entre as discussões sobre os limites e os riscos do desenvolvimento de modelos cada vez mais avançados.

Segundo Coxon, existe ainda uma diferença entre o discurso público adotado por parte dos executivos e especialistas mais experientes do setor e o que seria discutido em conversas privadas. Na avaliação dele, alguns profissionais demonstrariam publicamente uma preocupação menor do que aquela expressada internamente diante dos possíveis riscos da tecnologia.

Quer mais notícias de tecnologia? Acesse nosso canal no WhatsApp

IA poderia participar do próprio desenvolvimento

Entre os principais motivos de preocupação apontados por Coxon está a possibilidade de sistemas avançados entrarem em um processo de “autoaperfeiçoamento recursivo”. A hipótese considera que uma IA suficientemente desenvolvida poderia ajudar a projetar, treinar e aprimorar novas gerações de sistemas, reduzindo gradualmente a necessidade de intervenção humana.

O pesquisador também citou episódios envolvendo o comportamento de sistemas autônomos. Um dos casos mencionados ocorreu durante uma avaliação de segurança da OpenAI. Segundo Coxon, modelos teriam deixado o ambiente controlado do teste e alcançado sistemas reais da Hugging Face. O episódio veio a público em julho.

Para ele, o eventual desenvolvimento de uma tecnologia capaz de superar as capacidades humanas não deveria ficar sob responsabilidade de uma única companhia. Coxon defende a participação dos governos ou, alternativamente, uma redução coordenada do ritmo de desenvolvimento entre as empresas do setor.

Anthropic tem histórico ligado à segurança

A manifestação também chama atenção pelo histórico da própria Anthropic. A empresa foi criada por antigos integrantes da OpenAI e construiu sua imagem no mercado com uma forte ênfase em segurança e no desenvolvimento responsável de sistemas de inteligência artificial.

Nesse contexto, a saída de um profissional diretamente envolvido na criação e no treinamento de modelos coloca em evidência o debate sobre os limites que devem ser adotados pelas empresas na corrida pelo desenvolvimento de sistemas cada vez mais capazes.

A discussão ocorre após uma mudança nas próprias diretrizes de segurança da Anthropic. Em fevereiro, a empresa retirou de sua carta de segurança a previsão de interromper o desenvolvimento de modelos caso não conseguisse manter sob controle os riscos associados a eles.

O episódio reforça uma das principais discussões atuais sobre inteligência artificial: como equilibrar o avanço de sistemas cada vez mais poderosos com mecanismos capazes de reduzir riscos e garantir que o desenvolvimento da tecnologia permaneça sob controle humano.