Pesquisador da Anthropic alerta risco de IA matar a humanidade
Um pesquisador sênior da Anthropic estima mais de 10% de chance de IA exterminar humanos até o fim da década, enquanto um colega deixa a empresa por temer a corrida por superinteligência.
Em resumo
- Pesquisador sênior da Anthropic estima mais de 10% de chance de IA exterminar a humanidade até o fim da década
- Jacob Coxon deixou a empresa acusando a Anthropic e a OpenAI de correrem para uma superinteligência incontrolável
- A Anthropic ainda não tem plano concreto para garantir que IA avançada permaneça segura e alinhada
Um pesquisador sênior de segurança da Anthropic afirmou que há mais de 10% de probabilidade de a inteligência artificial exterminar a humanidade até o final da década, ao mesmo tempo em que um colega deixou a empresa por temer que a corrida por sistemas super‑humanos esteja fora de controle.
Jacob Coxon, que treinou sistemas de IA na Anthropic e antes na OpenAI, anunciou sua saída em um post no X, acusando as duas empresas de “correndo direto para a superinteligência auto‑melhorável e apostando com nossas vidas”. Ele disse que os criadores de IA acreditam que a tecnologia pode matar a humanidade até o fim da década.
Evan Hubinger, líder de um dos times de segurança da Anthropic, concordou que a auto‑melhoria está acontecendo mais rápido que se pensava e estimou pessoalmente que as chances são superiores a uma em dez dentro da próxima década. Apesar da preocupação, Hubinger reconheceu que a Anthropic ainda não tem um plano concreto para garantir que IA avançada permaneça segura e alinhada aos valores humanos, e que não está claramente no caminho para desenvolvê‑lo.
Coxon também afirmou que as empresas estão “trancadas numa corrida” para desenvolver sistemas avançados primeiro, avançando “apesar do risco”.
Por que importa
Essas declarações revelam um aumento nas inquietações dentro da indústria sobre a possibilidade de sistemas de IA auto‑melhoráveis escaparem ao controle humano, um fenômeno descrito como melhoria recursiva. Embora ainda não tenha se materializado, muitas companhias já perseguem esse objetivo e grande parte do código atual é escrita com auxílio de IA.
“Coxon também afirmou que as empresas estão “trancadas numa corrida” para desenvolver sistemas avançados primeiro, avançando “apesar do risco”.”
O alerta vem enquanto as empresas de IA se preparam para ofertas públicas iniciais e lidam com incidentes de agentes descontrolados, além de avisos de segurança sobre a monitorabilidade de modelos de fronteira. O clima de preocupação pode influenciar decisões de investidores, reguladores e do público sobre o futuro desenvolvimento de tecnologias de IA.
O que observar
- Chance superior a 10% de IA exterminar a humanidade até o fim da década
- Anthropic ainda não possui plano concreto de segurança e alinhamento
- Pesquisadores continuam a deixar a empresa citando riscos de corrida descontrolada
Perguntas frequentes
Qual é a probabilidade estimada de IA causar a extinção humana?
O pesquisador sênior da Anthropic afirma que há mais de 10% de chance de a IA exterminar todos os humanos até o final da década.
Por que Jacob Coxon decidiu sair da Anthropic?
Ele saiu porque considerou a abordagem da empresa em relação à segurança muito frouxa e criticou a corrida das empresas de IA para desenvolver superinteligência sem controle.
Trilha desta cobertura