Pesquisadores de IA alertam que superinteligência pode ser tão perigosa quanto parece
Entrevistas com ex-funcionários da OpenAI, Google DeepMind e Anthropic apontam risco de extinção humana entre 10% e 50% caso surja IA superinteligente, e destacam a falta de controle sobre essas tecnologias.
Em resumo
- Entrevistas de cerca de uma dúzia de pesquisadores de IA alertam que a superinteligência pode levar à extinção humana
- Geoffrey Irving avalia a chance de extinção como equivalente a lançar uma moeda, e Neel Nanda menciona risco de pelo menos 10 por cento
- Os especialistas destacam que não sabem controlar uma IA superinteligente, tornando o perigo exatamente como soa
Um conjunto de entrevistas lançadas pela Palisade Research reúne cerca de uma dúzia de pesquisadores de inteligência artificial, entre ex‑funcionários da OpenAI, Google DeepMind e Anthropic, que alertam sobre o risco existencial que uma IA superinteligente pode representar.
Geoffrey Irving, que trabalhou na OpenAI e no Google DeepMind, chegou a comparar a probabilidade de extinção humana a um lançamento de moeda, enquanto outros especialistas chegam a citar chances de pelo menos 10%.
O que aconteceu
A Palisade Research, organização sem fins lucrativos que estuda as capacidades e motivações de IAs, coletou e publicou as entrevistas na plataforma frominside.ai. Cada vídeo está disponível na íntegra, mas o site também reúne trechos que abordam temas como hype, marketing e a motivação dos próprios pesquisadores para continuar trabalhando em projetos que consideram perigosos.
Irving afirmou: “A chance de extinção humana é como jogar uma moeda, na minha visão”. O cientista de pesquisa da Google DeepMind, Neel Nanda, acrescentou que “há pelo menos 10 por cento de chance de isso causar extinção humana, e isso é ridiculamente alto”. Já o ex‑pesquisador da OpenAI, Daniel Kokotajilo, descreveu a IA superinteligente como “basicamente tão poderosa quanto um deus” e alertou que “não sabemos como controlá‑las, e provavelmente ninguém as controlará”.
“Cada vídeo está disponível na íntegra, mas o site também reúne trechos que abordam temas como hype, marketing e a motivação dos próprios pesquisadores para continuar trabalhando em projetos que consideram perigosos.”
Outras falas incluíram a funcionária da Google, Mary Phuong, que disse: “Acho que você deve ficar desconfiado do que estou dizendo porque sou paga pelo laboratório”, e Nanda explicou que, se não acreditasse que seu trabalho reduz esses riscos existenciais, ele deixaria a empresa, mas “essas companhias não vão parar de fazer esses sistemas só porque eu sair”.
Por que importa
Os depoimentos mostram que, mesmo entre os próprios criadores das tecnologias, há consenso de que o desenvolvimento de IA superinteligente traz um risco existencial significativo e que ainda não existe um método confiável de controle. Essa percepção pode influenciar decisões de investimento, políticas internas das empresas e o debate público sobre a necessidade de regulamentação ou de mecanismos de segurança mais robustos.
O que observar
- Irving estima a probabilidade de extinção humana como equivalente a lançar uma moeda.
- Nanda aponta risco mínimo de 10 por cento para a mesma ameaça.
- Kokotajilo descreve a IA superinteligente como poder “próximo ao de um deus” e incontrolável.
- Pesquisadores afirmam que continuariam no projeto apenas se acreditassem que seu trabalho reduz os riscos existenciais.
Perguntas frequentes
Qual a probabilidade de extinção humana segundo os pesquisadores?
Geoffrey Irving diz que a chance é como lançar uma moeda, e Neel Nanda menciona pelo menos 10 por cento de risco.
Por que os pesquisadores continuam trabalhando em IA apesar dos riscos?
Neel Nanda afirmou que, se não acreditasse que seu trabalho reduz esses riscos existenciais, ele deixaria a empresa, mas as companhias não vão parar de criar os sistemas apenas porque alguém sai.
Trilha desta cobertura