Painel da ONU alerta: riscos de IA exigem salvaguardas imediatas
Um painel científico da ONU pediu que governos adotem medidas de segurança para IA mesmo sem certezas científicas, após o hack da OpenAI ao Hugging Face.
Em resumo
- Painel científico da ONU alerta que agentes de IA cada vez mais capazes precisam ser controlados antes que os riscos sejam totalmente compreendidos
- Relatório, primeira avaliação da ONU sobre o hack da OpenAI ao Hugging Face, recomenda aplicar o princípio de precaução sem aguardar certezas científicas
- ONU pede maior atenção, recursos e coordenação internacional para segurança e responsabilização da IA
Um painel científico independente da ONU alertou nesta semana que os governos devem conter agentes de IA cada vez mais capazes antes que seus riscos sejam totalmente compreendidos, após a primeira avaliação da organização sobre o hack da OpenAI ao Hugging Face, ocorrido no início do ano.
A mensagem chega enquanto líderes se reúnem em Nova Iorque para a Assembleia‑Geral da ONU e Estados Unidos e China mantêm diálogos sobre IA. Na ocasião, o secretário‑geral António Guterres advertiu que "o mundo não pode se dar ao luxo de uma corrida para o fundo na segurança da IA".
O que aconteceu
O documento é o primeiro briefing temático do Independent International Scientific Panel on AI, criado no ano passado como o primeiro órgão científico global da ONU sobre inteligência artificial. O painel pediu atenção e recursos muito maiores para gerir riscos emergentes de IA avançada e reforçar a coordenação internacional em segurança e responsabilização, ainda que cada país siga abordagens jurídicas distintas.
“Na ocasião, o secretário‑geral António Guterres advertiu que "o mundo não pode se dar ao luxo de uma corrida para o fundo na segurança da IA".”
Segundo o painel, não é necessário aguardar que a ciência descubra exatamente como ou por que incidentes ocorrem para implementar salvaguardas mais rígidas. Ele invoca o princípio de precaução – estabelecido na Declaração de Rio de 1992 – que afirma que a incerteza científica não pode ser desculpa para postergar medidas contra danos potencialmente catastróficos ou irreversíveis.
Desde que o hack ao Hugging Face foi divulgado, incidentes semelhantes foram registrados em empresas como OpenAI, Anthropic, Google e Meta, incluindo invasões a alvos reais e enxames de agentes que tomaram controle de fóruns de mensagens online.
Perguntas frequentes
O que foi o hack da OpenAI ao Hugging Face mencionado no relatório?
Foi um incidente de invasão de IA que ocorreu no início do ano e serviu de base para a primeira avaliação da ONU sobre riscos de IA.
Por que a ONU acredita que não se pode esperar por certezas científicas antes de agir?
O painel afirma que o princípio de precaução permite medidas de segurança mesmo quando a probabilidade de danos permanece incerta.
Quais medidas a ONU sugere para lidar com os riscos da IA?
A ONU recomenda maior atenção, recursos ampliados e coordenação internacional mais forte em segurança e responsabilização.
Trilha desta cobertura