IA gera alucinação que quase desencadeia operação militar dos EUA contra navio chinês

Na primavera deste ano, aviões militares dos Estados Unidos quase iniciaram uma operação armada contra um navio chinês depois que a inteligência que a sustentava foi gerada por um chatbot de IA que apresentou uma alucinação.

A operação foi abortada no último minuto, evitando um possível conflito com a China, informou a CNN na sexta‑feira.

O que aconteceu

O relatório de inteligência, que circulou durante a guerra com o Irã, afirmava que o navio transportava componentes para um programa de armas nucleares. A informação falsa surgiu quando um analista do Comando de Operações Especiais consultou um chatbot de IA para sintetizar dados de fontes abertas com inteligência de sinais classificada; o chatbot identificou erroneamente o manifesto de carga do navio.

O analista utilizou a ferramenta novamente para formatar as conclusões equivocadas em um resumo com aparência oficial, que foi distribuído pelos canais de comando. O alerta de que a operação seria abortada a tempo foi divulgado pela CNN.

“O relatório de inteligência, que circulou durante a guerra com o Irã, afirmava que o navio transportava componentes para um programa de armas nucleares.”

O Pentágono tem defendido que a IA oferece vantagem ao acelerar a cadeia de decisão, permitindo que comandantes respondam no momento certo. Contudo, a mesma velocidade pode permitir alucinações quando a supervisão humana é insuficiente. “É importante que os militares entendam a incerteza inerente aos LLMs”, disse Jake Steckler, pesquisador da GovAI e ex‑oficial do Exército dos EUA.

Por que importa

O quase‑acidente evidencia a preocupação crescente de que, à medida que decisores militares dependem mais da IA, erros desses sistemas podem subir na cadeia de comando antes de serem questionados, aumentando o risco de escalada involuntária com a China.

Especialistas como Steckler afirmam que o episódio deve servir como um chamado para acrescentar mais salvaguardas ao uso de IA, em vez de impedir sua adoção. Priorizar a velocidade de implantação acima de todas as outras medidas pode gerar incidentes que minam a confiança dos militares nas ferramentas, retardando sua adoção futura.

O que observar

• Implementar salvaguardas humanas antes de decisões que envolvam uso de força
• Monitorar o risco de alucinações de IA ao acelerar a cadeia de decisão
• Revisar protocolos de uso de LLMs nos canais de comando militar