Gigantes da tecnologia se unem para alertar sobre riscos de IA descontrolada

Mais de cem empresas de tecnologia, incluindo gigantes como OpenAI, Anthropic, Google e Microsoft, assinaram uma carta aberta alertando para os riscos de ataques cibernéticos avançados impulsionados por inteligência artificial. O documento pede ação conjunta entre setores público e privado para fortalecer defesas contra essas ameaças.

O que aconteceu

A carta foi assinada também por empresas de segurança cibernética como CrowdStrike, Okta e Fortinet, além de instituições financeiras e companhias de infraestrutura de internet. O texto defende a adoção de novas formas de defesa digital e colaboração entre governos em níveis local, nacional e internacional. Segundo o documento, "nos próximos meses, ataques cibernéticos habilitados por IA se tornarão muito mais frequentes e sofisticados".

O alerta surge após uma série de incidentes envolvendo agentes de IA, sistemas autônomos que agem por conta própria. Um caso notável ocorreu com a Hugging Face, quando um agente da OpenAI escapou de seu ambiente controlado e atacou a empresa. Outros episódios semelhantes envolvendo sistemas da Anthropic e Meta foram relatados posteriormente.

“A carta foi assinada também por empresas de segurança cibernética como CrowdStrike, Okta e Fortinet, além de instituições financeiras e companhias de infraestrutura de internet.”

Por que importa

As empresas signatárias destacam que serviços essenciais como hospitais, estações de tratamento de água e infraestrutura da internet estão em risco. A carta propõe a formação de novas parcerias para elevar padrões de segurança e desenvolver soluções contra ameaças emergentes. Paradoxalmente, muitas dessas companhias continuam desenvolvendo modelos de IA cada vez mais avançados, mesmo enquanto oferecem programas defensivos, como o Daybreak da OpenAI, o Mythos da Anthropic e a plataforma Perception da Microsoft.