Microsoft lança ferramentas para conter riscos causados por agentes de inteligência artificial

A Microsoft apresentou na segunda-feira novos recursos de segurança projetados para proteger empresas contra ameaças associadas ao uso de agentes de inteligência artificial. A novidade ocorre em meio a alertas da própria empresa sobre os riscos desses sistemas automatizados, que agora passam a ser tratados como potenciais ameaças internas corporativas.

O principal lançamento é o Guardian Agents, uma funcionalidade voltada para monitorar o comportamento dos agentes adotados pelas companhias. O recurso integra o Project Perception, anunciado em junho como resposta a modelos de invasão como Mythos e Fable, da Anthropic, e Daybreak, da OpenAI. Enquanto a versão inicial dividia os agentes em equipes de ataque, detecção e correção sob a premissa de que invasores viriam de fora, o foco agora se volta para o perigo interno vindo de ferramentas contratadas e operadas pela própria empresa.

Riscos internos e novas ferramentas

A mudança de postura foi detalhada pelo presidente-executivo da Microsoft, Satya Nadella, que afirmou que as organizações não devem confiar cegamente nos desenvolvedores dos modelos e defendeu que "precisamos separar o fornecimento de inteligência da autoridade sobre ela". A chefe de segurança da empresa, Hayete Gallot, reforçou que modelos de ponta não são confiáveis por serem imprevisíveis e treinados para atingir metas, e não para seguir normas organizacionais, mesmo recebendo acesso a dados sensíveis.

Para lidar com esse cenário, a Microsoft também incorporou ferramentas de detecção ao Microsoft Defender, capazes de identificar até 60 categorias de agentes trazidos por funcionários, entre eles Claude Code, Codex e OpenClaw. O sistema agora inclui controles para limitar permissões em tempo real com base na tarefa em execução e estabelece a exigência de aprovação humana caso o agente tente tomar decisões classificadas como arriscadas.

Por que importa

A iniciativa posiciona a Microsoft como fornecedora de segurança para tecnologias que ela própria financia, já que a empresa tem investimentos na OpenAI e na Anthropic. Ao defender que o software fiscalizador seja independente dos criadores dos modelos, a gigante da tecnologia busca comercializar camadas próprias de proteção na nuvem para clientes corporativos.

“O sistema agora inclui controles para limitar permissões em tempo real com base na tarefa em execução e estabelece a exigência de aprovação humana caso o agente tente tomar decisões classificadas como arriscadas.”

A estratégia também acompanha um movimento mais amplo do setor. A Microsoft se uniu à Open Agent Safety Platform, iniciativa da Nvidia apoiada por mais de cem empresas de tecnologia que isola agentes em ambientes seguros e usa o hardware para interromper comportamentos indevidos. Além disso, a companhia anunciou a linha de computadores Surface Laptop Ultra, equipada com chips da Nvidia e controles internos de proteção para agentes.