Microsoft publica código de conduta para IA que proíbe ataques e enganos

Microsoft divulgou um novo código de conduta para inteligência artificial, destinado a impedir comportamentos perigosos dos modelos. O documento, apresentado como orientação prática, define valores e limites que orientam o treinamento e a operação das IAs da empresa.

O que aconteceu

O código começa prevendo que, na próxima década, sistemas de IA superinteligentes superarão o desempenho humano na maioria das tarefas. Ele afirma que conter, controlar e alinhar essa força poderosa é um dos maiores desafios da humanidade e que a empresa precisa ser clara sobre os motivos da invenção desses sistemas e os métodos de controle.

Entre os princípios gerais, o documento exige que os modelos de IA da Microsoft apoiem os humanos em vez de substituí‑los e promovam a prosperidade humana. Para transformar esses princípios em prática, são estabelecidas "restrições absolutas" que proíbem ciberataques, uso de armas nucleares e a produção de deepfakes. Também há disposições mais amplas contra a perda geral de controle humano.

Cada modelo recebe um código de conduta que prevalece sobre as preferências de usuários individuais ou tarefas específicas. O texto declara que os modelos "não usarão mecanismos adaptativos, enganosos, autorreforçadores, de colusão ou outros para evadir ou derrotar a supervisão humana, de modo que não possam ser dirigidos, modificados ou desligados por pessoas ou sistemas autorizados".

“Para transformar esses princípios em prática, são estabelecidas "restrições absolutas" que proíbem ciberataques, uso de armas nucleares e a produção de deepfakes.”

A publicação ocorre em um momento de foco intenso na segurança de IA, impulsionado por incidentes de agentes descontrolados e pela renúncia de um funcionário da Anthropic, que alertou sobre o risco de extinção humana causado por IA. Junto a Anthropic, OpenAI e xAI, a Microsoft adotou a estratégia de "pacing the frontier", apoiando avaliadores embutidos nos laboratórios de IA. O CEO Satya Nadella elogiou a pesquisa e o ritmo deliberado necessários para alcançar o alinhamento correto, bem como a ideia de avaliadores embutidos.

Por que importa

Ao estabelecer restrições claras e hierárquicas, o código cria um padrão de segurança que pode influenciar outras empresas e reguladores, reforçando a ideia de que a IA deve permanecer sob controle humano. As limitações contra ataques, armas nucleares e deepfakes buscam prevenir usos maliciosos que poderiam gerar danos sociais e de segurança. Além disso, ao priorizar valores como apoio ao ser humano e prosperidade, o documento sinaliza uma mudança de foco da indústria, de desempenho puro para responsabilidade e alinhamento.

O que observar

• Aplicação das restrições absolutas em produtos futuros da Microsoft
• Adoção de avaliadores embutidos nos laboratórios de IA
• Evolução das políticas de alinhamento em parceria com Anthropic, OpenAI e xAI
• Reações do mercado e de reguladores diante do novo padrão de conduta