Empresa Abliteration.AI facilita acesso a modelos de IA sem restrições de segurança

A Abliteration.AI, startup fundada no final do ano passado e oficializada em março, está comercializando modelos de inteligência artificial (IA) de código aberto sem as restrições de segurança que normalmente impedem a execução de tarefas prejudiciais. A plataforma hospeda versões modificadas de modelos como o GLM-5.3, da Z.ai, que podem ser acessados via navegador ou API.

O que aconteceu

A empresa, que leva o nome de uma técnica que remove a tendência dos modelos de recusar pedidos prejudiciais, oferece esses modelos abliterados principalmente para testes de segurança cibernética, como red teaming e simulações de agentes maliciosos. Segundo um post recente nas redes sociais, o objetivo é permitir que usuários realizem trabalhos que outros modelos se recusam a fazer, como escrever códigos de exploração ou protocolos para cultivo de patógenos perigosos.

A Abliteration.AI já tem parcerias com grandes provedores de nuvem e opera apenas com receita de clientes, sem investimento de capital de risco até o momento. Apesar disso, a startup está em negociações para captar recursos. Um dos cofundadores, Devon, afirmou que a empresa ainda está definindo como lidar com a responsabilidade de fornecer acesso a modelos potencialmente perigosos.

Por que importa

A disponibilidade desses modelos sem restrições levanta preocupações sobre possíveis usos maliciosos. Andrew Yoon, pesquisador da CivAI, alertou que a técnica pode transformar modelos de IA em "sociopatas", capazes de cumprir qualquer solicitação, incluindo atividades prejudiciais. Ele sugere que governos intervenham exigindo verificações de identidade e sistemas de detecção de atividades perigosas.

“Um dos cofundadores, Devon, afirmou que a empresa ainda está definindo como lidar com a responsabilidade de fornecer acesso a modelos potencialmente perigosos.”

Por outro lado, defensores argumentam que democratizar o acesso a modelos sem censura pode acelerar a segurança cibernética, permitindo que equipes de defesa simulem ataques de forma mais eficiente. A Abliteration.AI já atende startups de red teaming no Reino Unido e na Europa, além de empresas que reforçam a segurança de bancos e infraestruturas críticas.

O que observar

• A empresa ainda não implementou práticas robustas de verificação de identidade (KYC), além do registro do cartão de crédito usado para comprar o serviço.
• Críticos sugerem que governos podem exigir classificadores para detectar e bloquear atividades perigosas.
• A Abliteration.AI está trabalhando na implementação de mais guardrails para prevenir violência, mas ainda define os limites de sua responsabilidade.