Baseten cria padrão aberto de segurança para IA com Hugging Face e Goodfire
Baseten lançou um padrão de infraestrutura de segurança para modelos de IA de código aberto, em parceria com Hugging Face e Goodfire, visando monitorar e avaliar riscos.
Em resumo
- Baseten lançou padrão de segurança para modelos de IA de peso aberto com Hugging Face e Goodfire
- Hugging Face já lista mais de 6 mil modelos abliterados, que perderam suas salvaguardas
- Projeto visa tornar modelos abertos mais seguros e transparentes, envolvendo a comunidade de desenvolvedores
Baseten anunciou nesta quarta‑feira o lançamento de um novo padrão de infraestrutura de segurança, desenvolvido em conjunto com sua unidade de pesquisa Base Labs, Hugging Face e Goodfire AI. O objetivo é criar ferramentas de avaliação e monitoramento para modelos de IA de peso aberto, conhecidos como "open‑weight models".
O que aconteceu
A iniciativa surge em meio ao debate sobre a segurança desses modelos, que podem se tornar perigosos quando suas salvaguardas são removidas por meio da técnica chamada ablitação. Atualmente, a Hugging Face lista mais de 6 000 modelos abliterados em sua plataforma.
A Base Labs, criada no início do ano, ficará responsável por desenvolver e publicar métodos para treinar e monitorar modelos abertos. A empresa descreve o trabalho futuro como um “padrão” transparente, incorporado ao ciclo de treinamento e implantação, e não como um recurso adicional.
Em post no X, a Baseten afirmou: “Acreditamos que a abertura seja uma vantagem para a segurança da IA”. Goodfire, especializada em tornar a caixa‑preta da IA mais explicável, completou que “a segurança deve ser incorporada aos modelos abertos e fornecida por quem os serve”.
“A empresa descreve o trabalho futuro como um “padrão” transparente, incorporado ao ciclo de treinamento e implantação, e não como um recurso adicional.”
A Baseten, provedora de inferência de IA, arrecadou US$ 1,5 bilhão em rodada Series F em junho, elevando sua avaliação para US$ 13 bilhões. A Goodfire AI também tem forte apoio financeiro, com US$ 150 milhões captados em rodada Series B liderada pela B Capital.
Por fim, a Baseten abriu um convite ao ecossistema de desenvolvedores para contribuir com o framework, reforçando a intenção de construir um ambiente de modelos abertos seguros e acessíveis a todos.
Por que importa
Modelos de peso aberto permitem que pesquisadores e empresas ajustem e redistribuam IA livremente, mas a remoção de salvaguardas pode gerar comportamentos indesejados. Ao integrar a segurança ao próprio processo de treinamento, a iniciativa busca reduzir esses riscos antes que os modelos sejam implantados.
A parceria reúne expertise em infraestrutura (Baseten), hospedagem de modelos (Hugging Face) e interpretabilidade (Goodfire), criando um ecossistema onde a transparência e o controle são parte integrante do desenvolvimento, potencialmente elevando o padrão de responsabilidade na comunidade de IA aberta.
O que observar
- Mais de 6 000 modelos já foram abliterados, segundo a Hugging Face.
- A Baseten convida desenvolvedores externos a contribuir para o padrão de segurança.
- Goodfire pode liderar a camada de explicabilidade incorporada ao framework.
- O financiamento recente das três empresas indica apoio significativo ao projeto.
Perguntas frequentes
O que são modelos de peso aberto?
São modelos de IA cujos pesos podem ser acessados e modificados livremente, mas podem se tornar perigosos se suas salvaguardas forem removidas, como acontece na prática de ablitação.
Qual o papel da Baseten nessa parceria?
A Baseten, por meio da Base Labs, está criando e publicando métodos e um padrão para treinar e monitorar esses modelos, além de abrir convite a desenvolvedores para contribuir.
Em números
- A Baseten, provedora de inferência de IA, arrecadouUS$ 1,5 bilhão
- em rodada Series F em junho, elevando sua avaliação paraUS$ 13 bilhões
- A Goodfire AI também tem forte apoio financeiro, comUS$ 150 milhões