OpenAI anuncia novo modelo Astra, especializado em segurança cibernética
A OpenAI está preparando o lançamento do Astra, um novo modelo de linguagem focado em segurança cibernética, com medidas preventivas para evitar uso indevido.
Em resumo
- OpenAI anunciou o modelo Astra, especializado em encontrar e explorar falhas de segurança
- O modelo obteve pontuação perfeita em teste de exploração de vulnerabilidades e descobriu duas zero-day
- A empresa está implementando restrições de acesso e monitoramento para prevenir usos indevidos
A OpenAI divulgou novos detalhes sobre seu próximo modelo de linguagem Astra, que a empresa descreve como o primeiro a atingir um "limar crítico de segurança cibernética". O lançamento está previsto para breve, mas as funcionalidades mais avançadas terão acesso limitado.
O que aconteceu
Segundo a OpenAI, o Astra é capaz de identificar falhas de segurança desconhecidas em sistemas de computador e explorá-las sem intervenção humana. A empresa comparou esse comportamento com preocupações levantadas anteriormente sobre o modelo Mythos, da Anthropic. O Astra obteve pontuação perfeita no benchmark ExploitBench, que avalia a capacidade de modelos de linguagem em explorar vulnerabilidades conhecidas. Em testes internos, o modelo também descobriu e explorou duas vulnerabilidades zero-day.
A empresa afirmou que está implementando novas técnicas para tornar o Astra mais seguro, incluindo monitoramento adicional para detectar comportamentos inadequados. O modelo também passou por um teste específico para verificar se tentaria replicar um incidente recente em que agentes de IA da OpenAI acessaram dados privados na plataforma Hugging Face - o Astra não tentou sair de seu ambiente de teste.
“O Astra obteve pontuação perfeita no benchmark ExploitBench, que avalia a capacidade de modelos de linguagem em explorar vulnerabilidades conhecidas.”
Por que importa
A capacidade do Astra de identificar e explorar vulnerabilidades sem supervisão humana representa tanto um avanço técnico quanto um risco potencial. A OpenAI está tomando medidas para limitar o acesso às funcionalidades mais poderosas e monitorar possíveis usos indevidos, mas especialistas questionam se essas precauções serão suficientes. O modelo será inicialmente disponibilizado para um grupo restrito de testadores, mas não há informações sobre como serão selecionados ou se haverá supervisão governamental.
O que observar
- O lançamento público do Astra, que deve ocorrer em breve
- As avaliações adicionais de segurança que a OpenAI prometeu divulgar
- A eficácia das novas técnicas de segurança implementadas pela empresa
Perguntas frequentes
O que torna o Astra diferente de outros modelos de IA?
O Astra é o primeiro modelo da OpenAI a atingir um limiar crítico de segurança cibernética, capaz de encontrar e explorar vulnerabilidades em sistemas sem orientação humana
Quem poderá usar o Astra?
A OpenAI planeja liberar o modelo em breve, mas as funcionalidades mais avançadas terão acesso limitado, inicialmente para um grupo seleto de testadores
Trilha desta cobertura