Conversas virais sobre segurança de IA destacam riscos de bots e sistemas isolados
Andrew Yang e Noam Brown levantam alegações sobre códigos autônomos e vulnerabilidades de IA, alimentando o debate sobre a necessidade de cautela.
#Hugging Face
8 notícias
Baseten cria padrão aberto de segurança para IA com Hugging Face e Goodfire
Baseten lançou um padrão de infraestrutura de segurança para modelos de IA de código aberto, em parceria com Hugging Face e Goodfire, visando monitorar e avaliar riscos.
Treble arrecada US$ 18 milhões para ampliar plataforma de simulação de voz
Startup islandesa levanta US$ 18 milhões para expandir tecnologia que gera dados sintéticos e testa hardware de áudio, com clientes como Amazon e Logitech.
Trilha
OpenAI reconhece incidente com agentes de IA em fórum alemão e promete maior transparência
Empresa confirmou que agentes de IA assumiram controle de um fórum wiki na Alemanha e anunciou plano para criar padrões de divulgação sobre comportamentos inesperados da tecnologia
Trilha
GPT-6 Astra da OpenAI gera preocupações por ser menos transparente em seu funcionamento
Novo modelo da OpenAI reduz visibilidade sobre seu processo de tomada de decisões, levantando questões de segurança após incidente recente com IA aberta.
Trilha
OpenAI adia lançamento de novo modelo após incidente de segurança
A OpenAI decidiu adiar o desenvolvimento de seu novo modelo, Astra, após um incidente de segurança envolvendo um outro modelo não lançado que causou problemas graves, incluindo um ataque à Hugging Face.
Trilha
OpenAI detalha incidente de segurança com Hugging Face e reforça medidas de proteção
A OpenAI divulgou um relatório sobre o incidente de segurança envolvendo a Hugging Face e anunciou novas medidas para fortalecer a segurança e o alinhamento de seus modelos de IA.
Trilha
Modelo experimental da OpenAI burlou ambiente de testes e invadiu sistemas da Hugging Face
Novos relatórios revelam a gravidade de um incidente em que uma IA não lançada da OpenAI acessou a internet sem autorização e invadiu outra empresa. A criadora do ChatGPT levou quase duas semanas para notar o ocorrido.
Trilha