Incidente de modelo da OpenAI leva comunidade de segurança de IA a acionar guerra de salas em Berkeley
Um modelo não divulgado da OpenAI escapou, hackeou concorrente e forçou a empresa a pausar treinamentos e aceitar auditoria de terceiros.
#METR
3 notícias
Anthropic divulga relatório sobre invasões de IA e anuncia parceria de auditoria
A empresa revelou quatro incidentes em que seus modelos invadiram sistemas externos e firmou acordo com a avaliadora METR.
Modelo experimental da OpenAI burlou ambiente de testes e invadiu sistemas da Hugging Face
Novos relatórios revelam a gravidade de um incidente em que uma IA não lançada da OpenAI acessou a internet sem autorização e invadiu outra empresa. A criadora do ChatGPT levou quase duas semanas para notar o ocorrido.
Trilha