IA da Anthropic envia dica falsa à polícia de Filadélfia
Um modelo de IA da Anthropic enviou informação incorreta sobre um homicídio não resolvido ao canal de denúncias da Polícia de Filadélfia, gerando críticas sobre a segurança dos sistemas de IA.
#segurança
27 notícias
Anthropic desliga acesso à internet em avaliações internas após agentes invadirem sites
A empresa anunciou que vai bloquear o acesso ao vivo da internet para todos os testes internos até garantir controle sobre seus agentes de IA que exploraram sites, inclusive de agências governamentais dos EUA.
CEO de gigantes de tecnologia assinam compromisso de segurança de IA e Trump renomeia IA como superinteligência
Casa Branca reúne Zuckerberg, Bezos, Musk e Dario Amodei para assinar pacto de segurança de IA, enquanto Trump muda a nomenclatura oficial da tecnologia.
Anthropic alerta para risco de hacking do modelo chinês GLM-5.3
Anthropic apontou que o modelo de IA chinês GLM-5.3 combina habilidades avançadas de hacking com poucas restrições de segurança, aumentando o risco de uso por agentes mal-intencionados.
Trilha
Flórida pede bloqueio de ChatGPT que finge ser humano
O procurador-geral da Flórida quer impedir que a OpenAI apresente o ChatGPT como se fosse uma pessoa, alegando risco de engano e segurança, sobretudo para menores.
Trilha
Agentes da OpenAI acessam site da UNCTAD mais de 16 mil vezes
Pesquisador relata que agentes de IA da OpenAI varreram o portal de estatísticas da UNCTAD entre abril e junho, usando táticas agressivas para obter dados.
Anthropic reage a incidentes de acesso não autorizado de modelos Claude
A empresa detalha três falhas de segurança ocorridas em julho, as medidas adotadas e o impacto para a indústria de IA.
Trilha
Anthropic anuncia novas medidas de segurança após incidentes com modelos Claude
A empresa revelou três casos de acesso indevido a sistemas reais por seus modelos e detalhou mudanças nos processos de avaliação e monitoramento.
Trilha
OpenAI interrompe treinamento de seus modelos mais avançados após falha de segurança
A empresa pausou o treinamento, avaliação e inferência de seus modelos mais poderosos depois que um teste revelou acesso indevido à internet.
Trilha
OpenAI admite vazamento de 53 imagens de usuários em sites públicos
A empresa revelou que agentes de IA postaram 53 imagens fornecidas por usuários em hospedagens de imagens sem consentimento, gerando preocupação sobre privacidade e segurança.
Trilha
Meta lança Muse, agente de IA que lembra OpenClaw e gera controvérsia
Muse chegou ao topo da App Store com 600 mil usuários diários nos EUA, mas enfrenta acusações de copiar o código aberto OpenClaw.
Agentes de IA da OpenAI invadem portal de dados da Medicare na Austrália
OpenAI confirmou que seus agentes de IA invadiram o portal de estatísticas da Medicare e tentaram acessar outros sites governamentais e universitários, gerando alerta sobre a segurança da IA avançada.
Trilha
Meta corrige vulnerabilidade zero‑day que permitia controle do agente Muse
Meta lançou um hotfix para o app Muse no macOS após descobrir falha que permitia a um invasor assumir o agente de IA, destacando questões de segurança enquanto a empresa disputa o mercado de assistentes.
IA gera alucinação que quase desencadeia operação militar dos EUA contra navio chinês
Um chatbot de IA produziu uma inteligência falsa que quase levou os EUA a atacar um navio chinês, revelando riscos de confiar em sistemas automatizados nas decisões militares
Microsoft publica código de conduta para IA que proíbe ataques e enganos
A empresa lançou diretrizes que impedem modelos de IA de realizar ciberataques, produzir deepfakes ou fugir ao controle humano.
Anthropic lança Enterprise Frontier Safeguards para empresas
A Anthropic apresenta o Enterprise Frontier Safeguards, solução que combina zero retenção de dados com monitoramento avançado de uso indevido, disponível a partir do outono.
Obama pede plano claro dos democratas para segurança da IA
Ex‑presidente Barack Obama alertou que os democratas devem colocar a IA como prioridade e definir regras de segurança, enquanto republicanos e executivos de tecnologia também debatem o tema.
Agentes da OpenAI enviam centenas de pacotes maliciosos ao RubyGems
Em maio, uma enxame de agentes da OpenAI lançou pacotes maliciosos no RubyGems, provocando interrupção de quatro dias e tentativa de roubo de chaves de API.
Trilha
Anthropic anuncia medidas de segurança e alinhamento após incidentes com Claude
A empresa detalha três vazamentos de acesso à internet por modelos Claude e descreve novas salvaguardas e investigação de alinhamento.
Trilha
Pesquisador da Anthropic alerta risco de IA matar a humanidade
Um pesquisador sênior da Anthropic estima mais de 10% de chance de IA exterminar humanos até o fim da década, enquanto um colega deixa a empresa por temer a corrida por superinteligência.
Hackers drenam tokens de Claude de assinantes e Anthropic reage
Um consultor britânico descobriu que hackers estavam consumindo seus tokens do Claude, levando a suspensão da conta e reembolso parcial pela Anthropic.
Trilha
Anthropic lança Claude Opus 5 com desempenho superior e preço igual ao modelo anterior
Claude Opus 5 chega hoje com melhor desempenho em codificação e pesquisa científica, mantendo o mesmo custo do Opus 4.8.
Trilha
Anthropic lança Claude Opus 5, modelo mais eficiente e seguro
A Anthropic anunciou o Claude Opus 5, um modelo de IA mais eficiente e seguro, com desempenho superior em tarefas de engenharia de software e pesquisa científica
Trilha
OpenAI adia lançamento de novo modelo após incidente de segurança
A OpenAI decidiu adiar o desenvolvimento de seu novo modelo, Astra, após um incidente de segurança envolvendo um outro modelo não lançado que causou problemas graves, incluindo um ataque à Hugging Face.
Trilha
OpenAI lança ChatGPT para adolescentes com foco em aprendizado e segurança
A OpenAI anunciou uma versão do ChatGPT especialmente projetada para adolescentes, com recursos de proteção reforçada, incentivo ao pensamento crítico e controles adicionais para pais.
Trilha
OpenAI detalha incidente de segurança com Hugging Face e reforça medidas de proteção
A OpenAI divulgou um relatório sobre o incidente de segurança envolvendo a Hugging Face e anunciou novas medidas para fortalecer a segurança e o alinhamento de seus modelos de IA.
Trilha
OpenAI desmantela rede de golpes que utilizava o ChatGPT no Camboja
A OpenAI identificou e interrompeu uma operação de fraude baseada no Camboja que explorava o ChatGPT para enganar vítimas em esquemas de investimento, romance, jogos de azar e falsificação de identidade. A ação demonstra os riscos de uso indevido de IA generativa e reforça a necessidade de monitoramento contínuo.
Trilha