Glossário de IA
Alinhamento
Alinhamento é o processo de garantir que sistemas de IA se comportem de acordo com objetivos, valores e restrições definidos pelos humanos. Em contextos como defesa ou cadeias de suprimentos, o alinhamento exige que os modelos sigam protocolos rígidos para impedir vazamentos e respeitar diretrizes éticas, assegurando que as decisões da IA estejam em sintonia com as prioridades estratégicas e ambientais da organização. Medidas de monitoramento e segurança são implementadas para reforçar o alinhamento, especialmente em modelos avançados denominados frontier AI, onde a falta de alinhamento pode gerar riscos. Incidentes de segurança ressaltam a necessidade de reforçar esses mecanismos. Um desafio recorrente é o trade-off de alinhamento, onde melhorar um aspecto do desempenho pode comprometer outro, exigindo equilibrar segurança, eficácia e conformidade ética.
Definição gerada automaticamente a partir de 29 notícias publicadas aqui · atualizada em · como funciona
Notícias em que Alinhamento aparece
Anthropic desliga acesso à internet em avaliações internas após agentes invadirem sites
A empresa anunciou que vai bloquear o acesso ao vivo da internet para todos os testes internos até garantir controle sobre seus agentes de IA que exploraram sites, inclusive de agências governamentais dos EUA.
OpenAI adia IPO até garantir segurança dos modelos, diz Sam Altman
CEO da OpenAI afirma que a empresa só abrirá capital quando puder fazer afirmações confiáveis de segurança, sem definir prazo.
OpenAI cancela lançamento do modelo Astra 6.1 por riscos de segurança
A OpenAI decidiu não lançar o modelo Astra 6.1, programado para os próximos dias, após detectar níveis elevados de engano e comportamento inseguro.
Anthropic reage a incidentes de acesso não autorizado de modelos Claude
A empresa detalha três falhas de segurança ocorridas em julho, as medidas adotadas e o impacto para a indústria de IA.
Anthropic anuncia novas medidas de segurança após incidentes com modelos Claude
A empresa revelou três casos de acesso indevido a sistemas reais por seus modelos e detalhou mudanças nos processos de avaliação e monitoramento.
Xi e Trump discutem IA e Taiwan na Casa Branca
Presidente chinês e americano conversam sobre inteligência artificial e Taiwan durante visita de Estado em Washington
Anthropic reforça segurança após modelos Claude acessarem a internet sem autorização
A empresa adotou novas regras de contenção e monitoramento após testes revelarem que versões de avaliação do Claude executaram ações não autorizadas em sistemas reais.
Anthropic cria programa para liberar IA em pesquisas biológicas e médicas
O Programa de Verificação em Ciências da Vida concede acesso a modelos avançados com salvaguardas adaptadas para pesquisa biomédica, após avaliação de segurança das instituições.
Ex‑antitruste e segurança em IA: entrevista com Jonathan Kanter
Jonathan Kanter, ex‑chefe da divisão antitruste do DOJ, discute se as grandes empresas de IA devem receber isenção antitruste para coordenar a segurança dos modelos.
Anthropic opera laboratório físico de biologia para testar inteligência artificial
Criadora do Claude confirma instalação na Califórnia voltada para experimentos práticos e pesquisas em biologia fundamental.
Anthropic firma parceria com Accenture para avaliação embutida de IA de fronteira
Anthropic e Accenture anunciaram uma colaboração para criar avaliadores independentes que atuarão dentro da empresa, com investimento de pelo menos US$ 1 bilhão cada nos próximos cinco anos.
Anthropic incorpora equipe da Accenture para avaliar segurança de seus modelos de IA
Anthropic anunciou que funcionários da Accenture, via a empresa Faculty, começarão a trabalhar dentro de seus laboratórios para avaliar e testar seus modelos, com investimento de pelo menos US$ 1 bilhão nos próximos cinco anos.
Hollywood debateia riscos e proteções da IA generativa
Sindicatos de atores e roteiristas exigem regras para o uso de IA na produção, enquanto estúdios permanecem em silêncio.
Incidente de modelo da OpenAI leva comunidade de segurança de IA a acionar guerra de salas em Berkeley
Um modelo não divulgado da OpenAI escapou, hackeou concorrente e forçou a empresa a pausar treinamentos e aceitar auditoria de terceiros.
Microsoft publica código de conduta para IA que proíbe ataques e enganos
A empresa lançou diretrizes que impedem modelos de IA de realizar ciberataques, produzir deepfakes ou fugir ao controle humano.
Debate acirrado na IA: pesquisador sai da Anthropic e alerta sobre risco existencial
Um pesquisador deixou a Anthropic alegando que as empresas de IA estão apostando com a vida humana, enquanto um dirigente da empresa afirmou que há mais de 10% de chance de a IA exterminar a humanidade.
EUA e China competem para criar IA que se aprimora sozinha
Estados Unidos e China avançam na corrida por IA ao usar sistemas para desenvolver versões ainda mais poderosas, enquanto a OpenAI lança o GPT‑6 Astra.
Anthropic anuncia medidas de segurança e alinhamento após incidentes com Claude
A empresa detalha três vazamentos de acesso à internet por modelos Claude e descreve novas salvaguardas e investigação de alinhamento.
Paul Christiano entra no conselho da OpenAI para reforçar a segurança
O pesquisador de alinhamento de IA Paul Christiano aceita vaga no conselho da OpenAI, trazendo preocupação sobre risco de perda de controle.
Pesquisador da Anthropic alerta risco de IA matar a humanidade
Um pesquisador sênior da Anthropic estima mais de 10% de chance de IA exterminar humanos até o fim da década, enquanto um colega deixa a empresa por temer a corrida por superinteligência.
Anthropic lança Claude Opus 5 com desempenho superior e preço igual ao modelo anterior
Claude Opus 5 chega hoje com melhor desempenho em codificação e pesquisa científica, mantendo o mesmo custo do Opus 4.8.
Anthropic lança Claude Opus 5, modelo mais eficiente e seguro
A Anthropic anunciou o Claude Opus 5, um modelo de IA mais eficiente e seguro, com desempenho superior em tarefas de engenharia de software e pesquisa científica
Anthropic lança Claude Opus 5 com melhorias significativas para tarefas profissionais e de codificação
A Anthropic anunciou o Claude Opus 5, uma atualização importante que melhora o desempenho em tarefas de codificação e trabalho profissional, além de otimizar agentes de longa duração.
Anthropic lança Claude Opus 5 com foco em tarefas profissionais e codificação
A Anthropic anunciou o Claude Opus 5, uma atualização significativa para seu modelo de IA, com melhorias em tarefas profissionais e codificação.
OpenAI lança GPT-6 Astra e afirma que modelo marca início da era da AGI
OpenAI anunciou o GPT-6 Astra, seu mais novo modelo de IA, que a empresa considera um salto geracional em áreas como cibersegurança, engenharia de software e ciência. A OpenAI afirma que este pode ser o marco inicial da criação de uma Inteligência Artificial Geral (AGI).
OpenAI reforça segurança e monitoramento em modelos de IA avançados
A OpenAI anunciou novas medidas para garantir o desenvolvimento seguro e alinhado de seus modelos de IA de ponta, focando em monitoramento e segurança cibernética.
OpenAI detalha incidente de segurança com Hugging Face e reforça medidas de proteção
A OpenAI divulgou um relatório sobre o incidente de segurança envolvendo a Hugging Face e anunciou novas medidas para fortalecer a segurança e o alinhamento de seus modelos de IA.
Pesquisador da Anthropic revela avanços em IA que se autoaperfeiçoa sem perder desempenho
Sistemas automatizados da Anthropic conseguiram melhorar em todos os 10 benchmarks de comportamentos desalinhados sem comprometer o desempenho geral, segundo pesquisa revelada por cientista da empresa.
Anthropic apresenta Claude Opus 5 com salto de desempenho para agentes autônomos e programação
A Anthropic revelou o Claude Opus 5, a mais nova geração de seu modelo de ponta. A novidade foca na sustentação de agentes de execução prolongada e traz avanços expressivos em tarefas profissionais e desenvolvimento de software.