OpenAI é acusada de 'ajudar' atirador em massacre escolar no Canadá em novas ações judiciais
Empresa de inteligência artificial enfrenta 30 novas ações por supostamente não agir contra conversas do atirador sobre violência armada no ChatGPT. Caso ocorreu em escola de Tumbler Ridge, Canadá.
Em resumo
- OpenAI enfrenta 30 ações por supostamente ajudar atirador em massacre escolar no Canadá
- Processos alegam que empresa ignorou alertas sobre conversas violentas no ChatGPT
- Caso pode estabelecer precedentes sobre responsabilidade de plataformas de IA
A OpenAI e seu CEO Sam Altman estão enfrentando 30 novas ações judiciais que os acusam de fornecer "assistência e incentivo substanciais" ao suspeito do massacre na escola de Tumbler Ridge, no Canadá. Os processos foram protocolados na quarta-feira em um tribunal federal da Califórnia por alunos, professores e o diretor da escola no momento do ataque.
O que aconteceu
As ações seguem alegações similares às feitas por familiares das vítimas em abril. Os novos processos afirmam que a OpenAI não agiu após seu sistema automatizado de revisão sinalizar conversas que o suposto atirador, Jesse Van Rootselaar, teve com o ChatGPT sobre violência armada. Embora a equipe de segurança da empresa tenha recomendado contatar as autoridades canadenses, as ações alegam que o diretor de assuntos globais da OpenAI, Chris Lehane, participou da decisão de permanecer em silêncio por preocupação com a "reputação e situação financeira" da companhia.
Jason Kwon, diretor de estratégia da OpenAI, respondeu às acusações em um post no X, afirmando que os processos contêm "alegações falsas" sobre as equipes de segurança da empresa. Ele disse que é "completamente falso" afirmar que as pessoas envolvidas nas decisões não priorizam a segurança ou que há fatores "políticos" ou de "relações públicas" em jogo.
“Os novos processos afirmam que a OpenAI não agiu após seu sistema automatizado de revisão sinalizar conversas que o suposto atirador, Jesse Van Rootselaar, teve com o ChatGPT sobre violência armada.”
Por que importa
As ações destacam a crescente pressão sobre empresas de IA quanto à responsabilidade pelo uso de suas ferramentas. As alegações de que a OpenAI permitiu que o suspeito continuasse usando o ChatGPT ao apenas desativar sua conta, em vez de banir o acesso completamente, podem estabelecer precedentes legais sobre como plataformas de IA devem lidar com conteúdo violento e usuários problemáticos. A empresa também enfrenta uma ação similar do estado da Flórida, acusada de auxiliar atiradores em massacres.
Perguntas frequentes
Qual é a acusação principal contra a OpenAI?
A OpenAI é acusada de fornecer "assistência e incentivo substanciais" ao suspeito do massacre escolar no Canadá, ao ignorar alertas sobre suas conversas violentas no ChatGPT.
Como a OpenAI respondeu às acusações?
Jason Kwon, diretor de estratégia da OpenAI, negou as alegações, dizendo que são falsas e que a empresa prioriza a segurança em suas decisões.
Trilha desta cobertura