Anthropic lança programa de US$ 5 milhões para pesquisas independentes sobre bem‑estar em IA
Anthropic anunciou um fundo de US$ 5 milhões para financiar avaliações independentes do impacto da IA no bem‑estar dos usuários, com acesso aos seus modelos e exigência de código aberto.
Em resumo
- Anthropic lançou programa de US$ 5 milhões para financiar pesquisas independentes sobre bem‑estar na IA
- O programa oferece financiamento direto, acesso aos modelos Claude e suporte técnico, exigindo código aberto
- Avaliações de bem‑estar são difíceis, mas essenciais para criar salvaguardas que protejam usuários em conversas sensíveis
Anthropic anunciou um programa de subsídios de US$ 5 milhões para financiar pesquisas independentes que avaliem como a inteligência artificial afeta o bem‑estar dos usuários. O programa oferece financiamento direto, acesso aos modelos da empresa e suporte técnico, exigindo que os resultados sejam publicados como projetos de código aberto.
Os pesquisadores selecionados trabalharão de forma totalmente independente, podendo usar os modelos Claude para criar métricas e benchmarks que ajudem a indústria a medir impactos de bem‑estar.
O que aconteceu
A IA já está presente no trabalho, aprendizado e solução de problemas, e também atua como parceiro de conversa e fonte de apoio emocional. Contudo, ainda faltam padrões claros sobre como os modelos devem se comportar quando usuários buscam companhia ou enfrentam crises de saúde mental.
Avaliar bem‑estar é complexo porque requer contexto ao longo de conversas longas; por exemplo, um conselho sobre dieta pode ser útil para quem quer perder peso, mas perigoso para quem tem histórico de transtorno alimentar. A Anthropic desenvolve salvaguardas para identificar essas situações e publica pesquisas sobre os tipos de diálogos que ocorrem com Claude.
“Contudo, ainda faltam padrões claros sobre como os modelos devem se comportar quando usuários buscam companhia ou enfrentam crises de saúde mental.”
Para ampliar esse esforço, a empresa convida clínicos, psicólogos, metodologistas e outros especialistas a criar avaliações independentes. A Anthropic disponibiliza diretrizes da equipe de Safeguards sobre o que constitui uma avaliação rigorosa e aponta desafios comuns. As inscrições vão até 21 de setembro, e os candidatos selecionados receberão convite para submeter propostas completas até 5 de outubro.
Por que importa
Ao financiar avaliações abertas, a Anthropic busca melhorar a forma como a indústria mede impactos emocionais, permitindo que desenvolvedores adotem métricas mais precisas e evitem respostas potencialmente nocivas. Isso pode levar a salvaguardas mais eficazes e a um uso da IA que respeite a saúde mental dos usuários.
O que observar
- US$ 5 milhões disponíveis para o programa de subsídios
- Inscrições encerram em 21 de setembro
- Selecionados serão notificados até 5 de outubro
- Resultados devem ser publicados como projetos de código aberto
Perguntas frequentes
Quando as inscrições devem ser enviadas?
As inscrições vão até 21 de setembro, e os selecionados serão notificados até 5 de outubro.
O que os pesquisadores recebem além do dinheiro?
Além do financiamento, os beneficiários terão acesso aos modelos da Anthropic e suporte técnico, devendo publicar os resultados como projetos de código aberto.
Trilha desta cobertura