Por que detectar conteúdo gerado por IA é mais complexo do que distinguir real de falso
A proliferação de textos e imagens gerados por IA em aplicações profissionais e plataformas online está criando desafios para a detecção de autenticidade. Max Spero, da Pangram, explica por que essa tarefa é mais complexa do que parece.
Em resumo
- Conteúdos gerados por IA estão presentes em candidaturas de emprego e seguros
- Pangram captou US$ 9 milhões para seu sistema de detecção de IA
- Ferramentas de detecção ajudam a garantir transparência e segurança digital
Conteúdos gerados por inteligência artificial estão se infiltrando em diversas áreas, desde candidaturas de emprego até avaliações de produtos e até mesmo em processos de seguros. Essa disseminação tem deixado tanto plataformas quanto usuários em alerta, tentando discernir o que é real e o que foi criado por IA.
A Pangram, uma das startups que surgiram nos últimos anos para atuar como uma camada de confiança na internet, recentemente captou US$ 9 milhões para seu sistema de detecção de IA. A empresa também fechou uma parceria com o Substack, que agora utiliza a tecnologia da Pangram para indicar aos leitores quais autores usam IA para escrever seus boletins. Além disso, a startup lançou uma nova ferramenta para detecção de imagens geradas por IA.
Max Spero, cofundador e CEO da Pangram, discutiu em um podcast da TechCrunch os desafios e as promessas das ferramentas de detecção de IA, além de onde traçar a linha entre conteúdo assistido por IA e conteúdo gerado por IA.
“A Pangram, uma das startups que surgiram nos últimos anos para atuar como uma camada de confiança na internet, recentemente captou US$ 9 milhões para seu sistema de detecção de IA.”
Por que importa
A crescente presença de conteúdos gerados por IA em áreas críticas como emprego e seguros levanta questões sobre autenticidade e confiança. Ferramentas como as desenvolvidas pela Pangram são essenciais para ajudar plataformas e usuários a navegar nesse cenário, garantindo maior transparência e segurança digital.
Perguntas frequentes
O que a Pangram faz?
A Pangram desenvolve sistemas de detecção de conteúdo gerado por IA, incluindo uma nova ferramenta para identificar imagens criadas por inteligência artificial.
Qual é a parceria da Pangram com o Substack?
O Substack utiliza a tecnologia da Pangram para indicar aos leitores quais autores usam IA para escrever seus boletins.