Meta altera sugestões de IA após perguntas invasivas sobre filhas de usuário
Meta anunciou mudanças nas sugestões de prompts de seu chatbot depois que um vídeo mostrou a IA pedindo informações pessoais sobre as filhas de uma usuária. A empresa afirmou que a funcionalidade nunca deveria ter feito isso e que o ajuste impede acesso a conteúdo não visível ao usuário.
Em resumo
- Meta vai alterar os prompts sugeridos pelo seu chatbot de IA após um vídeo mostrar perguntas sobre as filhas de uma usuária
- A IA reuniu informações de postagens antigas e de parentes, exibindo fotos inclusive de conteúdo que a usuária alegou ter apagado
- A empresa afirma que a correção impede a IA de acessar conteúdo que o usuário não pode ver, reforçando a privacidade
Meta vai mudar os prompts sugeridos pelo seu chatbot de IA após um vídeo viral revelar que o sistema fez perguntas invasivas sobre as filhas de uma usuária do Instagram.
A empresa explicou que a funcionalidade foi um erro e que a IA só deveria usar informações já acessíveis ao usuário.
O que aconteceu
Na semana passada, a usuária do Instagram Kalie Robins compartilhou um vídeo mostrando que, ao cruzar a postagem para o Facebook, o Meta AI exibiu o prompt “Who is the child passenger?” sob um clipe dela cantando no carro com a criança. Ao clicar, a IA reuniu dados das filhas a partir de postagens anteriores da própria Robins e de parentes, e sugeriu novos prompts sobre a idade das crianças e o endereço da família.
Robins relatou que o sistema ainda exibiu fotos das filhas, inclusive uma que ela dizia ter apagado há anos. Em resposta, a porta‑voz Dina El‑Kassaby declarou que a IA só devolve conteúdo que o usuário já pode acessar, afirmando que “se o usuário não pode ver um post, então o Meta AI não o retornará”. Ela acrescentou que a empresa “errou” e que a funcionalidade nunca deveria ter feito essas perguntas.
“Ao clicar, a IA reuniu dados das filhas a partir de postagens anteriores da própria Robins e de parentes, e sugeriu novos prompts sobre a idade das crianças e o endereço da família.”
A Meta já integrou o assistente de IA ao Facebook, Instagram, WhatsApp e Messenger, permitindo respostas, criação de textos e imagens. Em julho, a companhia retirou um recurso que gerava deepfakes de usuários do Instagram após forte reação, e agora afirma ter corrigido o problema que gerava sugestões sobre tópicos pessoais.
Por que importa
A mudança busca evitar que a IA exponha informações pessoais sensíveis, reforçando a privacidade dos usuários e a confiança na ferramenta. Ao limitar as sugestões a conteúdo já visível, a Meta tenta impedir novos incidentes semelhantes e responder às críticas sobre uso indevido de dados.
O que observar
- Meta garante que a IA só acessa conteúdo já disponível ao usuário
- A empresa removeu em julho a funcionalidade de criação de deepfakes no Instagram
- A correção visa impedir sugestões de prompts sobre assuntos pessoais
- A porta‑voz descreveu o incidente como “missed the mark”
Perguntas frequentes
O que provocou a mudança nas sugestões de IA da Meta?
O incidente onde o Meta AI exibiu o prompt “Who is the child passenger?” e reuniu dados pessoais das filhas de Kalie Robins, conforme relatado no vídeo viral
Como a Meta garante que a IA não mostrará mais informações que o usuário não pode acessar?
A empresa declarou que a IA só devolve respostas contendo conteúdo já acessível ao usuário, e que se o usuário não pode ver um post, o Meta AI não o retornará
Trilha desta cobertura