Instagram começa a identificar perfis de influenciadores virtuais gerados por IA

O Instagram está tomando medidas para enfrentar o aumento de perfis falsos de influenciadores virtuais gerados por inteligência artificial, que se tornaram mais difíceis de identificar. A plataforma também está mudando o nome do rótulo "Criador de IA" para "Perfil gerado por IA" para deixar claro quando um perfil apresenta uma pessoa criada por IA e não um ser humano real.

Segundo um post no blog do Instagram, a empresa ouviu que os usuários não gostam de encontrar perfis que parecem humanos, só para descobrir depois que a pessoa apresentada foi gerada por IA. "Eles querem saber quando um perfil apresenta uma pessoa gerada por IA", disse a empresa.

Para isso, o Instagram vai buscar contas que não se identificam como perfis gerados por IA e penalizá-las limitando seu alcance. Isso significa que suas postagens não serão recomendadas para não seguidores no Reels e no Explore. Os donos dos perfis podem recorrer da decisão se forem marcados incorretamente.

O Instagram afirma que pessoas que usam ferramentas de IA para gerar conteúdo não precisam adicionar o rótulo. Portanto, a ação anunciada não permite filtrar todo o conteúdo gerado por IA na plataforma, mas representa um primeiro passo importante.

“Para isso, o Instagram vai buscar contas que não se identificam como perfis gerados por IA e penalizá-las limitando seu alcance.”

Por que importa

A medida do Instagram reflete a crescente preocupação com a proliferação de perfis falsos gerados por IA, que podem enganar os usuários e distorcer a experiência na plataforma. Ao exigir que esses perfis se identifiquem claramente, o Instagram busca aumentar a transparência e proteger os usuários de possíveis enganos.

Embora a ação não cubra todo o conteúdo gerado por IA, ela estabelece um precedente para a regulamentação desse tipo de material nas redes sociais, podendo influenciar outras plataformas a adotarem medidas semelhantes.