A Meta, empresa controladora do Facebook, enfrenta um crescimento significativo de postagens falsas geradas com inteligência artificial (IA). O problema foi identificado pela empresa ainda no primeiro semestre, quando anunciou atualizações para combater este tipo de conteúdo.
As publicações são majoritariamente de autoria de spammers que tentam direcionar o público para sites externos.
O fenômeno engloba desde imagens bizarras, como idosos com expressões exageradas de tristeza em festas aniversários, até conteúdos mais sutis difíceis de identificar como gerados por IA, incluindo fotos de casas, alimentos e supostos desenhos infantis.
Pesquisadores da Universidade de Stanford analisaram mais de 100 contas no Facebook que publicaram 50 ou mais imagens criadas por inteligência artificial. Conforme revela o estudo, estas postagens são tipicamente de agentes com o objetivo de direcionar usuários para fora da plataforma.
Dimensão do problema
As postagens falsas começaram a aparecer com maior frequência nos últimos meses. Elas afetam principalmente o feed de notícias do Facebook, onde surgem mesmo para usuários que não seguem as páginas que as produzem.
O Centro de Política Cibernética de Stanford identificou que muitas das contas responsáveis por este conteúdo foram roubadas de seus proprietários originais. Estas contas falsas e spammers buscam manipular usuários da plataforma.
“O Feed do Facebook nem sempre apresenta postagens novas e envolventes que você aprecia consistentemente”, afirmou a Meta em comunicado oficial em abril.
Medidas de combate
A Meta removeu mais de 500 mil contas falsas em seus esforços para combater spam. Ademais, as medidas implementadas incluem a redução da visibilidade de posts suspeitos e a limitação de conteúdo não original na plataforma.
A empresa pretende promover conteúdo original de criadores legítimos, reduzindo a visibilidade de postagens artificiais. Apesar destes esforços, as publicações incomuns continuam aparecendo nos feeds dos usuários.
Além disso, o Centro de Política Cibernética de Stanford acrescentou que “as motivações aparentes incluem direcionar pessoas para sites fora da plataforma, vender produtos e construir bases de seguidores maiores”.
Ainda não se sabe completamente como o algoritmo do Facebook permite que estas postagens cheguem a tantos usuários, nem como identificar com precisão todas as contas envolvidas nesta prática. Atualmente, as postagens falsas são responsáveis por centenas de milhões de interações na plataforma.
The post Feed do Facebook foi tomado por notícias falsas criadas por IA appeared first on Giz Brasil.
