Entenda como a mudança de estratégia do Facebook e o uso de inteligência artificial têm contribuído para a proliferação de conteúdo irrelevante e potencialmente perigoso na plataforma.
Brasil – Nos últimos meses, muitos usuários do Facebook têm se deparado com um aumento significativo de conteúdo aleatório e spam em seus feeds, grande parte dele aparentemente gerado por inteligência artificial (IA). Isso tem levantado preocupações sobre a qualidade da experiência na plataforma e os riscos associados a essas postagens.
Aqueles que antes usavam o Facebook principalmente para manter contato com amigos e familiares estão agora reclamando de imagens bizarras e postagens sem sentido que aparecem sem aviso. Às vezes, essas imagens são claramente criações de IA, como o infame “Camarão Jesus”. Outras vezes, o conteúdo parece ser postagens antigas de criadores reais que estão sendo recicladas por contas de bots para aumentar o engajamento.
O que muitos usuários não percebem é que o spam vai além de ser apenas um incômodo. Algumas dessas páginas de spam são estrategicamente desenhadas para enganar, disseminar desinformação e até influenciar comportamentos de usuários, como demonstrado em casos onde essas páginas são utilizadas por atores estrangeiros para criar divisões antes de eleições, segundo especialistas em comportamento online inautêntico.
Essa situação surgiu em parte devido a uma mudança estratégica do Facebook nos últimos anos. A empresa, visando competir com o TikTok e sua abordagem focada no entretenimento, redesenhou os feeds dos usuários para se tornarem mais um “motor de descoberta”, promovendo conteúdo que eles normalmente não veriam. No entanto, isso resultou em um aumento de conteúdos irrelevantes, enganadores e gerados por computador nos feeds dos usuários.
A Meta, empresa-mãe do Facebook, afirmou que está trabalhando para reduzir a disseminação de conteúdo de spam e encorajar a criação de conteúdo de qualidade. Mas o desafio é grande. Com a proliferação de ferramentas de IA, tornou-se muito mais fácil e rápido para “fazendeiros de engajamento” e maus atores criarem grandes volumes de conteúdo falso.
Segundo especialistas, o Facebook enfrenta uma tarefa difícil para identificar e remover todo o conteúdo gerado por IA de sua plataforma. Além disso, as equipes de moderação têm sido reduzidas, o que leva a uma dependência maior de sistemas automatizados que podem ser manipulados.
Enquanto a Meta continua a buscar soluções, o spam gerado por IA no Facebook permanece um problema complexo, que exige um equilíbrio entre a inovação tecnológica e a proteção dos usuários contra conteúdo enganoso e prejudicial.
