Os bots pornográficos estão mais ou menos enraizados na experiência das redes sociais, apesar dos melhores esforços das plataformas para eliminá-los. Estamos acostumados a vê-los inundando as seções de comentários de memes e postagens de celebridades e, se você tem uma conta pública, provavelmente já os notou assistindo e gostando de suas histórias. Mas o comportamento deles continua mudando levemente para ficar à frente dos filtros automatizados, e agora as coisas estão começando a ficar estranhas.

Embora os bots pornográficos ao mesmo tempo tentassem atrair as pessoas com frases de efeito sugestivas ou até abertamente atrevidas (como o sempre popular, “NÃO OLHE minha HISTÓRIA, se você não quer se MASTURBAR!”), a abordagem hoje em dia é um pouco mais abstrata. Tornou-se comum ver contas de bot postando uma palavra única, inofensiva e completamente irrelevante para o assunto, às vezes acompanhada por um ou dois emojis. Em uma postagem que encontrei recentemente, cinco contas de spam separadas, todas usando a mesma foto de perfil – um close de uma pessoa com uma tanga vermelha abrindo a bunda – comentaram: “Pristine 🌿”, “Música 🎶”, “Safira 💙,” “ Serenidade 😌” e “Fé 🙏”.

Outro bot – sua foto de perfil é uma foto frontal sem cabeça do corpo vestido de lingerie de alguém – comentou na mesma postagem do meme, “Michigan 🌟”. Depois de notá-los, é difícil não começar a manter um registro mental dos casos mais ridículos. “🦄agricultura” escreveu um bot. Em outro post: “terror 🌟” e “😍🙈inseto”. Os comentários bizarros de uma só palavra estão por toda parte; os bots pornográficos, ao que parece, perderam completamente o controle.

Na verdade, o que estamos vendo é o surgimento de outra manobra de evasão que os golpistas usam para ajudar seus bots a escapar da tecnologia de detecção do Meta. Isso, e eles podem estar ficando um pouco preguiçosos.

“Eles só querem entrar na conversa, então ter que elaborar uma frase coerente provavelmente não faz sentido para eles”, disse Satnam Narang, engenheiro de pesquisa da empresa de segurança cibernética Tenable, ao Engadget. Depois que os golpistas colocam seus bots na mistura, eles podem fazer com que outros bots acumulem curtidas nesses comentários para elevá-los ainda mais, explica Narang, que vem investigando golpes de mídia social desde os dias do MySpace.

O uso de palavras aleatórias ajuda os golpistas a passar despercebidos pelos moderadores que podem estar procurando por palavras-chave específicas. No passado, eles tentaram métodos como colocar espaços ou caracteres especiais entre cada letra de palavra que pudesse ser sinalizada pelo sistema. “Você não pode necessariamente banir uma conta ou desativá-la se eles apenas comentarem a palavra ‘inseto’ ou ‘terror’, porque é muito benigno”, disse Narang. “Mas se eles disserem, ‘Verifique minha história’ ou algo assim… isso pode sinalizar seus sistemas. É uma técnica de evasão e claramente está funcionando se você os vir nessas contas de grande nome. É apenas uma parte dessa dança.”

Essa dança é uma das plataformas de mídia social e os bots vêm fazendo há anos, aparentemente sem fim. meta disse que impede que milhões de contas falsas sejam criadas diariamente em seu conjunto de aplicativos e captura “mais milhões, muitas vezes minutos após a criação”. Mesmo assim, as contas de spam ainda são predominantes o suficiente para aparecer em massa em postagens de alto tráfego e aparecer nas visualizações de histórias até mesmo de usuários com poucos seguidores.

O mais recente da empresa relatório de transparência, que inclui estatísticas sobre contas falsas removidas, mostra que o Facebook rejeitou mais de um bilhão de contas falsas só no ano passado, mas atualmente não oferece dados para o Instagram. “Os spammers usam todas as plataformas disponíveis para enganar e manipular as pessoas na Internet e adaptam constantemente suas táticas para evitar a fiscalização”, disse um porta-voz da Meta. “É por isso que investimos pesadamente em nossas equipes de fiscalização e revisão e temos ferramentas de detecção especializadas para identificar spam.”

Em dezembro passado, Instagram lançou uma série de ferramentas com o objetivo de dar aos usuários mais visibilidade sobre como lidam com os bots de spam e dar aos criadores de conteúdo mais controle sobre suas interações com esses perfis. Os titulares de contas agora podem, por exemplo, excluir em massa solicitações de acompanhamento de perfis sinalizados como possível spam. Os usuários do Instagram também devem ter notado o aparecimento mais frequente da seção de “comentários ocultos” na parte inferior de algumas postagens, onde comentários sinalizados como ofensivos ou spam podem ser relegados para minimizar encontros com eles.

“É um jogo de golpe na toupeira”, disse Narang, e os golpistas estão ganhando. “Você acha que conseguiu, mas então ele simplesmente aparece em outro lugar.” Os golpistas, diz ele, são muito hábeis em descobrir por que foram banidos e em encontrar novas maneiras de evitar a detecção de acordo.

Pode-se presumir que os usuários de mídia social hoje seriam muito experientes para cair em comentários obviamente escritos por bots como “Michigan 🌟”, mas de acordo com Narang, o sucesso dos golpistas não depende necessariamente de enganar vítimas infelizes para que entreguem seu dinheiro. Freqüentemente, eles participam de programas de afiliados e tudo o que precisam é fazer com que as pessoas visitem um site – geralmente denominado “serviço de namoro adulto” ou algo semelhante – e se inscrevam gratuitamente. O “link na biografia” dos bots normalmente direciona para um site intermediário que hospeda um punhado de URLs que podem prometer bate-papos ou fotos XXX e levar ao serviço em questão.

Os golpistas podem obter uma pequena quantia de dinheiro, digamos um dólar ou mais, para cada usuário real que criar uma conta. Na eventualidade de alguém se inscrever com cartão de crédito, a propina seria muito maior. “Mesmo que um por cento [the target demographic] se inscreve, você está ganhando algum dinheiro”, disse Narang. “E se você administra várias contas diferentes e tem perfis diferentes divulgando esses links, provavelmente está fazendo uma boa mudança.” Os golpistas do Instagram provavelmente também terão bots de spam no TikTok, X e outros sites, disse Narang. “Tudo se resume.”

Os danos dos bots de spam vão além das dores de cabeça que podem causar aos poucos que foram enganados e se inscreveram em um serviço incompleto. Os bots pornográficos usam principalmente fotos de pessoas reais que roubaram de perfis públicos, o que pode ser embaraçoso quando a conta de spam começa a solicitar amizade a todos que a pessoa retratada conhece (falando por experiência pessoal aqui). O processo de fazer com que o Meta remova essas contas clonadas pode ser um esforço exaustivo.

A sua presença também aumenta os desafios que os verdadeiros criadores de conteúdos nas indústrias do sexo e relacionadas com o sexo enfrentam nas redes sociais, nas quais muitos confiam como uma forma de se conectarem com públicos mais vastos, mas com os quais têm de lutar constantemente para não serem deplatformados. As contas do Instagram do Imposter podem acumular milhares de seguidores, afastando visitantes em potencial das contas reais e lançando dúvidas sobre sua legitimidade. E contas reais às vezes são sinalizadas como spam na busca de bots do Meta, colocando aqueles com conteúdo atrevido ainda mais em risco de suspensão e banimentos de conta.

Infelizmente, o problema do bot não tem solução fácil. “Eles estão continuamente encontrando novas maneiras de contornar [moderation], apresentando novos esquemas”, disse Narang. Os golpistas sempre seguirão o dinheiro e, para isso, a multidão. Embora os bots pornográficos no Instagram tenham evoluído a ponto de postar bobagens para evitar moderadores, bots mais sofisticados que perseguem um grupo demográfico mais jovem no TikTok estão postando comentários um tanto verossímeis nos vídeos de Taylor Swift, diz Narang.

A próxima grande novidade nas mídias sociais surgirá inevitavelmente, mais cedo ou mais tarde, e eles também irão para lá. “Enquanto houver dinheiro a ser ganho”, disse Narang, “haverá incentivos para esses golpistas”.