On a retrouvé les jeunes Asiatiques qui inondent Facebook d'horribles images de spam générées par IA

Depuis des mois, comme nous vous l’avons déjà raconté, il se passe des choses très étranges sur Facebook. La plateforme est littéralement envahie d’images très laides –voire franchement flippantes, telle qu’un Jésus entièrement constitué de crevettes– générées par intelligence artificielle. Parfois associées à des escroqueries, elles engrangent énormément d’engagement («j’aime», commentaires et partages).

Derrière ce spam augmenté par IA se dissimule une communauté informelle d’entrepreneurs notamment basés en Inde, en Thaïlande, au Vietnam, en Indonésie et au Pakistan, dévoile le média d’investigation tech 404 Media, après plusieurs mois d’enquête. Certains touchent même de l’argent de Facebook via son programme «Creator Bonus», et d’autres s’enrichissent en formant les autres (non éligible au CPF).

«Les photos de personnes pauvres sont une bonne chose, explique l’Indien Gyan Abishkek, 115.000 abonnés sur YouTube, dans un de ses tutos. Tout ce qui touche le cœur… Des bébés mignons, des enfants. Cela suscite beaucoup d’intérêt. De nos jours, Facebook offre de bons bonus de performance sur ces produits. Vous pouvez faire la même chose…Si vous créez vos images avec l’aide de l’IA, vous ne serez jamais à court d’images. Vous pouvez envoyer cinquante, voire cent publications avec de telles images chaque jour et gagner beaucoup d’argent.»

Dead Internet Theory is becoming too real again
1/2 pic.twitter.com/WnLI0LpfPq

— Nefarious Bits 🏳️‍🌈 (@BitsHammer) April 26, 2024

Dans une autre vidéo, le youtubeur Carry Techmind conseille six services différents pour générer les images, dont Bing, le moteur de recherche de Microsoft, qui semble particulièrement prisé des spammeurs. Il recommande de publier entre cinq et dix photos par jour sur sa page Facebook, et affirme qu’il est possible de gagner entre 3 et 10 dollars (entre 2,75 et 9,16 euros) tous les 1.000 «j’aime». Le choix des hashtags et des légendes apparaît également important pour «percer».

«D’autres vidéos montrent comment les influenceurs copient et collent dans Google Translate des “prompts” de génération d’images IA en hindi à partir de groupes WhatsApp [ou Telegram] créés pour partager des prompts, les traduisent en anglais, puis copient et collent ces prompts [traduits en anglais] dans l’Image Creator de Microsoft», poursuit 404 Media. Ce recours à la traduction automatique pourrait expliquer en partie la bizarrerie des images générées.

Spamalot

Cette «économie du spam Facebook» venue d’Asie existe depuis longtemps, mais grâce à l’IA générative, elle est désormais sous stéroïdes –même si certains escrocs préfèrent pirater du contenu réel que de générer des visions de cauchemar.

Une première catégorie parmi les spammeurs se compose de ceux qui «travaillent» seuls depuis leurs smartphones, pour certains avec une mauvaise connexion internet. Le succès n’est toutefois pas toujours au rendez-vous, comme le confie l’adolescent indien Crantii Yadav dans une série de vidéos YouTube. Certains parviennent néanmoins à générer l’équivalent d’un smic mensuel.

Une seconde catégorie regroupe ceux qui ont décidé d’industrialiser le processus et d’exploiter à fond les failles de Facebook. Notamment en utilisant FewFeed, un logiciel philippin qui coûte 4,58 euros par mois. Il permet de «gérer, planifier et publier sur des dizaines de pages et de groupes Facebook à la fois à des intervalles de temps légèrement variables pour éviter la détection Facebook, prendre automatiquement le contrôle des groupes Facebook qui n’ont pas d’administrateurs, spammer les publications vers des groupes Facebook spécifiques, cloner les publications réussies d’autres pages et commenter automatiquement dans les groupes en utilisant plusieurs comptes.»

Les escrocs utilisent également d’autres outils, comme la plateforme AccsMarket, qui propose des dizaines de milliers de comptes Facebook à l’achat, et Vercel, qui permet par exemple de dissimuler un lien malveillant à l’intérieur d’une photo publiée sur Facebook. Décidément, on n’arrête pas le progrès.