«Minion Gore»: des internautes utilisent l'IA pour transformer des vidéos de meurtres et les poster sur Insta

Transformer de véritables vidéos de meurtres d’habitude réservées aux recoins les plus sombres d’internet pour pouvoir les poster sur les réseaux sociaux en évitant la censure: voici la nouvelle prouesse d’internautes au sens de l’humour bien particulier. Grâce au générateur de vidéo IA Runway, ils remplacent les éléments les protagonistes des vidéos par des Minions, ces petits personnages jaunes sortis de l’univers de Moi, Moche et Méchant, avant de les poster sur les réseaux sociaux. Les extraits y engrangent des milliers de vues avant d’être détectés et supprimés par la modération.

La nouvelle pratique, baptisée «Minion Gore», est relativement récente. Emanuel Maiberg, journaliste pour le site 404 Media, constate qu’elle a commencé à gagner en popularité à la mi-décembre, et ce malgré les tentatives de modération des grandes plateformes, YouTube, Instagram, X et TikTok. Toutes étaient concernées par l’apparition de ce contenu d’un nouveau genre, transformant des vidéos d’attaques terroristes ou de suicide en remakes envahis de Minions.

L’enquête de Maiberg lui a permis de retrouver sur TikTok des montages «Minion Gore» de vidéos ultra violentes, comme celle du suicide de Ronnie McNutt, qui s’était ôté la vie en 2020 en direct dans un Facebook Live tristement célèbre. Sur Instagram, il a découvert une version modifiée de la vidéo GoPro du terroriste de la mosquée de Christchurch en Nouvelle-Zélande qui s’était filmé en train de tuer cinquante-et-une personnes. Difficile parfois de remonter jusqu’à la vidéo originale, surtout si vous ne la connaissez pas en amont, mais Maiberg affirme avoir vu ce qui ressemble à «des exécutions publiques, des images de guerre en Ukraine et des accidents sur des chantiers de construction».

La plupart du temps, les vidéos sont marquées d’un filigrane «Runway», l’outil utilisé pour les générer. Une technologie de vidéo à vidéo, permettant d’uploader n’importe quel extrait et de le modifier grâce à l’IA. La version gratuite permet de le faire très facilement grâce à un prompt comme «Fais en sorte que ce clip ressemble à un film d’animation des Minions». C’est aussi simple que ça.

Plutôt Minions ou Père Noël?

Les vidéos sont généralement assez vite repérées par la communauté et par les outils de modération des réseaux, mais certains uploads accumulent des vues par milliers, comme celle du suicide de McNutt, qui a atteint les 250.000 vues en dix jours. Répondant aux questions de 404 Media, TikTok a affirmé supprimer tout contenu violant ses directives, et notamment les «contenus haineux ainsi que les contenus sanglants, horribles, perturbants ou extrêmement violents». L’entreprise a également expliqué mettre à jour régulièrement ses outils de détection des contenus générés par IA qui pourraient enfreindre ces directives, afin de suivre l’évolution rapide de cette technologie.

Ainsi, les grandes plateformes parviennent à créer des «empreintes» uniques permettant de marquer une vidéo indésirable, y compris lorsque quelqu’un tente de la réuploader. Une méthode qui laisse visiblement passer quelques clips entre les mailles du filet, puisque des versions modifiées «Minion Gore» sont toujours accessibles aujourd’hui. Cela s’explique notamment par la relative facilité avec laquelle il est possible de contourner ces modérateurs automatisés, en modifiant les vidéos.

«Dans la plupart des cas, les méthodes actuelles de hachage/empreinte digitale ne parviennent pas à détecter de manière fiable ces variantes», a déclaré Hany Farid, professeur à l’Université de Californie à Berkeley et l’un des principaux experts mondiaux en images manipulées numériquement. Il ajoute d’ailleurs que les internautes peuvent déjà déjouer facilement le contrôle des plateformes… En changeant de personnages de fiction pour retoucher leurs vidéos.

C’est déjà le cas, si on en croit Maiberg, qui est par exemple tombé sur une vidéo d’exécutions de l’État islamique modifiée, et qui transformait victimes et bourreaux… En Père Noël. Du côté de Runway, pas de commentaire ni d’action pour empêcher la génération de ce type de contenus. Un premier filtre pourrait pourtant avoir lieu en interdisant la retouche de contenu ouvertement violent. Mais ce n’est visiblement pas pour aujourd’hui.