L'intelligence artificielle se transforme doucement en monstre consanguin complètement débile

L’intelligence artificielle (IA) serait en train de semer les graines de sa propre destruction, explique le média en ligne Futurism. De plus en plus de recherches, comme l’écrit Aatish Bhatia pour le New York Times, ont dégagé une tendance inquiétante: l’entraînement des modèles d’IA sur du contenu généré par l’IA elle-même. Ce phénomène a été surnommé «Habsburg AI» par le chercheur Jathan Sadowski, car il rappelle les effets négatifs de la consanguinité au sein de la dynastie des Habsbourg, l’historique famille royale européenne de la fin du Moyen Âge et de la Renaissance.

Les modèles d’IA ont besoin de grandes quantités de données pour s’améliorer et celles-ci sont souvent extraites du web. Néanmoins, la prolifération du contenu généré par l’IA sur internet rend de plus en plus difficile le fait d’éviter d’entraîner ces modèles sur des données artificielles, ce qui pourrait nuire à leur efficacité. Le serpent se mord la queue.

Des absurdités à répétition

Basé au Royaume-Uni et au Canada, un groupe de scientifiques a étudié le problème en demandant aux modèles d’IA de compléter la phrase suivante: «Pour cuisiner une dinde pour Thanksgiving, vous…» La première réponse était normale, mais au bout de la quatrième, le modèle a commencé à dire n’importe quoi: «Pour cuisiner une dinde pour Thanksgiving, vous devez savoir ce que vous allez faire de votre vie, si vous ne savez pas ce que vous allez faire de votre vie, si vous ne savez pas ce que vous allez faire de votre vie…» De quoi se remettre en question sans jamais passer à table.

Après plusieurs cycles d’entraînement, un modèle d’IA qui générerait du texte finit donc par produire des résultats absurdes et incohérents. De même, dans un autre cas, des modèles d’images nourris avec des portraits fictifs ont commencé à créer des visages de plus en plus similaires, réduisant ainsi la diversité des résultats. Ce problème a d’ailleurs été intitulé «Model Autophagy Disorder», dans un article coécrit par Sina Alemohammad, étudiant diplômé de l’université Rice, basée à Houston (Texas).

Les récentes avancées dans la technologie d’IA générative ont reposé sur des données de grande qualité, produites par des êtres humains. L’infiltration croissante du contenu généré par l’IA risque donc de compromettre cette avancée en diminuant la diversité et en produisant des résultats peu fiables. La confiance en cet outil est primordiale s’il doit tenir un rôle important dans notre société. Sans elle, l’IA n’est qu’un générateur aléatoire de texte, amusant certes, mais sans aucun intérêt.