Ne doit pas être confondu avec Slop.
Le slop est un média de mauvaise qualité, comprenant des textes et des images, réalisé à l'aide d'une technologie d'intelligence artificielle générative[3],[4],[1]. Inventé dans les années 2020, le terme a une connotation péjorative proche de celle de « spam »[3].
Le slop a été défini de diverses manières : « encombrement numérique »[5], « contenu de remplissage produit par des outils d'IA qui privilégient la vitesse et la quantité au détriment du contenu et de la qualité »[5], et « contenu d'IA de mauvaise qualité ou indésirable, trouvé dans les médias sociaux, l'art, les livres et, de plus en plus, dans les résultats de recherche »[6].
Jonathan Gilmore, professeur de philosophie à la City University de New York, décrit le « style incroyablement banal et réaliste » de l'IA slop comme étant « très facile à reproduire »[7].
Origine du terme
Alors que les grands modèles linguistiques (LLM) ont accéléré la création de contenus écrits et d’images en grand volume mais de faible qualité, la question est apparue de nommer le phénomène. Les termes proposés comprenaient « déchets d'IA » (AI garbage), « pollution par l'IA » (AI pollution) et « scories générées par l'IA » (AI-generated dross)[4]. Le terme « slop » apparaît quant à lui en réaction à la sortie des générateurs d'art par IA en 2022[6]. Son utilisation précoce a été notée dans les sections de commentaires de 4chan, Hacker News et YouTube comme une forme d'argot de groupe[6].
Sur les réseaux sociaux
american soldier veteran holding cardboard sign that says 'today's my birthday, please like' injured in battle veteran war american flag[3].Les images et vidéos réalisées par l'IA ont proliféré sur les réseaux sociaux, en partie parce qu'elles généraient des revenus pour leurs créateurs sur Facebook et TikTok. Cette manne incite les individus des pays en développement à créer des images qui plaisent au public des États-Unis, ce qui leur permet d'obtenir des tarifs publicitaires plus élevés[8],[9],[10].
Le journaliste Jason Koebler a émis l'hypothèse que la nature bizarre de certains contenus pourrait être due au fait que les créateurs utilisent des invites en hindi, en ourdou et en vietnamien (des langues sous-représentées dans les données de formation du modèle), ou utilisent des méthodes de conversion de la parole en texte erratiques pour traduire leurs intentions en anglais[8].
En parlant au magazine New York, un créateur kenyan d'images de synthèse a décrit comment il avait donné à ChatGPT une invite telle que « ÉCRIVEZ-MOI 10 PHOTOS DE JÉSUS QUI APPORTERONT UN ENGAGEMENT ÉLEVÉ SUR FACEBOOK », pour les introduire ensuite dans un service d'IA de conversion de texte en image tel que Midjourney[3].
En politique
Le magazine américain The Atlantic note que les logiciels malveillants d'IA étaient de plus en plus associés à la droite politique aux États-Unis, qui les utilisait pour publier du shitposting et du rage-bait (en) sur les réseaux sociaux ; la technologie offrant « du contenu bon marché, rapide et à la demande »[11].
Ainsi, au lendemain du passage de l'ouragan Helene aux États-Unis, une image générée par l'IA d'une jeune fille tenant un chiot assise dans un bateau flottant sur les eaux inondées a-t-elle circulé parmi les membres du Parti républicain, qui l'ont utilisée comme preuve de l'échec de l'administration de Joe Biden, le président américain, à répondre à la catastrophe[12]. Certains partagent l'image sur les réseaux sociaux tout en reconnaissant qu'elle n'était pas authentique[13],[14].
Dans les listes d'événements
Des graphismes promotionnels fantastiques réalisés pour l'événement Willy's Chocolate Experience de février 2024, qualifiés de « slop »[15], ont induit le public en erreur en le poussant à assister à un événement qui, en réalité, se déroulait dans un entrepôt décoré bon marché. Un utilisateur de Reddit s'est dit surpris de voir que les gens achetaient des billets pour l'événement uniquement sur la base de publicités Facebook générées par l'IA, sans aucune véritable photographie du lieu[16].
Références
- (en-GB) Alex Hern, Dan, « Spam, junk … slop? The latest wave of AI behind the 'zombie internet' », The Guardian, (lire en ligne, consulté le )
- Katie Notopoulos, « Why doesn't Facebook just ban AI slop like Shrimp Jesus? », Business Insider, (lire en ligne)
- (en) Read, « Drowning in Slop », Intelligencer, (consulté le )
- « How Long Will A.I.'s 'Slop' Era Last? », The New York Times,
- (en) Hughes, « How Businesses Can Avoid AI Slop », Entrepreneur, (consulté le )
- « First Came 'Spam.' Now, With A.I., We've Got 'Slop' », The New York Times,
- (en) « The deluge of bonkers AI art is literally surreal », Washington Post, (lire en ligne, consulté le )
- (en) Koebler, « Where Facebook's AI Slop Comes From », 404 Media, (consulté le )
- (en-US) Tang et Wikström, « 'Side job, self-employed, high-paid': behind the AI slop flooding TikTok and Facebook », The Conversation, (consulté le )
- (en-US) Gault, « Facebook's Twisted Incentives Created Its AI Slop Era », Gizmodo, (consulté le )
- (en) Warzel, « The MAGA Aesthetic Is AI Slop », The Atlantic, (consulté le )
- (en-US) « Gullible Trump Cronies Losing Their Minds Over Fake AI Slop on Twitter », Yahoo News, (consulté le )
- Koebler, « Hurricane Helene and the ‘Fuck It’ Era of AI-Generated Slop », 404 Media, (consulté le )
- Warzel, « I’M RUNNING OUT OF WAYS TO EXPLAIN HOW BAD THIS IS », The Atlantic, (consulté le )
- Richard Currie, « Willy Wonka event leaves bitter taste with artificially sweetened promises », The Register, (lire en ligne, consulté le )
- Chris Murphy, « “Willy’s Chocolate Experience” Nightmare: What Went Wrong? », Vanity Fair, (lire en ligne, consulté le )
