Bien qu'il ait annonce a plusieurs reprises des mesures de controle renforcees, YouTube semble toujours impuissant face a la vague de contenus inutiles crees par l'intelligence artificielle.
Selon un rapport publie par Kapwing, une societe specialisee dans les logiciels creatifs en ligne (Californie, Etats-Unis), plus de 20% des videos proposees par YouTube pour de nouveaux comptes sont du contenu indesirable produit par l'IA.
L'etude analyse les donnees des 15 000 chaînes YouTube les plus populaires au monde afin de determiner l'etendue des videos de mauvaise qualite et leur impact sur les vues, les abonnes et les revenus.
Les resultats montrent que sur les 15 000 chaînes etudiees, 278 chaînes n'ont publie que des videos "slop", qui sont des videos humoristiques, repetitives, peu creatives et creees en serie par l'IA.
Il est a noter que ces chaînes attirent toujours un total de 63 milliards de vues et 221 millions d'abonnes. La chaîne "AI slop" la plus regardee est Bandar Apna Dost, basee en Inde, avec plus de 2,4 milliards de vues.
Le contenu de cette chaîne est principalement constitue de videos creees par l'IA, decrivant un singe humain et un personnage ressemblant a Hulk combattant les demons.
Bien que selon la politique actuelle, les videos creees par l'IA ne suffisent pas a gagner de l'argent directement, Kapwing estime que ces types de canaux peuvent encore rapporter environ 117 millions de dollars par an. Bandar Apna Dost en particulier devrait generer environ 4,25 millions de dollars de revenus annuels par le biais de formes indirectes.
Plus inquietant encore, lorsque les chercheurs ont cree un tout nouveau compte YouTube, parmi les 500 premieres videos proposees, 104 videos etaient des produits de l'IA.
Environ un tiers des videos restantes sont egalement classees dans le groupe des "contenus absurdes", ce qui montre que les nouveaux utilisateurs sont presque submerges par des videos de mauvaise qualite.
Kapwing estime qu'il s'agit du signe d'une industrie semi-structuree en developpement rapide, qui utilise des outils d'IA gratuits pour produire du contenu en masse afin d'attirer l'interaction. Parallelement, il y a l'apparition de groupes d'escroqueries, vendant des cours et enseignant les secrets de la diffusion de videos d'IA.
Face a la vague de plaintes d'utilisateurs sur de nombreuses plateformes telles qu'Instagram, X ou YouTube, les entreprises technologiques ont cherche a limiter le contenu d'IA de mauvaise qualite en renforçant les politiques et en augmentant les suppressions. Recemment, YouTube aurait bloque deux grandes chaînes specialisees dans la diffusion de bandes-annonces de faux films crees par l'IA.
Cependant, le paradoxe reside dans le fait que les geants de la technologie considerent toujours l'IA comme l'avenir des reseaux sociaux. Le PDG de Meta, Mark Zuckerberg, a affirme un jour que l'IA aiderait a ajouter un immense entrepot de contenu au systeme de proposition. YouTube a egalement integre Veo 3, l'outil de creation de videos d'IA de Google, directement dans Shorts.
Commentant le rapport, YouTube estime que l'IA n'est qu'un outil et peut creer du bon et du mauvais contenu. La plateforme affirme toujours donner la priorite a la connexion des utilisateurs avec du contenu de haute qualite et supprimera les videos qui violent les principes communautaires. Cependant, la realite montre que le probleme du controle de l'"IA slop" reste tres difficile a resoudre.
