Alors que l'internet est de plus en plus recouvert de contenu illégal créé par l'intelligence artificielle une tendance plus inquiétante apparaît.
Parmi eux les jeunes enfants voire les enfants de moins de deux ans deviennent des sujets directement exposés à des contenus produits en masse par l'IA qui manquent d'éducation et peuvent être nocifs.
Selon Bloomberg une vague de vidéos 'AI slop' (traduction littérale signifiant contenu numérique de faible qualité) produites à grande échelle et presque sans valeur se répand de plus en plus sur YouTube et attire un grand nombre de vues de jeunes de moins de deux ans.
Les slopes d'IA ne se limitent pas aux vidéos d'animation superficielles et répétitives mais comprennent également des images et des vidéos créées ou modifiées avec des outils d'IA accompagnées d'une voix de lecture informatique qui semble « éducative » mais qui n'a en réalité aucune valeur réelle.
Ceci est particulièrement alarmant car de nombreux parents autorisent encore les jeunes enfants à accéder à YouTube même si la plateforme YouTube Kids est conçue pour les enfants de 2 à 12 ans.
Une étude du Pew Research Center montre que plus de 60 % des parents d'enfants de moins de deux ans reconnaissent que leurs enfants regardent YouTube régulièrement.
Bien qu'il n'y ait pas de statistiques claires sur le niveau de vidéos où l'IA domine sur YouTube Kids les créateurs de contenu semblent avoir rapidement profité de cette faille pour publier des vidéos nuisibles créées par l'IA.
Certaines chaînes comptent jusqu'à des millions de followers donnent ouvertement des instructions sur la façon de créer des vidéos d'IA de faible qualité mais attirent toujours les téléspectateurs et deviennent involontairement le contenu que les jeunes enfants interprètent quotidiennement.
La psychologie du développement met également en garde contre le risque lorsque Michael Robb un expert citant Bloomberg estime que l'IA donne aux créateurs un outil de production illimité de vidéos de mauvaise qualité déguisées en contenu éducatif pour les enfants.
Bien que YouTube ait mis en œuvre un certain nombre de mesures pour limiter l'abus de vidéos d'IA de nombreux contenus passent par le système de surveillance existent publiquement et attirent des centaines de milliers de vues de jeunes enfants.
Dans un contexte où l'IA se développe trop rapidement et où les réglementations ne suivent pas le rythme les experts estiment que les parents doivent surveiller de près le contenu que les enfants regardent en particulier lorsque les outils d'IA sont utilisés comme une 'usine' de production de contenu de déchets illimité.
