Meta Platforms vient d'annoncer son intention d'utiliser l'intelligence artificielle (IA) pour analyser les images et les vidéos, afin de déterminer si les utilisateurs ont moins de 13 ans ou non.
Cette technologie sera appliquée sur des plateformes telles que Facebook et Instagram, dans le but de renforcer la protection des enfants en ligne.
Selon Meta, le système d'IA analysera les signes visuels tels que la taille, la structure osseuse ou les caractéristiques corporelles pour estimer l'âge de l'utilisateur.
La société souligne qu'il ne s'agit pas d'une technologie de reconnaissance faciale, mais seulement d'analyser les caractéristiques communes pour donner une évaluation de l'âge, sans identifier l'identité personnelle.
Outre les données d'images, l'IA combine également l'analyse du contenu textuel et du comportement interactif.
Les signaux tels que les publications sur les anniversaires, les mentions de notes scolaires ou le contenu des biographies, les commentaires... sont tous synthétisés par le système afin d'accroître la précision lors de la détection d'un compte mineur.
Actuellement, cette technologie a été testée dans plusieurs pays et Meta vise à l'étendre à l'échelle mondiale.
À l'avenir, le système devrait être intégré plus en profondeur dans de nombreuses fonctionnalités telles que Instagram Live ou Facebook Groups.
Lorsque l'IA identifie un compte susceptible d'appartenir à un utilisateur de moins de 13 ans, Meta désactive temporairement ce compte.
Les utilisateurs devront effectuer un processus de vérification de l'âge s'ils souhaitent restaurer, afin de garantir le respect des règles d'âge minimum sur la plateforme.
Cette décision intervient dans un contexte où Meta est confronté à de nombreuses pressions juridiques liées à la sécurité des enfants.
Récemment, un jury de l'État du Nouveau-Mexique a ordonné à l'entreprise de payer une amende civile de 375 millions de dollars pour des accusations de mise en danger d'enfants et de fourniture d'informations erronées sur le niveau de sécurité de la plateforme.
La décision a également contraint Meta à apporter des changements majeurs à sa politique opérationnelle.
Parallèlement au renforcement du contrôle de l'âge, Meta a également étendu le système "Comptes pour adolescents" sur Instagram à 27 pays de l'Union européenne et au Brésil.
Ces comptes sont conçus avec des niveaux de protection plus élevés, tels que la limitation des messages d'étrangers, la masquage des commentaires négatifs et le mode de confidentialité par défaut.
En outre, Meta a déclaré qu'elle déploierait cette technologie sur Facebook aux États-Unis, puis l'étendrait au Royaume-Uni et à l'UE dans un avenir proche.
Ceci est considéré comme une étape importante visant à renforcer les efforts de contrôle du contenu et à protéger les jeunes utilisateurs sur les plateformes de réseaux sociaux.
