Face aux preoccupations croissantes concernant l'impact de l'intelligence artificielle sur les jeunes, OpenAI a integre la fonctionnalite de "prediction d'age" a ChatGPT, conçue pour aider a identifier les adolescents et a fixer des limites de contenu raisonnables pour leurs conversations.
Ces dernieres annees, OpenAI a ete vivement critique pour les effets que ChatGPT peut avoir sur les enfants. Un certain nombre de suicides chez les adolescents ont ete lies a ce chatbot, et comme d'autres fournisseurs d'IA, OpenAI a egalement ete critique pour avoir permis a ChatGPT de discuter de sujets sexuels avec de jeunes utilisateurs.
En avril 2025, la societe a ete contrainte de corriger une erreur permettant a ses chatbots de creer du contenu pornographique pour les utilisateurs de moins de 18 ans.
L'entreprise s'efforce depuis longtemps de resoudre le probleme des utilisateurs plus ages, et la fonctionnalite de "prediction d'age" ne fait que completer les mesures de protection existantes.
Cette nouvelle fonctionnalite utilise un algorithme d'intelligence artificielle (IA) pour evaluer les comptes d'utilisateurs en fonction de "signals de comportement et de niveau de compte" specifiques, dans le but de identifier les jeunes utilisateurs, a declare OpenAI dans un recent article de blog.
La societe a declare que ces "signals" comprennent des informations telles que l'age declare par l'utilisateur, la duree de l'existence du compte et la duree du jour ou le compte fonctionne habituellement.
L'entreprise dispose deja de filtres de contenu conçus pour eliminer les discussions sur la sexualite, la violence et d'autres sujets susceptibles de causer des problemes aux utilisateurs de moins de 18 ans. Si le mecanisme de prediction d'age identifie un compte de moins de 18 ans, ces filtres seront appliques automatiquement.
Si les utilisateurs sont mal identifies comme n'ayant pas l'age requis, ils peuvent retablir leur compte "adulte". Selon OpenAI, ils peuvent envoyer des selfies a Persona, le partenaire de verification d'identite d'OpenAI.
