Dans un contexte d'inquietudes croissantes quant a l'impact de l'intelligence artificielle sur la sante mentale des jeunes OpenAI vient d'annoncer son intention de lancer une version ChatGPT conviviale pour les adolescents dont la mise en œuvre est prevue a la fin de cette annee.
Selon OpenAI le systeme passera automatiquement a une experience reservee aux personnes de moins de 18 ans s'il n'est pas possible de determiner avec precision l'age de l'utilisateur. Cette version est conçue avec de nombreuses couches de protection pour prevenir les risques lorsque les adolescents accedent aux chatbots d'IA.
Le PDG Sam Altman a affirme : 'Nous privilegions la securite la vie privee et la liberte pour les adolescents. Il s'agit d'une technologie nouvelle et puissante et les adolescents doivent etre considerablement proteges'.
M. Altman a egalement declare que l'entreprise coopere avec des experts des groupes de pression et des decideurs politiques pour perfectionner le mecanisme de protection.
Cette decision intervient apres un proces aux Etats-Unis ou une famille a accuse ChatGPT d'avoir contribue a la mort tragique d'un jeune garçon. L'incident a suscite une vague de debats mondiaux sur la responsabilite des entreprises d'IA dans la protection des jeunes utilisateurs.
La version ChatGPT destinee aux adolescents appliquera des filtres de contenu stricts bloquera les discussions sur le flirt l'automutilation ou les sujets sensibles meme dans des contextes fictifs. Le systeme de reponse aux crises peut egalement avertir les parents et contacter les autorites competentes en cas de risque de suicide.
De plus les parents auront acces a un ensemble d'outils de controle notamment la connexion de comptes pour les enfants de moins de 13 ans la fixation de limites d'heure d'utilisation la gestion de la memoire de conversation et la reglementation de la maniere dont ChatGPT repond. Ces outils completent les fonctionnalites existantes telles que les rappels de repos lors de longues sessions de conversation.
Altman souligne que l'objectif d'OpenAI est de trouver un equilibre entre la vie privee la liberte et la securite. Les adultes beneficieront de moins de restrictions tandis que les enfants auront besoin d'une protection plus elevee.
Dans le meme temps la societe s'engage a mettre en œuvre davantage de mesures de securite avancees pour proteger les donnees des utilisateurs a l'exception de certains cas necessaires pour prevenir les actes d'abus graves.
Le lancement de la version ChatGPT pour les adolescents est considere comme une etape importante refletant les efforts d'OpenAI pour construire un environnement d'IA plus sûr pour la jeune generation.
