Cette decision intervient apres de nombreux rapports sur des interactions preoccupantes entre Meta AI et le groupe d'utilisateurs jeunes. Au debut du mois une agence de presse a divulgue des documents internes montrant que les chatbots etaient autrefois autorises a contenir du contenu inapproprie pour leur age.
Meta a ensuite affirme que ce document etait « faux et ne reflete pas la politique » et qu'il avait ete supprime. Une etude recente a egalement revele que Meta AI avait donne des reponses inappropriees lors de conversations avec des comptes d'adolescents.
En reponse Meta a declare avoir renforce les 'fenetres de protection' afin que les situations similaires ne se reproduisent pas sur Instagram et Facebook.
La porte-parole Stephanie Otway a affirme : 'Nous avons mis en place un mecanisme de protection pour les jeunes utilisateurs des le depart et continuons a le completer notamment en formant l'IA a ne pas participer aux discussions sur ces questions mais plutot a les orienter vers une source de soutien professionnel. Dans le meme temps Meta limite temporairement l'acces a certains personnages d'IA crees par les utilisateurs'.
Il est a noter que Meta decrit les mesures actuelles comme une demarche temporaire alors que l'entreprise continue d'etudier des solutions plus durables.
Les nouveaux changements montrent que Meta subit une forte pression pour assurer un environnement en ligne plus sûr pour les adolescents. Alors que l'intelligence artificielle s'integre de plus en plus dans la vie quotidienne la definition de limites et de responsabilites sociales devient un facteur cle.
