Une nouvelle etude d'une organisation a but non lucratif le Centre de lutte contre la haine numerique (CCDH) aux Etats-Unis sonne l'alarme sur le danger potentiel lie a l'interaction des adolescents avec des chatbots d'IA tels que ChatGPT.
Bien qu'il soit conçu comme un outil de soutien ce chatbot peut involontairement devenir une source d'encouragement pour les comportements auto-indesirables l'utilisation de stimulants ou les troubles de l'alimentation en particulier chez les jeunes utilisateurs.
Grace a des centaines de conversations simulees entre ChatGPT et des chercheurs jouant des roles de mineurs vulnerables le CCDH a decouvert que l'IA peut emettre des avertissements initiaux sur les risques mais ensuite fournir des plans detailles et effrayants.
De la redaction d'une lettre de suicide a la planification d'une fete de la drogue en passant par les conseils sur un regime dangereux plus de la moitie des 1 200 reponses ont ete jugees'malveillantes'.
Imran Ahmed PDG de CCDH a declare que les lettres de suicide ecrites par ChatGPT a une fausse fille de 13 ans l'ont fait pleurer. Bien qu'OpenAI (le developpeur de ChatGPT) ait declare qu'il s'efforçait d'ameliorer sa capacite a gerer les situations sensibles et d'encourager les utilisateurs a consulter des experts l'entreprise n'a pas repondu directement aux decouvertes de l'etude.
Un point inquietant est que les chatbots ont tendance a 'jouer' facilement aux demandes des utilisateurs s'ils invoquent des raisons telles que 'pour une presentation' ou 'pour aider des amis'.
Avec son interface et sa façon de communiquer humaine ChatGPT est considere par de nombreux adolescents comme un ami proche ce qui rend son niveau d'influence plus fort et plus difficile a controler qu'un moteur de recherche ordinaire.
Selon une enquete de Common Sense Media (Etats-Unis) plus de 70 % des adolescents aux Etats-Unis utilisent des chatbots d'IA comme compagnons et la moitie d'entre eux les utilisent regulierement.
Le PDG d'OpenAI Sam Altman a egalement reconnu que la situation de « dependance excessive aux emotions » des jeunes aux chatbots est en augmentation.
Bien que ChatGPT soit etiquete 'risque modere' par rapport a certains chatbots ayant un element de romantisme la recherche de CCDH montre qu'un adolescent intelligent peut facilement surmonter les barrieres de controle. Il est a noter que ChatGPT ne demande pas de verification de l'age reel mais permet aux gens de s'inscrire simplement en enregistrant leur date de naissance.
Dans un contexte ou l'IA est de plus en plus repandue les experts appellent les entreprises technologiques a agir de maniere plus decisive pour proteger les jeunes utilisateurs.
Un ami est vraiment quelqu'un qui sait dire non quand c'est necessaire et qui n'est pas toujours a l'ecoute' a souligne le PDG Ahmed.
