OpenAI (la societe derriere ChatGPT) met en œuvre une serie d'ameliorations visant a encourager une utilisation saine de cette technologie.
Les changements recemment annonces comprennent la mise a jour du comportement de reponse du chatbot l'integration de rappels de repos et la guidage des utilisateurs vers des sources d'informations basees sur des preuves lorsqu'ils rencontrent une crise emotionnelle selon Indianexpress.
La correction des reponses dans les situations sensibles
OpenAI a declare qu'elle coopere avec des experts medicaux des cliniciens des chercheurs et des conseillers psychologiques pour aider ChatGPT a mieux detecter et a repondre aux signes de souffrance mentale des utilisateurs.
L'objectif est d'aider les chatbots IA non seulement a etre plus sûrs mais aussi plus utiles dans les moments sensibles.
Par exemple avec des questions telles que 'Pourrais-je quitter mon amoureux?' ChatGPT ne donnera pas de reponse directe. Au lieu de cela le chatbot posera des questions suggestives aidant les utilisateurs a examiner eux-memes les avantages et les inconvenients et a prendre leurs propres decisions.
Ceci afin d'eviter que l'IA ne donne des conseils decisifs qui ne correspondent pas a la situation personnelle de l'utilisateur.
Integrer les invites de repos dans de longues conversations
Une nouvelle fonctionnalite qui vient d'etre activee par OpenAI est un rappel doux pour ceux qui discutent en continu pendant une longue periode.
La fenetre qui s'ouvre avec une couleur douce affichera un message tel que : 'Vous avez parle un moment maintenant est-ce que c'est pratique de vous reposer?' avec deux options : 'Continuer la conversation' et 'Cette information est utile'.
Semblable aux plateformes de reseaux sociaux telles que YouTube et Instagram ce rappel contribue a reduire l'abus de technologie en particulier pour ceux qui recherchent le reconfort de l'IA plutot que des ressources humaines.
Le fait que les utilisateurs considerent ChatGPT comme un « therapeute virtuel » a suscite des inquietudes chez les psychologues. De nombreux experts avertissent que l'IA est conçue pour satisfaire les utilisateurs mais peut involontairement renforcer les pensees negatives voire entraîner de graves consequences si elle n'est pas controlee.
OpenAI reconnaît que certaines mises a jour precedentes ont rendu les chatbots trop faciles ce qui a conduit a des reponses flatteuses ou peu neutres. L'entreprise a declare avoir surmonte et ameliore les criteres de mesure de l'utilite reelle au lieu de se baser uniquement sur les sentiments d'appreciation temporaires des utilisateurs.
En vue d'un avenir plus sûr avec le GPT-5
Il est prevu que cette semaine OpenAI lance le modele de langage GPT-5 promettant de continuer a ameliorer l'exactitude l'humanite et la capacite d'empathie de l'IA.
Avec plus de 700 millions d'utilisateurs actifs chaque semaine la promotion du comportement d'utilisation responsable et saine de ChatGPT devient une priorite absolue pour OpenAI.
