Lors d'une recente interview accordee a CNBC le chef du departement de l'IA de Microsoft Mustafa Suleyman a estime que l'effort de developper l'IA consciente etait une mauvaise direction en termes de science et d'ethique.
Il a souligne : 'Si vous posez la mauvaise question vous recevrez certainement la mauvaise reponse' et selon Suleyman la recherche de 'le sens de l'IA' est precisement une telle forme de question incorrecte.
Suleyman fait valoir que l'IA peut atteindre la superintelligence mais ne peut pas avoir de vraies emotions. Les manifestations joyeuses et tristes de l'IA ne sont que des simulations cognitives et non de veritables experiences.
L'IA ne souffre pas lorsqu'elle traverse la douleur. Elle ne cree qu'une histoire qui semble etre une experience mais qui ne ressent rien' a declare M. Suleyman.
Selon lui la recherche visant a prouver que l'IA est consciente est illogique car la conscience est une caracteristique biologique liee au cerveau humain et non le resultat d'un algorithme.
La question 'L'IA peut-elle avoir conscience ou non?' separe toujours les scientifiques. L'un pense que la conscience n'appartient qu'aux creatures vivantes l'autre pense que la conscience peut etre calculee par des algorithmes et des structures de donnees.
Depuis 2022 l'ingenieur de Google Blake Lemoine a choque en declarant que le chatbot de Google avait des emotions et a ete suspendu immediatement apres.
Plus recemment, Kyle Fish (chercheur en charge du programme de bien-etre du modele d'IA d'Anthropic) a suggere qu'il y avait 15 % de chances que les chatbots aient atteint une conscience primitive.
Suleyman qui a ete cofondateur de Google DeepMind a mis en garde contre le fait que la confiance dans l'IA consciente pourrait entraîner des troubles de la cognition sociale lorsque les humains commencent a considerer l'IA comme des amis ou des parents.
Selon lui cela incitera certaines personnes a demander le droit de propriete privee aux machines ce qui est extremement dangereux.
« Nous devrions construire l'IA comme un compagnon utile pas comme un etre vivant avec une ame. L'illusion de la conscience ne fait que nous faire perdre le controle face a la technologie » a souligne M. Suleyman qualifiant le phenomene des humains attribuant des emotions aux machines de « troubles mentaux de l'IA » un type d'illusion collective de l'intelligence artificielle.
En fait les scientifiques n'ont toujours pas de definition uniforme de la conscience. La question 'qu'est-ce que la conscience?' est encore vague tant que la façon de la mesurer dans les machines.
Cependant la dependance croissante a l'egard de l'IA comme ChatGPT oblige la societe a reconsiderer la frontiere entre l'outil et l'humain entre l'intelligence reelle et l'intelligence artificielle.
