L'intelligence artificielle (IA) est peu susceptible de détruire l'humanité, mais de graves dommages sont possibles, a déclaré le vice-président du Conseil de sécurité russe, Dmitri Medvedev, selon TASS le 14 septembre.
Commentant les spéculations des développeurs de l'IA eux-mêmes, qui "se plaignent de la précipitation de l'humanité" et mettent en garde que "l'IA est dangereuse, imprévisible et se développe trop rapidement selon des règles que nous ne comprenons pas", M. Medvedev a déclaré qu'ils n'étaient pas sincères.
Les créateurs d'IA génératrices ne sont pas sincères. Ce n'est pas vous et moi, ni les Homo sapiens en général, qui les inquiètent. Ils n'ont pas peur qu'une IA hors de contrôle, absorbée par son pouvoir, détruise l'humanité. Un tel sort est peu probable", a-t-il déclaré.
Selon le vice-président du Conseil de sécurité russe, la perspective la plus inquiétante réside dans les incidents d'exploitation.
La réalité est que le scénario dans lequel le logiciel utilise l'IA avancée pour exploiter une grande usine de production ou un nœud de transport causera de graves dommages. Par exemple, laisser un avion entrer en collision dans les airs ou détruire une centrale nucléaire. Et puis quelqu'un se tournera vers les développeurs d'IA générateurs - pour leur infliger des poursuites judiciaires d'une valeur de milliards de dollars, ou simplement s'attaquer à eux-mêmes", a déclaré M. Medvedev.
Ces peurs sont-elles réelles ou non? Surtout quand de nombreuses personnes sages comme Musk et d'autres l'ont dit il y a longtemps. La réponse est très simple: elles sont réelles. Au fait, j'ai moi-même écrit à ce sujet dans un article récent dans un magazine", a-t-il ajouté.
M. Medvedev estime que "la solution la plus évidente sera que les pays s'accordent sur des principes communs dans la gestion de l'IA".
