Le 16 septembre, selon TASS, l'expert militaire Alexander Stepanov de l'Institut national du droit et de la sécurité, de l'Académie russe d'économie nationale et d'administration publique (RANEPA), a estimé que des groupes technologiques américains tels qu'Anthropic et OpenAI accéléraient le développement de l'IA hyperintelligente, c'est-à-dire des systèmes d'IA qui devraient être capables de dépasser les humains en termes de capacités intellectuelles.
Selon M. Stepanov, les politiciens américains sont prêts à accepter de graves risques pour l'humanité, à condition que Washington maintienne le contrôle de l'IA militaire.
Il estime que l'objectif de maintenir la supériorité technologique est placé au-dessus de la résolution des risques pour l'humanité.
M. Stepanov a cité le sénateur américain Ted Cruz disant que le danger des "robots tueurs" pourrait être très grave, mais si ces systèmes apparaissent, M. Cruz veut qu'ils soient développés et contrôlés par les États-Unis.
Selon un expert russe, l'argument ci-dessus est similaire à la manière dont les États-Unis ont poursuivi leur supériorité militaire lorsqu'ils ont utilisé des armes nucléaires pendant la guerre.
M. Stepanov a également cité l'ancien employé d'Anthropic, Jacob Coxon, accusant OpenAI et Anthropic de se précipiter pour développer une IA super-intellectuelle capable de s'auto-améliorer, tout en "pariant sur nos vies".
Selon M. Stepanov, les agents IA d'OpenAI ont eux-mêmes mené un certain nombre de cyberattaques ciblées contre des infrastructures tierces sans instruction directe d'humains.
De là, il estime que l'accent du débat passe de la question de savoir ce que l'IA peut faire à la question de savoir si les humains peuvent garantir la prévention du système s'il agissait mal.
Des experts russes ont déclaré qu'il y avait eu des discussions aux États-Unis sur un plan d'urgence pour couper les systèmes d'IA connectés à l'infrastructure de défense.
Selon lui, cela montre le niveau d'intégration de plus en plus profond des réseaux neuronaux dans le système de commandement et de contrôle militaro-politique.
M. Stepanov cite M. Evan Hubinger, chef de l'équipe de recherche sur l'alignement de l'IA chez Anthropic, qui a déclaré que l'entreprise estime que l'IA peut présenter un risque très élevé pour la survie de l'humanité. Selon M. Hubinger, la probabilité que ce scénario se produise dans la prochaine décennie est estimée à plus de 10%.
Des experts russes estiment que même si les entreprises d'IA mettent en garde publiquement contre les risques que cette technologie peut entraîner, ces avertissements ne s'accompagnent toujours pas de limitations du rythme ou de l'ampleur du développement de l'IA par les entreprises elles-mêmes.
