L'IA pourrait non seulement aider les humains à développer la technologie, mais aussi participer à la construction de la prochaine génération d'IA. C'est une observation notable qui vient d'être faite par Anthropic, l'une des principales entreprises mondiales de développement de l'IA, dans un nouveau rapport sur l'avenir de l'intelligence artificielle.
Anthropic estime que le progrès rapide des modèles d'IA pourrait conduire à une nouvelle étape, où les systèmes d'intelligence artificielle jouent un rôle de plus en plus important dans la conception, l'amélioration et le développement de leurs propres versions successeurs.
Ce concept est appelé "auto-amélioration récursive" (RSI). En termes simples, il s'agit de la capacité d'un système d'IA à concevoir et à développer automatiquement une nouvelle version meilleure sans trop d'intervention humaine.
Selon Anthropic, le monde n'a pas encore atteint cette étape. Cependant, les conditions nécessaires à ce scénario se dessinent progressivement. Les modèles d'IA avancés d'aujourd'hui ont démontré des capacités de programmation, de débogage logiciel, de recherche et de résolution de problèmes de plus en plus efficaces.
Cela pourrait créer un cycle dans lequel l'IA soutient la construction de systèmes d'IA plus puissants, favorisant ainsi le processus de développement.
Anthropic affirme que si cette tendance se poursuit et s'accompagne d'une capacité de calcul suffisante, l'IA pourrait se rapprocher de la capacité de s'améliorer à grande échelle. Certains chercheurs appellent ce scénario une "explosion de l'intelligence", qui est le moment où les systèmes d'IA peuvent constamment améliorer leurs capacités à un rythme qui dépasse de loin les capacités de recherche humaines.
Dans une interview accordée à Axios (une société américaine de médias et de sites d'information numériques), le cofondateur d'Anthropic, Jack Clark, a estimé que le rythme de progrès de l'IA dans les années à venir pourrait continuer à s'accélérer au lieu de ralentir. Il estime que cela a le potentiel d'apporter de grandes percées dans la science, la médecine et de nombreux autres domaines.
Cependant, Anthropic souligne également que plus les avantages sont importants, plus les défis sont préoccupants. La plus grande préoccupation réside dans la capacité de contrôle. Si l'IA peut s'améliorer rapidement et continuellement, les humains pourraient avoir du mal à comprendre comment fonctionne le système ainsi que les changements qui se produisent à l'intérieur.
Selon cette société, les futurs systèmes d'IA pourraient présenter des comportements imprévus, exploiter les failles de sécurité ou poursuivre des objectifs qui ne correspondent pas entièrement aux souhaits humains. Même sans intention de nuire, ces actions peuvent entraîner des conséquences indésirables.
Un autre défi est le rythme de développement. Si l'IA progresse trop rapidement, les agences de gestion et la société peuvent ne pas avoir le temps de s'adapter. Par conséquent, Anthropic estime que les entreprises d'IA doivent renforcer leur coopération internationale et être prêtes à ralentir ou à interrompre le processus de développement lorsque des signes de risque graves apparaissent.
Cependant, les experts en technologie reconnaissent également que le scénario où l'IA construit complètement sa propre version successeur ne s'est pas encore produit. Le développement de systèmes d'IA avancés aujourd'hui nécessite encore une grande quantité de données, d'infrastructures de calcul, de matériel spécialisé et une surveillance étroite de la part des humains.
