Le développement rapide de l'intelligence artificielle crée des progrès significatifs dans le domaine des mathématiques. Cependant, parallèlement à cela, il y a une vague d'inquiétudes de la part des milieux universitaires quant aux risques potentiels lorsque l'IA est de plus en plus largement utilisée sans règles de contrôle appropriées.
Récemment, des centaines de mathématiciens ont signé la "Déclaration de Leiden sur l'intelligence artificielle et les mathématiques", un document élaboré pendant 8 mois par un groupe de 16 chercheurs après une conférence organisée à l'Université de Leiden (Pays-Bas). La déclaration a également reçu le soutien de l'Union internationale des mathématiciens.
Cette initiative intervient quelques semaines seulement après qu'OpenAI et Google DeepMind ont publié des résultats montrant que leurs modèles d'IA sont capables de résoudre des problèmes qui existent depuis des décennies.
Dans lequel, OpenAI a publié un modèle de raisonnement qui a trouvé la solution à un problème de géométrie célèbre posé par le mathématicien Paul Erdős en 1946. Pendant ce temps, Google DeepMind a déclaré que le système AlphaProof Nexus avait résolu 9 des 353 problèmes d'Erdős non résolus.
Cependant, les mathématiciens estiment que ces réalisations doivent être évaluées avec prudence car l'IA peut créer des arguments qui semblent raisonnables mais qui sont en réalité inexacts, ce qui rend la vérification scientifique plus difficile.
Cela augmente le fardeau des critiques et menace les normes traditionnelles en matière d'exactitude, de transparence et de capacité de vérification indépendante.
La "Déclaration de Leiden sur l'intelligence artificielle et les mathématiques" soulève également de nombreuses autres préoccupations telles que le fait que l'IA ne cite pas pleinement l'origine des travaux de recherche, le risque de créer des inégalités entre les chercheurs ayant et n'ayant pas accès à la technologie, ainsi que la tendance à publier les résultats par le biais de communiqués de presse ou de publications en ligne au lieu de canaux de censure scientifique officiels.
En outre, les chercheurs ont également mis en garde contre le fait que la participation croissante des entreprises technologiques à la recherche mathématique pourrait affecter l'autonomie de ce domaine.
La "Déclaration de Leiden sur l'intelligence artificielle et les mathématiques" ne s'oppose pas à l'IA, mais appelle à l'élaboration de principes pour l'utilisation transparente et responsable de la technologie.
Les recommandations comprennent la divulgation de l'utilisation de l'IA dans la recherche, la garantie d'une reconnaissance complète des mérites des auteurs humains, l'élaboration de directives d'édition appropriées et le maintien de normes éthiques dans la coopération entre les milieux universitaires et l'industrie technologique.
