Face à cette réalité, certaines start-up de la Silicon Valley cherchent à développer des technologies pour vérifier la précision du code créé par l'IA.
Les chatbots d'IA tels que ChatGPT ou les systèmes de support de programmation actuels peuvent créer des codes informatiques en quelques secondes seulement. Cependant, les experts affirment que ces systèmes sont parfois encore défectueux ou créent même des informations inexactes.
Une étude publiée en janvier par des chercheurs de l'université Carnegie Mellon (États-Unis) montre que les outils d'IA de création de code peuvent aider à accélérer le processus de développement de logiciels. Cependant, ils peuvent également réduire la qualité du code, ce qui pose des problèmes à long terme aux projets.
Face à ce défi, de nombreuses start-up de la Silicon Valley développent des technologies pour vérifier le code informatique.
Les startups technologiques dans le domaine de l'intelligence artificielle telles qu'Axiom Math et Harmonic (à Palo Alto, en Californie) ou Logical Intelligence (San Francisco) construisent des systèmes d'IA capables de vérifier les codes de la même manière que les mathématiciens prouvent un problème.
Carina Hong, fondatrice et PDG d'Axiom Math, estime que l'authentification de code pourrait devenir la prochaine étape dans le processus de développement de la technologie de l'IA.
Récemment, cette société a annoncé avoir levé avec succès 200 millions de dollars auprès de fonds de capital-risque, dont Menlo Ventures, Greycroft et Madrona.
Bien que nouvellement créée il y a environ un an et n'ayant qu'une vingtaine d'employés, Axiom Math est déjà évaluée à 1,6 milliard de dollars. Les investisseurs pensent que la technologie de l'entreprise peut contribuer à améliorer la qualité du code créé par des systèmes d'IA tels que Codex ou Claude Code.
Selon Matt Kraning (un investisseur en capital-risque dans le secteur technologique et associé chez Menlo Ventures), le plus gros problème lors de l'utilisation de l'IA pour écrire du code aujourd'hui est que les utilisateurs ne peuvent pas être sûrs que ce code est faux ou non.
M. Matt Kraning estime que la technologie de vérification de code comme celle d'Axiom pourrait aider à résoudre en partie ce problème.
Initialement, Axiom a développé une technologie pour résoudre des problèmes mathématiques complexes. Le système de la société, nommé AxiomProver, a obtenu la note maximale à l'examen de mathématiques de Putnam (l'un des meilleurs concours pour étudiants universitaires aux États-Unis et au Canada).
Cette technologie fonctionne en utilisant le langage de programmation Lean, qui a été développé il y a plus d'une décennie pour prouver les propositions mathématiques.
Grâce à sa capacité à déterminer clairement le bien et le mal en mathématiques, le système peut éliminer les erreurs logiques dans le processus de résolution de problèmes.
Les chercheurs espèrent que la même méthode peut être appliquée pour vérifier le code informatique. Voici un exemple d'"apprentissage de transfert", lorsqu'un système d'IA apprend des compétences dans un domaine et les applique avec succès à d'autres tâches.
Cependant, certains experts mettent en garde contre le fait que cette méthode présente encore des limites. Selon Bogdan Vasilescu, professeur d'informatique à l'université Carnegie Mellon, il n'est pas toujours possible de définir clairement ce qu'est un code informatique "correct".
En réalité, de nombreux logiciels, en particulier les services en ligne qui servent des millions d'utilisateurs, auront un environnement de fonctionnement complexe et imprévisible.
Par conséquent, bien que l'IA puisse aider à vérifier certaines erreurs, cette technologie peut difficilement éliminer complètement tous les problèmes du code informatique.
