Après la phase de promotion de l'application de l'intelligence artificielle (IA), de nombreuses entreprises technologiques sont confrontées à un nouveau problème: le coût d'utilisation de l'IA augmente plus rapidement que prévu.
Des start-up aux grandes entreprises, de plus en plus d'unités s'inquiètent de l'énorme facture de token (la plus petite unité de données de base utilisée par le système pour analyser et traiter les informations) découlant de l'utilisation de modèles d'IA avancés.
Selon TechCrunch, la pression des coûts est devenue un sujet brûlant dans le monde de la technologie. Certaines entreprises ont déclaré avoir utilisé tout leur budget d'IA pour l'ensemble de l'année au cours des premiers mois de l'année.
Certaines entreprises devraient même dépenser jusqu'à 500 millions de dollars pour les services d'IA après n'avoir pas fixé de limite d'utilisation pour leurs employés.
La raison en est l'explosion des modèles et des agents d'IA de nouvelle génération. Bien que le prix de chaque token ait baissé par rapport à avant, le nombre de tokens consommés a fortement augmenté lorsque les entreprises ont déployé des chatbots, des assistants d'IA et des outils d'automatisation à grande échelle.
Les nouveaux modèles tels que Claude, GPT ou Gemini sont capables de mieux gérer le travail, mais en même temps, ils augmentent également fortement la demande d'utilisation de l'IA.
Alexander Embiricos - directeur senior des produits chez OpenAI, a déclaré que les échanges avec les clients ont considérablement changé. Si auparavant les entreprises s'intéressaient à ce que l'IA pouvait faire, la question populaire est maintenant de savoir comment surveiller les coûts, auditer l'utilisation et contrôler la quantité de tokens consommés.
Face à cette situation, la Linux Foundation a annoncé son intention de créer la Tokenomics Foundation, une nouvelle organisation visant à élaborer des normes communes pour la gestion des coûts des tokens d'IA. L'objectif est de créer un système similaire à FinOps, une méthode qui aide les entreprises à contrôler les coûts du cloud computing depuis de nombreuses années.
JR Storment - PDG de la FinOps Foundation, a déclaré que depuis le début de cette année, il a reçu en permanence des commentaires d'entreprises concernant des dépassements de budget de l'IA plusieurs fois supérieurs à prévu. Selon lui, les entreprises passent d'une mentalité de "utiliser le plus possible" à "comment contrôler efficacement les dépenses".
Cependant, le problème n'est pas simple. Une étude de deux ans menée auprès de 20 000 programmeurs par Faros AI a montré que l'IA contribue réellement à améliorer la productivité au travail.
Cependant, le nombre d'erreurs et les fois où il a fallu réécrire le code source ont également augmenté. Pendant ce temps, les données de Jellyfish montrent que les ingénieurs qui utilisent le plus l'IA ont deux fois plus de productivité que le groupe restant, mais doivent consommer 10 fois plus de tokens.
Ce qui donne actuellement des maux de tête aux entreprises, c'est qu'il n'existe pas de méthode de mesure claire pour déterminer si cette dépense apporte réellement une valeur correspondante ou non.
Pendant ce temps, selon les prévisions de la banque d'investissement Goldman Sachs, le niveau d'utilisation des tokens d'IA dans le monde pourrait être multiplié par 24 d'ici 2030.
