La société d'intelligence artificielle OpenAI vient d'annoncer l'acquisition de la startup de sécurité AI Promptfoo, une initiative visant à renforcer la capacité de sécurité des systèmes d'agents d'IA en développement rapide dans l'environnement des entreprises.
Selon une annonce publiée sur le blog d'OpenAI, la technologie de Promptfoo sera intégrée à OpenAI Frontier, la plateforme d'entreprise de l'entreprise pour les agents d'IA automatisés.
Ce sont des systèmes d'intelligence artificielle capables d'effectuer automatiquement de nombreuses tâches numériques qui nécessitaient auparavant une intervention humaine.
Ces dernières années, les agents de l'IA devraient contribuer à accroître considérablement la productivité au travail en étant capables de traiter automatiquement les tâches telles que la recherche d'informations, l'analyse de données ou la coordination des processus.
Cependant, le développement rapide de cette technologie soulève également des inquiétudes quant à la sécurité, en particulier lorsque les systèmes d'IA peuvent accéder à des données sensibles ou exploiter des processus importants de l'entreprise.
Promptfoo a été fondée en 2024, dans le but de créer des outils pour aider les entreprises à vérifier les failles de sécurité dans les grands modèles linguistiques (LLM).
L'entreprise développe de nombreux outils de test et une bibliothèque open source permettant d'évaluer le niveau de sécurité des systèmes d'IA face aux attaques ou à la manipulation des données.
Selon les données de PitchBook (une société fournissant des données financières, des informations sur les investissements et une analyse de marché), Promptfoo a levé environ 23 millions de dollars de capital d'investissement depuis sa création et a été évaluée à 86 millions de dollars après le dernier cycle de levée de fonds en juillet 2025. La valeur de la transaction avec OpenAI n'a pas été divulguée.
OpenAI a déclaré qu'après avoir intégré la technologie de Promptfoo, leur plateforme d'agents IA sera capable d'effectuer automatiquement des "attaques simulées" pour vérifier le niveau de sécurité du système.
Cette technologie permet également d'évaluer les processus de travail des agents de l'IA, de surveiller les opérations pour détecter les risques et d'aider les entreprises à répondre aux exigences de sécurité.
En outre, OpenAI a déclaré qu'elle prévoyait de continuer à développer les produits open source de Promptfoo, afin d'aider la communauté des programmeurs et des entreprises à vérifier et à améliorer le niveau de sécurité des applications d'IA.
Cette transaction est considérée comme une nouvelle étape d'OpenAI visant à renforcer la confiance des entreprises dans les systèmes d'IA automatisés, un domaine qui devrait jouer un rôle important à l'avenir de la technologie de l'intelligence artificielle.
