Un rapport de l'Institut Future of Life, un institut de recherche sur la sécurité de l'IA basé aux États-Unis, publié récemment, a classé la sécurité parmi les 9 premières entreprises d'IA au monde.
Pour réaliser ce rapport, 7 chercheurs et experts en gestion ont identifié le classement sur la base de données publiques et d'informations fournies par les entreprises. Le groupe a évalué les efforts dans 6 catégories différentes: Évaluation des risques, impacts actuels, cadre de sécurité, sécurité vitale, gouvernance et responsabilité, partage d'informations.
Aucune entreprise d'IA n'a reçu de "A" dans aucune catégorie, mais la société américaine d'intelligence artificielle Anthropic a obtenu la meilleure note globale de "C+". Meta a gagné 2 places pour se hisser à la 4e place, tandis que xAI a chuté de 3 places à la 7e place, juste devant DeepSeek de Chine et Mistral de France, les 2 dernières entreprises.
Mistral a été inclus pour la première fois dans la liste, mais lorsque l'AFP a interrogé sur la position finale, la société a déclaré que le cadre du rapport n'était pas conforme à la méthode de développement du modèle d'IA de la société. La société française développe des modèles ouverts, permettant aux utilisateurs de télécharger et de modifier les produits.
De nombreux concurrents de Mistral qui développent des modèles d'IA fermés, notamment Anthropic, OpenAI et Google DeepMind, figurent également sur la liste.
Je suis très déçu de les voir derniers, surtout parce que l'Europe est vraiment en tête en matière de sécurité de l'IA", a déclaré Max Tegmark, professeur au MIT et président de l'Institut Future of Life, à l'AFP. "Nous avons contacté à plusieurs reprises", mais Mistral n'a pas répondu à l'enquête de l'organisation, a-t-il ajouté. Alibaba, xAI et DeepSeek n'ont pas non plus répondu à l'enquête.
Les 3 développeurs d'IA chinois inclus dans le rapport produisent également des modèles ouverts et se situent dans la moitié inférieure du classement: DeepSeek (5e), Alibaba Cloud (6e) et Z.ai (8e).
Le rapport de l'Institut Future Life note que certaines entreprises qui interdisaient auparavant l'utilisation de leurs technologies dans l'armée ont « progressivement changé d'avis », notamment Anthropic.
Selon le rapport, les 9 entreprises ont toutes échoué à lutter contre les menaces "existantes" telles que la poursuite de modèles atteignant l'intelligence humaine, appelés "intelligence artificielle globale" ou AGI. Bien qu'il y ait des "efforts constructifs", les efforts à grande échelle sont "totalement insuffisants".
D'autres risques comprennent la possibilité d'abuser du modèle pour mener une cyberattaque ou d'effectuer des tâches potentiellement nuisibles pour l'homme.
Anthropic a récemment attiré l'attention en publiant le modèle d'IA le plus puissant de la société Mythos. Début avril, la société basée à San Francisco, aux États-Unis, a publié Mythos pour un petit nombre d'organisations fiables en raison de sa capacité à détecter les failles de sécurité du réseau pour les mauvaises personnes.
