Dans un contexte où les entreprises technologiques s'efforcent d'intégrer des agents de navigation IA dans leurs produits les nouveaux avertissements sur les risques de sécurité deviennent de plus en plus préoccupants.
Les attaques d'insertion de rappels indirects où les pirates cachent des instructions malveillantes sur le site Web pour contrôler l'IA commettant des actions illégales sont considérées comme une menace qui monte rapidement. Face à cette réalité Google vient d'annoncer une nouvelle étape pour protéger les utilisateurs de Chrome.
Récemment Google a annoncé qu'il mettait à niveau Chrome avec une couche de sécurité spéciale notamment un modèle de langage grand public indépendant appelé User Alignment Critic.
Ce modèle fonctionne en se séparant complètement du contenu web peu fiable et a pour mission de vérifier toutes les actions proposées par l'agent de navigation artificielle.
Si des signes anormaux sont détectés le modèle rejetera immédiatement et demandera des ajustements. Ceci est considéré comme le premier bouclier contre le risque que l'IA soit trompée par des commandes d'insertion sophistiquées.
Cette initiative intervient alors que Chrome teste l'intégration de fonctionnalités prenant en charge l'IA après que Google a intégré le chatbot Gemini au navigateur pour les utilisateurs aux États-Unis.
Outre la classe d'IA de surveillance Google déploie également la capacité de séparation de l'origine (origin isolation) limitant la portée de l'interaction des agents de l'IA uniquement dans les pages directement liées à la tâche ou dans la liste des utilisateurs autorisés.
Google a déclaré que la nouvelle classe de défense suit une stratégie multiniveaux comprenant : la demande de confirmation manuelle des utilisateurs dans les opérations sensibles le système de détection de menace en temps réel ainsi que l'infrastructure d'attaque simulée pour vérifier en permanence la résistance du navigateur.
De plus Chrome effectuera un filtre d'insertion de rappels pour scanner tous les sites web ouverts afin de détecter les risques d'attaques indirectes.
Ces mises à jour proviennent de recherches récentes montrant le niveau de danger de l'attaque d'insertion de commandes indirectes.
Auparavant des experts en sécurité de Brave avaient découvert une faille dans l'agent Comet de Perplexity qui permettait aux pirates de prendre le contrôle du navigateur IA et d'accéder à des données sensibles telles que les e-mails ou les informations bancaires.
Même Antigravity la nouvelle plateforme de développement d'agents IA de Google a été détectée comme vulnérable à cette forme d'attaque.
Selon Google la nouvelle classe de défense de Chrome comprend trois composants principaux : User Alignment Critics un ensemble d'origines limitées et un système de surveillance et de contrôle des utilisateurs.
Ces trois mécanismes sont combinés dans le but de minimiser la possibilité que des facteurs de l'IA soient contrôlés via des iframes ou des sites Web contenant des logiciels malveillants cachant des ordres provoquant des transactions illégales ou le vol de données.
Pour encourager la communauté à participer au renforcement de la sécurité de l'écosystème de l'IA Google a également annoncé une prime allant jusqu'à 20 000 USD pour les découvertes de failles liées à la nouvelle classe de sécurité de Chrome.
Ce géant de la technologie affirme que la sécurité du modèle d'IA est la priorité absolue lorsque les risques potentiels peuvent créer une toute nouvelle génération d'attaques réseau.
