Dans un contexte ou les navigateurs IA deviennent rapidement une nouvelle tendance une etude qui vient d'etre publiee a souleve de profondes inquietudes quant a la possibilite qu'ils soient exploites pour attaquer les utilisateurs.
Les chercheurs soulignent que les navigateurs d'IA tels que Comet de Perplexity et ChatGPT Atlas d'OpenAI peuvent involontairement commettre des actes malveillants s'ils sont inseres par des commandes de rappel indirectes (indirect prompt injection).
Selon l'analyse les pirates informatiques peuvent pieger des sites web ou des e-mails ce qui fait que les navigateurs IA envoient automatiquement des donnees sensibles telles que les e-mails les mots de passe bancaires les informations personnelles ou meme commettre des actions involontaires du proprietaire.
OpenAI a reconnu ce risque. L'entreprise avertit que les facteurs de l'IA peuvent etre depasses par des commandes cachees ce qui entraîne le vol de donnees provenant des sites Web sur lesquels les utilisateurs se sont connectes.
Les victimes peuvent commettre des erreurs lorsqu'elles agissent a votre place ou etre seduites par des commandes malveillantes cachees et commettre des actions que vous ne souhaitez pas' a declare OpenAI.
Face aux avertissements croissants Perplexity un concurrent evalue a 20 milliards de dollars maintient toujours la position selon laquelle les utilisateurs ont toujours un controle absolu.
La societe souligne que Comet Assistant est conçu pour privilegier l'affichage et n'effectue des actions sensibles que lorsqu'il y a une autorite claire.
Nous garantissons la vitesse d'automatisation tout en maintenant un controle strict pour les utilisateurs' a declare un representant de Perplexity.
Pour renforcer la confiance Perplexity a recemment mis a niveau Comet Assistant avec la possibilite de convertir entre plusieurs onglets pour servir des taches complexes telles que la saisie de feuilles de calcul la saisie multipoint ou les operations sur des sites Web a structure profonde.
Parallelement l'architecture du navigateur IA a egalement ete ajustee afin d'accroître la capacite de perception de l'environnement reseau et de limiter le risque de malentendance.
Les observateurs estiment que la course aux navigateurs d'IA entre dans une phase de concurrence feroce. Alors que Perplexity et OpenAI stimulent la capacite d'auto-action de l'IA le plus important reste d'assurer la securite des utilisateurs.
Perplexity a meme revele qu'il lancerait un tout nouveau assistant d'IA dans les prochains jours signalant que la guerre technologique est encore imprevisible.
