OpenAI s'efforce de renforcer sa capacite a contrer les cyberattaques pour son navigateur Atlas AI. Cependant ils reconnaissent egalement que les attaques d'injection de commandes (prompt injection) un type d'attaque qui manipule les agents AI pour executer des instructions malveillantes souvent cachees dans les sites Web ou les e-mails sont un risque qui ne disparaît pas en peu de temps - ce qui souleve des questions sur la securite lorsque les agents AI operent sur un reseau Internet ouvert.
L'attaque d'insertion de logiciels malveillants comme les escroqueries et les techniques sociales en ligne est difficilement resolue completement' a ecrit OpenAI dans un recent article sur son blog detaillant comment l'entreprise renforce les capacites de defense d'Atlas pour contrer les attaques incessantes. L'entreprise reconnaît que le'mode d'acteur' dans ChatGPT Atlas 'etend la surface de menace pour la securite'.
Outre OpenAI le Centre national de cybersecurite britannique (NCSC) a averti au debut du mois que les attaques d'insertion de code basees sur des rappels visant les applications d'intelligence artificielle creative 'ne pourraient jamais etre completement minimisees' ce qui risque de mettre les sites Web en danger de devenir victimes de fuites de donnees.
L'agence gouvernementale britannique conseille aux experts en cybersecurite de minimiser les risques et l'impact des attaques d'insertion de code basees sur des rappels au lieu de penser que les attaques peuvent etre'stoppees'.
Du cote d'OpenAI l'entreprise a declare : 'Nous considerons la cryptographie immediate comme un defi de securite de l'IA a long terme et nous devrons constamment renforcer nos capacites de defense contre elle'.
Quelle est la solution de l'entreprise pour cette tache impossible? Un cycle de reaction rapide et proactive que l'entreprise estime montrer des signes positifs initiaux pour aider a detecter de nouvelles strategies d'attaque internes avant qu'elles ne soient exploitees 'dans la pratique'.
OpenAI souligne que la prevention et la lutte contre les attaques de diffusion de logiciels malveillants instantanees sont tres difficiles et totalement efficaces mais qu'ils s'appuient sur des tests a grande echelle et des cycles de correction plus rapides pour renforcer la securite du systeme avant qu'ils n'apparaissent lors d'attaques reelles.
Le porte-parole d'OpenAI a refuse de reveler si la mise a jour de securite d'Atlas avait entraîne une reduction significative du nombre d'attaques d'insertion de logiciels malveillants reussies ou non mais a declare que l'entreprise avait coopere avec des tiers pour renforcer sa capacite a contrer les attaques d'insertion de logiciels malveillants rapides d'Atlas avant sa sortie.
