A l'ere de l'intelligence artificielle (IA) la cybersecurite n'est plus seulement un combat technique mais est devenue un veritable jeu intellectuel.
Selon Ami Luttwak directeur de la technologie chez la societe de cybersecurite Wiz l'IA ouvre a la fois des opportunites et des risques en aidant les entreprises a accelerer leur developpement et en donnant aux attaquants des outils puissants sans precedent.
M. Luttwak a declare que lorsque les entreprises se precipitent pour integrer l'IA dans leurs processus de l'automatisation du codage des agents de l'IA aux outils internes la portee des attaques s'etend rapidement.
L'IA aide les programmeurs a deployer le code plus rapidement mais la vitesse s'accompagne de raccourcis faciles qui creent des failles. Si vous n'exigez pas que le systeme soit construit de la maniere la plus sûre l'IA ne vous aidera pas' a averti M. Luttwak.
Non seulement les defenseurs utilisent l'IA mais les attaquants sont egalement a l'avant-garde. Ils utilisent des techniques d'exploitation basees sur des rappels (prompt injection) et meme forment leurs propres agents AI pour detecter les secrets supprimer les donnees ou prendre le controle des outils internes.
Le cas de Drift une startup de chatbots piratee qui a fait fuiter les donnees de Salesforce de nombreux grands groupes est une preuve claire du risque d'attaques de chaîne d'approvisionnement de tiers.
Un autre exemple est la campagne's1ingularity' visant le systeme de build Nx ou l'agresseur installe des logiciels malveillants exploitant des outils d'IA tels que Claude et Gemini pour rechercher automatiquement des informations sensibles. En consequence des milliers de codes de token et de verrouillages d'acces prives a GitHub ont ete voles.
Bien que le taux de nouvelles entreprises deployant de l'IA complete soit d'environ 1 % Wiz a enregistre des attaques liees a l'IA chaque semaine a l'echelle de milliers de clients.
L'IA s'est infiltree dans toutes les etapes de l'attaque et a change plus rapidement que toute revolution technologique precedente. Cela signifie que le secteur de la cybersecurite doit reagir plus rapidement' a souligne M. Luttwak.
Pour y faire face Wiz a developpe des outils de securite specialises pour l'ere de l'IA tels que Wiz Code (qui aide a detecter et a minimiser les failles des la phase de developpement) ou Wiz Defend (qui surveille et repond aux menaces dans l'environnement cloud).
Parallelement a cela l'entreprise appelle les entreprises en particulier les startups d'IA a considerer la securite comme une priorite des le premier jour.
Meme avec seulement cinq employes vous avez toujours besoin d'un CISO' a declare M. Luttwak tout en soulignant l'importance de concevoir une architecture de donnees securisee de controler l'acces et de se conformer aux normes de securite telles que SOC2 des le debut pour eviter les dettes de securite ulterieures.
Selon Luttwak le moment actuel est une opportunite en or pour les start-up de cybersecurite. Car si chaque domaine de la securite connaît de nouvelles formes d'attaques c'est aussi une opportunite de repositionner les methodes de defense.
