Selon le celebre magazine technologique americain WIRED un groupe de chercheurs en securite a recemment mene un test audacieux visant a avertir des risques potentiels lorsque l'intelligence artificielle (IA) est integree aux appareils intelligents.
Ils ont trouve un moyen de prendre le controle de Google Gemini un chatbot d'IA de premier plan de Google pour commander l'arret des lumieres et controler les appareils electriques dans une maison intelligente.
Selon WIRED trois chercheurs ont reussi a 'infecter' une invitation sur Google Calendar avec des instructions cachees demandant de modifier l'etat de l'appareil electrique.
Lorsque Gemini a ete invite a resumer son emploi du temps ces ordres ont ete involontairement actives ce qui a conduit a l'arret des lumieres une preuve claire de la possibilite d'une manipulation a distance.
Ceci est considere comme la premiere attaque de ce type lorsqu'un systeme d'IA artificielle est exploite pour avoir un impact sur l'environnement et les equipements physiques.
Le projet intitule 'Invitation is All You Need' souligne egalement le danger lorsque les grands modeles linguistiques (LLM) sont de plus en plus lies au monde reel grace aux agents de l'IA (AI agents) qui controlent les robots les appareils IoT les voitures autonomes...
Ben Nassi l'un des chercheurs de l'universite de Tel Aviv (Israël) a averti : 'Les LLM seront bientot introduits dans les voitures autonomes les robots humains... S'il n'y a pas de mecanisme de securite efficace les consequences pourraient etre une menace a la securite de la vie et non plus une question de vie privee'.
Google a confirme avoir ete informe de cette faille depuis fevrier. Le representant de Google Andy Wen a declare qu'il n'y avait aucun signe que la faille ait ete exploitee par des pirates informatiques mais que l'entreprise deployait d'urgence des correctifs et un renforcement de la defense pour prevenir des attaques similaires a l'avenir.
L'incident est un rappel ferme que l'IA n'est pas seulement un outil mais qu'elle peut devenir une menace si elle n'est pas controlee de maniere stricte en particulier dans un contexte ou elle est de plus en plus liee a la vie reelle des gens.
