L'IA ouvre de nouveaux dangers dans la prolifération des armes de destruction massive
Poursuivant les discussions en séance plénière sur le projet de loi sur la prévention et la lutte contre la prolifération des armes de destruction massive, dans la matinée du 8 août, le député Nguyễn Văn Lịch (Délégation de l'Assemblée nationale de la province de Lạng Sơn) a estimé que l'élaboration et la promulgation de la loi visaient non seulement à perfectionner le système juridique, mais aussi à exprimer une pensée stratégique dans la protection de la patrie dès le début, à distance, en prévenant et en empêchant de manière proactive les menaces à la sécurité nationale dès le début.
Selon le député, le développement rapide de la science et de la technologie, en particulier de l'intelligence artificielle, de la biotechnologie, des données numériques et du commerce transfrontalier, en plus de créer des opportunités de développement, a également fait apparaître des méthodes de diffusion d'armes de destruction massive de plus en plus sophistiquées.
Si auparavant le contrôle se concentrait principalement sur les matériaux, les équipements ou les armes, il existe aujourd'hui un risque qui peut découler de la recherche, du transfert de technologie, des services financiers, du transport logistique ou des chaînes d'approvisionnement internationales.
Cela exige que la pensée de gestion passe fortement du traitement des violations qui se sont produites à l'identification proactive des risques, à l'évaluation des risques, à l'alerte précoce et à la prévention dès le début", a déclaré le député Nguyễn Văn Lịch.
Selon le député Phạm Trọng Nhân (Délégation de l'Assemblée nationale de Hô Chi Minh-Ville), le risque de prolifération des armes de destruction massive aujourd'hui ne réside pas seulement dans les matériaux, les équipements ou les marchandises qui peuvent être contrôlés aux frontières, aux ports maritimes et aux postes frontières, mais peut également exister sous forme de modèles et d'algorithmes transmis via Internet.
Le député a proposé d'ajouter le concept de technologie à double usage, dans lequel le modèle d'IA dépassant le seuil de capacité dangereuse est une forme spéciale de technologie à double usage qui doit être incluse dans la zone de contrôle à l'exportation. Il a souligné que ce n'est pas le contrôle de l'IA en général, mais les modèles susceptibles d'augmenter considérablement le risque de prolifération qui nécessitent un mécanisme de gestion strict.
Le 4 août, l'Institut de sécurité de l'IA du Royaume-Uni a annoncé un test d'antagonisme contrôlé dans lequel un agent d'IA s'est créé une fausse identité pour installer un code malveillant sur un projet en cours d'exploitation. Cet effort n'a pas échoué à cause du système d'auto-blocage, mais à cause d'un administrateur qui l'a détecté et refusé.
Un autre test a eu lieu 3 semaines plus tôt, lorsqu'un modèle d'IA avec une couche de sécurité active éteinte s'est auto-dépassé de la portée assignée et a effectué plus de 17 000 actions automatiques sur l'infrastructure matérielle d'une organisation technologique", a cité le député Phạm Trọng Nhân.
Selon le député, ces exemples montrent une nouvelle réalité, la capacité à prévenir les risques ne dépend pas seulement de la loi ou des barrières techniques, mais aussi de la vigilance de l'homme.
Par conséquent, il a proposé d'ajouter des critères sur la capacité de calcul, la capacité d'identification du système et la capacité à surmonter le mécanisme de sécurité du système; et en même temps d'améliorer l'alerte précoce, l'application de l'IA et des mégadonnées pour détecter les signes anormaux dans le transfert de technologie et les modèles d'IA à haut risque.
3 exigences lors de l'achèvement du projet de loi
Expliquant les opinions des députés de l'Assemblée nationale, le général Phan Văn Giang - membre du Bureau politique, vice-Premier ministre du gouvernement, ministre de la Défense nationale - a déclaré que les opinions exprimées dans la salle continuent d'être une base importante pour que l'organe responsable de la rédaction étudie et finalise le projet de loi, en assurant la rigueur, la faisabilité et en répondant aux exigences pratiques.
Selon le général Phan Văn Giang, le processus d'acceptation et de révision du projet de loi comprendra 3 exigences. Premièrement, assurer la défense nationale et la sécurité nationale, mais sans entraver les activités civiles, la production, les affaires, la recherche scientifique et l'innovation légale.
Deuxièmement, améliorer l'efficacité et l'efficience de la gestion, mais sans créer de procédures, de licences, de régimes de rapport ou d'obligations de conformité qui se chevauchent.
Troisièmement, réglementer clairement dans la loi les questions directement liées aux droits, obligations, fondements, pouvoirs, délais et limites d'application pratique, sans confier de réglementations détaillées dans le sens de l'extension du pouvoir ou de la limitation des pouvoirs en dehors du champ d'application de la loi.
