La maltraitance de l'IA réduit la faisabilité de la loi
Dans l'après-midi du 27 novembre l'Assemblée nationale a discuté du projet de loi sur l'intelligence artificielle.
Le député Phạm Trọng Nghĩa (délégation de Lạng Sơn) estime que parallèlement aux opportunités la dépendance excessive à l'égard de l'intelligence artificielle (IA) réduit la capacité de réflexion et la créativité.
Selon le délégué des opinions scientifiques craignent que si le contrôle n'est pas bien fait cela ne conduise au risque que 'l'homme se transforme en machine avant que la machine ne se transforme en humain'.
Pour le secteur public l'abus d'IA réduit la faisabilité la humanité et l'efficacité des politiques et des lois. La fourniture d'informations et de données sensibles à l'IA si elle n'est pas strictement contrôlée peut entraîner des fuites de données portant atteinte à la sécurité nationale et à l'ordre et à la sécurité sociale avec des conséquences imprévisibles.
L'IA n'est pas neutre. L'IA est l'outil de la personne qui l'a créé. Il y a des choses que les utilisateurs ne savent pas mais que les développeurs ou les propriétaires de la technologie le savent' a souligné le député.
Le député a souligné que l'abus d'IA pourrait rendre la politique publique « corrompue » au service des objectifs des développeurs et des propriétaires de la technologie.
Par conséquent il est proposé d'ajouter un article au projet de loi qui stipule que les actes sont strictement interdits y compris l'interdiction de l'abus d'IA dans le secteur public.
Il est demandé au gouvernement de promulguer rapidement des réglementations sur la responsabilité lors de l'utilisation de l'IA dans les affaires publiques et de promulguer un cadre éthique en matière d'IA ; d'élaborer des mécanismes exceptionnels pour développer l'IA vietnamienne.
Concevoir des « anneaux d’or » juridiques et techniques pour l’IA
Le député Trần Văn Lâm (délégation de Bắc Ninh) estime que la chose la plus inquiétante n'est pas ce que l'IA fait selon les ordres de l'homme mais ce que l'IA peut faire lorsqu'elle est hors du contrôle de l'homme.
Selon le député les histoires de science-fiction sur l'IA qui domine les humains ne sont pas destinées à nous intimider mais à nous rappeler que tous les progrès artificiels peuvent trahir les objectifs initiaux s'ils ne sont pas conçus sur la base d'une base de valeurs morales appropriées dès le départ.
Ces risques montrent l'urgence d'établir un cadre juridique suffisamment solide pour que l'IA se développe dans la bonne direction et en toute sécurité pour la société.
Cependant pour que la loi soit réellement complète et ait une vision à long terme le député a proposé un ajout clé : 'Considérez l'IA comme un nouveau-né humain'.
Le député a demandé à l'Assemblée nationale d'ajouter le principe juridique de cette loi : Tous les logiciels d'IA opérant au Vietnam qu'ils soient développés par des organisations nationales ou étrangères doivent être équipés d'une 'base de données de plateforme de personnes standard'.
Cette base de données doit contenir toutes les informations nécessaires pour enseigner à l'IA la compréhension du droit vietnamien ; enseigner à l'IA les normes morales culturelles et traditionnelles de la nation ; enseigner à l'IA la capacité d'identifier correctement - incorrectement - conforme aux normes.
Les limites de comportement ne doivent pas dépasser les règles d'identification des risques pour les humains et surtout veiller à ce que cette base de données doive toujours occuper une position de priorité absolue dans la domination du comportement de l'IA ; ne pas être enregistrée remplacée ou désactivée par d'autres algorithmes ou données de formation.
Le député a estimé qu'il s'agissait d'un 'cœur' juridique et technique garantissant que l'IA ne va pas à contre-courant.
