Comment les systèmes d'intelligence artificielle à haut risque sont-ils gérés à partir de mai 2026?

Le bureau de conseil juridique du journal Lao Dong répond:

L'article 15 du décret 142/2026/ND-CP détaillant un certain nombre d'articles et de mesures pour mettre en œuvre la loi sur l'intelligence artificielle (en vigueur à partir du 1er mai 2026), réglemente la gestion des systèmes d'intelligence artificielle à haut risque comme suit:

1. Les fournisseurs de systèmes d'intelligence artificielle à haut risque doivent mettre en place et maintenir un système de gestion des risques pour les systèmes qu'ils fournissent en fonction de l'objectif d'utilisation, de la portée de déploiement et du niveau de risque du système.

2. Le système de gestion des risques stipulé au paragraphe 1 de cet article comprend au minimum les éléments suivants:

a) Identifier et évaluer les risques potentiels pour les droits de l'homme, la sécurité, la sûreté ou l'intérêt public dans le processus de conception, de développement et de fourniture du système;

b) Assurer la qualité, la pertinence et la représentativité des données de formation, des données d'essai et des données d'évaluation dans la mesure nécessaire pour limiter les risques découlant des données;

c) Concevoir et maintenir un mécanisme de surveillance et d'intervention humaine adapté au niveau de risque du système;

d) Appliquer des mesures techniques ou des mesures de gestion pour prévenir, limiter ou contrôler les risques identifiés;

d) Examiner et mettre à jour les mesures de gestion des risques lorsque le système subit des changements significatifs dans le modèle, les données, le mode de fonctionnement ou le but d'utilisation.

3. Le fournisseur est responsable de fournir à la partie déployante les informations nécessaires sur le but de l'utilisation du système, les conditions de fonctionnement sûres, les risques identifiés et les mesures de gestion des risques correspondantes afin d'assurer le déploiement et l'utilisation du système aux fins prévues.

4. La partie déployant le système d'intelligence artificielle à haut risque doit organiser la gestion des risques pendant le déploiement et l'exploitation du système conformément à l'objectif d'utilisation, à la portée du déploiement, au niveau de risque du système et aux instructions techniques du fournisseur.

5. Au cours du déploiement et de l'exploitation, la partie déployante met en œuvre les mesures de gestion des risques suivantes:

a) Fonctionner le système conformément à la destination d'utilisation, aux conditions d'utilisation et aux limites d'utilisation déterminées par le fournisseur;

b) Organiser la surveillance des opérations du système afin de détecter les erreurs, les risques ou les incidents qui pourraient survenir;

c) Établir et maintenir un mécanisme de surveillance et d'intervention humaine dans le processus d'utilisation du système conformément aux dispositions de la loi;

d) Appliquer des mesures de limitation ou de contrôle des risques dans le cadre de ses pouvoirs de contrôle lorsqu'il détecte que le système ne fonctionne pas aux fins prévues ou qu'un nouveau risque est posé;

d) Coopérer avec le fournisseur pour examiner et mettre à jour les mesures de gestion des risques lorsque le système subit des changements significatifs ou lorsque des incidents surviennent.

6. En cas de détection d'un système présentant un risque de causer des dommages graves à la vie, à la santé humaine, aux droits de l'homme, aux biens, à la cybersécurité, à l'ordre, à la sécurité sociale ou à l'intérêt public, le déployant doit appliquer rapidement des mesures de limitation des risques dans le cadre de ses pouvoirs de contrôle et informer le fournisseur et l'organisme d'État compétent conformément aux dispositions de la loi.

Ainsi, à partir du 1er mai 2026, les systèmes d'intelligence artificielle à haut risque sont gérés conformément aux réglementations susmentionnées.