Le ministere indien des Technologies de l'Information dans un communique de presse a explique la raison de cette action en indiquant que la capacite d'utiliser incorrectement les outils d'IA crees 'pour nuire aux utilisateurs diffuser des informations erronees manipuler les elections ou se faire passer pour des individus' a considerablement augmente.
Pour limiter cela l'Inde a propose un projet de reglementation exigeant l'etiquetage obligatoire du contenu d'intelligence artificielle ou du contenu cree par l'IA sur les plateformes de reseaux sociaux telles que YouTube et Instagram. Les plateformes de reseaux sociaux devront demander aux utilisateurs de declarer si le contenu telecharge est une 'informations generales' ou non.
Des entreprises comme Meta et Google ont mis en place un certain nombre de formes d'etiquette AI sur leurs plateformes et lorsqu'elles telechargent du contenu elles demandent au createur si ce contenu est cree avec de l'IA ou non.
YouTube ajoute une etiquette intitulee 'Contenu modifie ou synthetise' aux videos creees avec l'IA tout en ajoutant une description de la façon de creer la video et peut fournir des informations detaillees sur l'origine du contenu ainsi que sur la signification du contenu modifie par l'IA.
Cependant la plupart de ces mesures sont encore de nature reactionnelle a l'heure actuelle ce qui signifie que les etiquettes apparaissent generalement apres que la video a ete mise sur la plateforme afin que les createurs n'annoncent pas que le contenu est cree avec l'IA.
Les modifications proposees par l'Inde avancent cette question d'un pas supplementaire car les entreprises devront verifier le contenu de l'IA sur leur plateforme sans avoir necessairement a les informer en deployant des mesures technologiques appropriees.
En cas de non-respect les plateformes de reseaux sociaux doivent subir des sanctions conformement a la reglementation.
Avec plus de 900 millions d'utilisateurs d'Internet et de nombreuses communautes ethniques et religieuses il est comprehensible que le gouvernement indien soit fermement oppose aux reglementations sur l'IA et le deepfake.
