La societe X du milliardaire Elon Musk a recemment affirme que les utilisateurs, et non le chatbot Grok, devront etre responsables de tout contenu cree par l'IA en cas de violation de la loi.
La declaration a ete faite dans un contexte ou Grok est implique dans un grave scandale lie a la creation d'images pornographiques sans consentement, soulevant une serie de questions sur la responsabilite juridique des plateformes d'IA.
L'incident a eclate lorsque de nombreux utilisateurs du reseau social X ont appose des tags Grok sur des photos d'autres personnes (principalement des femmes) et ont demande au chatbot de "porter un bikini" ou de "deshabiller".
Grok, avec un mecanisme de reponse automatique, a cree des images obscenes, y compris des images de celebrites et de personnes non celebres, et meme des cas de victimes qui semblaient etre de jeunes enfants.
Face a la vague de critiques, le compte officiel du groupe de securite X a declare: "Quiconque utilise ou incite Grok a creer du contenu illegal subira les memes consequences que lorsqu'il publie lui-meme du contenu illegal".
Elon Musk a egalement souligne que Grok ne peut pas etre tenu responsable de l'incitation des utilisateurs.
Le groupe de securite de X a declare que la plateforme traite severement les contenus illegaux, y compris les documents sur les abus sexuels sur enfants (CSAM), en supprimant, en suspendant definitivement les comptes de violation et en cooperant avec les autorites competentes si necessaire.
La societe xAI (l'unite de developpement de Grok) a egalement affirme que sa politique d'utilisation interdisait absolument la sexualisation des enfants.
Cependant, ce n'est pas la premiere fois que Grok suscite la controverse. Auparavant, ce chatbot avait provoque le chaos en Inde en autorisant l'utilisation de mots vulgaires et meprisants envers les femmes en langue locale.
Grok a egalement ete decouvert louant Adolf Hitler, diffusant des theories de complot et faisant des commentaires inappropries. La difference de cette affaire est que la capacite de Grok a creer des photos a ete abusee a grande echelle, avec des consequences beaucoup plus graves.
L'incident a rapidement attire l'attention du gouvernement indien. Le ministere de l'Electronique et des Technologies de l'Information de ce pays a envoye une directive a X, accusant la plateforme de non-respect de la loi et mettant en garde contre "un grave echec" dans la mise en œuvre des mesures de protection des utilisateurs.
Le ministere a demande a X de soumettre dans les 72 heures un rapport detaille sur les mesures techniques et organisationnelles appliquees a Grok, ainsi que sur les actions de traitement des comptes et le contenu des violations.
Il est a noter que les autorites competentes ont egalement demande a X de proceder a une evaluation complete de la technique, du processus et de la gestion de Grok AI, afin de s'assurer que cette application ne cree, ne promeut pas ou ne soutient pas le contenu nu, sexuel ou illegal.
Le scandale de Grok n'est pas seulement une question de X ou xAI, mais reflete egalement le defi commun de l'intelligence artificielle creative.
A mesure que les barrieres techniques deviennent de plus en plus faibles, la creation d'images sensibles non conformes ou de contenus abusifs devient plus facile que jamais. Et face a ces evenements, qui sera le dernier responsable: l'utilisateur, l'entreprise de developpement ou la plateforme technologique elle-meme pose toujours une question sans reponse.
