La start-up d'intelligence artificielle xAI d'Elon Musk est confrontee a une forte vague de critiques apres que le chatbot Grok a ete decouvert capable de creer et de publier des images sensibles sur la plateforme de reseau social X.
Face a la pression de l'opinion publique et a l'implication des agences de gestion, xAI a rapidement impose une serie de nouvelles restrictions a la fonction de creation et de modification d'images de Grok.
En consequence, Grok a permis aux utilisateurs de demander a modifier les photos de quiconque apparaît sur X, notamment en supprimant les vetements ou en plaçant les personnages dans des poses suggestives, souvent sans le consentement de la personne sur la photo.
Il est a noter que ces images creees par l'IA sont egalement automatiquement publiees par Grok dans la section des commentaires, ce qui augmente rapidement le niveau de diffusion et les impacts negatifs.
Vendredi, Grok a annonce que les fonctionnalites de creation et de retouche d'images ne sont actuellement disponibles que pour les utilisateurs payants sur X.
Cette initiative est consideree comme un effort pour empecher les bots de repondre automatiquement avec des images sensibles sous les publications publiques.
Les experiences montrent que lorsqu'un journaliste de Reuters a demande a Grok de convertir sa photo en bikini, le bot a refuse et a affiche une notification concernant les limites pour les comptes payants.
Cependant, les nouvelles restrictions ne mettent pas completement fin a la controverse. Les utilisateurs peuvent toujours creer des images sexuelles via l'onglet Grok, ou ils interagissent directement avec le chatbot, puis les publient eux-memes sur X.
Meme l'application Grok, independante et distincte de cette plateforme de reseau social, permet toujours de creer des images sans inscription ni frais.
Auparavant, Elon Musk avait declare que toute personne utilisant Grok pour creer du contenu illegal subirait les memes consequences que le telechargement direct de ces contenus.
Cependant, la Commission europeenne estime que la limitation des fonctionnalites sous forme de frais ne resout pas la racine du probleme. L'agence souligne que les images de femmes et d'enfants nus partagees en ligne sont illegales, quel que soit le createur ou l'utilisateur du compte gratuit ou payant.
La pression ne vient pas seulement de l'UE. De nombreux gouvernements et autres organismes de reglementation ont condamne, voire ouvert des enquetes sur le contenu pornographique cree par Grok, demandant a X et xAI de prouver les mesures de prevention et de suppression du contenu illegal.
En Allemagne, le ministre des Communications Wolfram Weimer a decrit la vague d'images semi-nues diffusees grace a l'IA comme "l'industrialisation du harcelement sexuel".
L'affaire souleve une grande question sur la responsabilite des plateformes technologiques a l'ere de l'IA creative, a savoir si les mesures techniques et commerciales sont suffisantes pour controler les risques, ou si un cadre juridique plus strict est necessaire pour proteger la vie privee et la dignite humaine dans l'espace numerique.
