Une nouvelle étude du Center for Electronic Privacy Information (EPIC) des États-Unis suggère que de nombreuses entreprises d'IA appliquent des tactiques de conception manipulatrices afin de rendre difficile pour les utilisateurs de refuser de partager des données personnelles.
Selon un rapport publié par cette unité, les principaux fournisseurs de modèles linguistiques (LLM) tels qu'OpenAI, Google et Meta sont accusés d'utiliser de nombreuses méthodes similaires à celles des courtiers de données traditionnels pour réduire la capacité de contrôle des données des utilisateurs.
EPIC a déclaré que de nombreuses entreprises ne définissaient pas clairement les formulaires de refus de partage de données sur leur page d'accueil ou dans leur politique de sécurité.
Certaines plateformes demandent également aux utilisateurs de remplir différents formulaires pour la même demande, ce qui rend le processus complexe et long.
L'étude suggère également qu'OpenAI ne fournit pas encore d'outils clairs pour que les utilisateurs refusent de vendre ou de transférer des données personnelles.
Au lieu de cela, cette plateforme permet principalement aux utilisateurs de demander la suppression des informations apparaissant dans les réponses de ChatGPT, au lieu de supprimer les données de la plateforme que l'entreprise stocke.
Selon EPIC, ce problème est particulièrement préoccupant car les entreprises d'IA participent actuellement à un vaste écosystème de données, où les informations personnelles peuvent être partagées entre différentes parties telles que les courtiers de données, les plateformes publicitaires et les entreprises technologiques.
L'organisation met en garde contre le fait que le manque de mécanismes de refus de transparence pourrait entraîner de nombreux risques de sécurité graves.
Le rapport cite un certain nombre d'incidents passés où des données commerciales ont été utilisées pour localiser, harceler ou cibler les femmes et d'autres groupes vulnérables.
Dans l'étude, EPIC a examiné les procédures de protection de la vie privée de 38 grandes entreprises de données. Les résultats ont montré que de nombreuses formes de "conception manipulatrice" étaient couramment utilisées.
Certaines entreprises sont soupçonnées d'avoir masqué des liens refusant de partager des données dans de petites lettres difficiles à trouver. D'autres exigent que les utilisateurs créent un compte ou paient des frais d'abonnement avant d'obtenir leur vie privée.
Les chercheurs ont également découvert que sur des plateformes telles que X, OpenAI ou Tinder, les utilisateurs doivent d'abord se connecter à leur compte pour pouvoir envoyer une demande de refus de partage de données.
En outre, TikTok et Amazon sont accusés de fournir des formulaires de confidentialité mais n'ont pas d'options claires pour refuser la vente de données personnelles.
Pour les applications de rencontres, l'étude indique que les utilisateurs de Bumble sont par défaut sélectionnés pour participer au partage de données via des options prédéfinies, ce qui peut induire les utilisateurs en erreur.
En réponse à l'étude, Amazon a déclaré que l'entreprise ne vend pas les informations personnelles des clients à des tiers, de sorte que les utilisateurs n'ont pas besoin par défaut d'effectuer l'opération de refus de partage de données.
Pendant ce temps, OpenAI affirme qu'elle ne partage que des données limitées avec des partenaires marketing pour la publicité et fournit de nombreuses façons aux utilisateurs de contrôler leur vie privée.
Cependant, EPIC estime que même si les formulaires sont améliorés, il est toujours difficile pour les utilisateurs de protéger leur vie privée s'ils doivent envoyer des demandes individuelles à chaque entreprise qui détient leurs données.
Selon cette organisation, une solution plus efficace consiste à limiter la collecte de données dès le départ et à élaborer des réglementations plus strictes pour empêcher les entreprises de stocker des informations personnelles inutiles.
