Une serie de cas de pseudonymes de medecins utilisant la technologie de l'intelligence artificielle (IA) emergent dans le monde entier transformant des experts medicaux reputes en'vendeurs en ligne' involontairement.
Il s'agit d'une nouvelle astuce des groupes d'escroquerie qui utilisent la technologie deepfake pour promouvoir des produits contrefaits semer des informations erronees et tirer profit des patients incredules.
Le cas du Dr Robert H. Lustig - un endocrinologue de renom et professeur honoraire a l'universite de Californie - en est un exemple typique.
Sur Facebook une video imitant sa voix et ses images pour promouvoir un produit de perte de poids appele 'ngoc trai long' s'est largement repandue.
Le Dr Lustig a affirme qu'il n'avait jamais entendu parler de ce produit et qu'il n'avait decouvert l'incident que lorsqu'un journaliste l'a contacte.
Non seulement Lustig mais de nombreux autres medecins sont egalement devenus victimes. Le Dr Gemma Newman (Royaume-Uni) a ete choquee de voir son image modifiee pour faire de la publicite pour des comprimes de vitamine B12 et de chou-fleur a forte dose qui sont des produits dangereux s'ils sont utilises de maniere inappropriee.
Meme la video contrefaite est si realiste que meme sa mere croit qu'elle est vraie. Aux Etats-Unis le Dr Eric Topol a decouvert des dizaines de versions d'IA du livre qu'il a ecrit qui sont mises en vente sur Amazon.
Pendant ce temps Christopher Gardner - un scientifique en nutrition a Stanford - a ete transforme en presentateur pour de nombreuses chaînes YouTube ou des conseils nutritionnels errones sont diffuses ciblant les personnes agees.
Selon les experts le developpement trop rapide des technologies de recreation vocale et d'imagerie par l'IA rend la production de contenus contrefaits plus facile que jamais.
Avec seulement quelques images ou enregistrements audio les escrocs peuvent creer une copie aussi credible que de tromper les proches de la victime.
Les consequences sont graves lorsque les gens perdent confiance dans de vrais medecins tandis que les patients sont facilement incites a utiliser des produits non verifies.
Certains produits profitent meme de la tendance au traitement par GLP-1 pour lancer de faux comprimes appeles Peaka bien que la seule forme approuvee actuellement soit la forme injectable. Ce produit etait deja vendu sur Amazon Walmart et apparaissait dans les resultats de recherche Google avant d'etre supprime.
Les organismes de reglementation tels que la FDA (Etats-Unis) et de nombreux groupes de defense ont mis en garde contre la fraude medicale en ligne mais jusqu'a present cette vague n'a pas pu etre freinee.
Meta - la societe mere de Facebook - a admis qu'elle ne connaissait que de nombreux faux comptes apres que la presse l'ait contacte. TikTok et YouTube ont egalement ete contraints d'annuler certaines chaînes lorsqu'ils ont constate des violations mais le nombre restant est tres important.
Selon les chercheurs en cybersecurite il ne s'agit pas seulement d'une petite fraude mais d'une campagne mondiale organisee visant de nombreux marches differents des Etats-Unis a l'Europe en passant par l'Asie-Pacifique.
L'usurpation d'identite ne se limite pas au medecin mais est egalement associee a un faux logo de l'organisme de gestion ce qui donne l'impression que le produit est legalement certifie.
Les medecins qui profitent de l'image craignent que si cette situation persiste de nombreux experts hesiteront a partager leurs connaissances medicales sur les reseaux sociaux - un lieu qui a naturellement besoin de voix fiables. Et alors les faux'medecins de l'IA' pourraient completement dominer et semer des conseils dangereux pour des millions de personnes.
