Une nouvelle tendance sur les réseaux sociaux qui attire l'attention de nombreux utilisateurs est de télécharger des photos personnelles et de demander à un outil d'intelligence artificielle (IA) de créer des caricatures basées sur toutes les informations que l'IA connaît sur l'utilisateur.
Cependant, les experts mettent en garde contre cette tendance apparemment inoffensive qui pourrait involontairement fournir des données aux cybercriminels et augmenter le risque de fraude en ligne.
Sur des plateformes comme Instagram, LinkedIn ou X, de nombreux utilisateurs partagent des photos personnelles et demandent à l'IA de créer des illustrations de leur vie.
Le résultat est souvent des images animées montrant la personne au bureau, chez sa famille ou liées à sa profession. Ce contenu se répand rapidement en raison de sa créativité, de son humour et de sa facilité de partage.
Cependant, selon Adrian Hia - PDG de Kaspersky pour la région Asie-Pacifique (marque mondiale de logiciels de sécurité et antivirus de premier plan), les demandes de type "créer des caricatures de moi basées sur tout ce que vous savez de moi" ne sont pas simplement un filtre d'images.
Pour obtenir des résultats plus précis, les utilisateurs fournissent souvent de nombreuses informations personnelles telles que le nom, le titre de travail, l'entreprise, la ville de résidence, les habitudes quotidiennes ou même des détails sur la famille.
Le Dr Sanjay Katkar - co-directeur général de Quick Heal Technologies Limited (la principale société indienne de technologies de l'information) - a déclaré que beaucoup de gens ne réalisent pas que la caricature est en fait le résultat d'un processus de synthèse de données.
Une seule photo peut révéler le visage, l'âge estimé, l'ethnie ou le contexte du lieu de travail, du lieu de résidence.
En combinaison avec les informations personnelles fournies par l'utilisateur dans la commande, l'IA peut créer un "profil numérique" assez complet sur un individu en quelques secondes seulement.
Selon l'expert en cybersécurité Anurag Mathur (Inde), la combinaison d'images personnelles avec des informations contextuelles augmente le risque d'usurpation d'identité ou d'escroquerie.
Si les escrocs collectent des photos et des informations professionnelles, ils peuvent créer de faux comptes de réseaux sociaux ou créer de faux profils professionnels sur différentes plateformes. Les images peuvent également être utilisées pour créer de fausses vidéos ou de faux accents (deepfake).
Ne s'arrêtant pas là, si l'escroc connaît le titre professionnel et la position d'une personne dans l'organisation, il peut se faire passer pour une victime pour envoyer des e-mails ou des messages demandant des virements d'argent, fournir des données internes à des collègues ou à des subordonnés.
De même, s'il y a des informations sur la famille, les criminels peuvent créer de fausses situations d'urgence afin de manipuler les émotions et de demander une aide financière.
Les experts estiment que la plus grande valeur de ces données réside dans le fait qu'elles aident les cybercriminels à gagner du temps pour collecter des informations.
Habituellement, ils doivent rechercher des données provenant de nombreuses sources publiques telles que LinkedIn, Instagram ou des fuites de données. Mais avec les tendances de l'IA, les utilisateurs synthétisent et fournissent eux-mêmes toutes ces informations en une seule interaction.
De plus, lors de l'utilisation de plateformes d'IA, non seulement les photos finales sont partagées. Selon la politique du service, des données telles que les photos originales, le contenu de la commande, l'historique d'utilisation ou des informations techniques telles que l'adresse IP et l'appareil peuvent également être stockées. Cela signifie que le contenu peut durer plus longtemps que les utilisateurs ne le pensent.
Les experts recommandent aux utilisateurs de limiter la fourniture d'informations d'identification personnelle lors de l'utilisation d'outils d'IA.
Évitez de télécharger des photos contenant le logo de l'entreprise, des papiers, des plaques d'immatriculation ou des lieux facilement reconnaissables. Ne partagez pas d'informations sur les mineurs ou les détails familiaux.
Dans le même temps, vous devez lire attentivement la politique de sécurité de la plateforme avant de l'utiliser et envisager de désactiver la fonctionnalité d'historique de conversation si possible.
La tendance à créer des caricatures avec l'IA peut apporter des expériences intéressantes, mais les utilisateurs doivent comprendre clairement que chaque information partagée peut devenir un élément qui aide les cybercriminels à construire leur profil personnel.
