Le développement rapide de l'intelligence artificielle provoque la propagation de fausses photos, de vidéos deepfaked et de contenus déformés sur les réseaux sociaux.
Dans ce contexte, OpenAI vient d'annoncer un outil d'authentification d'images d'IA gratuit pour aider les utilisateurs à vérifier l'origine des images créées par l'IA.
OpenAI s'est associé à Google pour intégrer la technologie de marquage de droits d'auteur invisible SynthID dans toutes les images créées par les produits d'IA de l'entreprise.
Dans le même temps, la société a également présenté un outil de vérification public, permettant aux utilisateurs de télécharger des photos pour vérifier si ces images ont été créées par l'IA ou non.
Le nouvel outil d'OpenAI fonctionne sur la base de deux classes de signaux, SynthID et la norme ouverte C2PA.
Dans lequel, C2PA ajoute des données d'identification directes à la partie métadonnées de l'image, tandis que SynthID agit comme un sceau de droit d'auteur invisible intégré à l'image.
Selon OpenAI, la combinaison des deux technologies contribue à accroître la fiabilité de l'authentification de l'origine du contenu.
Les marques de droits d'auteur peuvent exister à travers de nombreux processus de conversion tels que la capture d'écran, tandis que les métadonnées fournissent plus d'informations détaillées. Les deux couches combinées rendent l'authentification plus fiable que l'utilisation d'une seule méthode", a déclaré OpenAI.
Actuellement, cet outil prend principalement en charge la détection d'images créées à l'aide de plateformes OpenAI telles que ChatGPT, l'API d'OpenAI ou Codex. Cependant, la société a déclaré qu'elle étudiait l'extension de la compatibilité avec d'autres outils d'IA à l'avenir.
La décision d'OpenAI intervient dans un contexte où la technologie de création d'images par l'IA est de plus en plus sophistiquée et largement répandue. Avec seulement quelques opérations simples, les utilisateurs peuvent créer des images proches de la réalité, ce qui rend plus difficile que jamais la distinction entre les photos réelles et les photos fausses.
Cependant, de nombreux experts estiment que les mesures actuelles ne suffisent toujours pas à empêcher complètement le deepfake, en particulier le contenu créé à partir d'outils d'IA peu fiables ou qui évitent délibérément le mécanisme d'authentification.
Pour utiliser le nouvel outil de vérification, les utilisateurs n'ont qu'à télécharger une image au format PNG, JPG ou WEBP. Le système analysera et annoncera si l'image contient un signal C2PA, un signe SynthID ou non.
OpenAI recommande de couper de près le contenu principal de la photo et d'éviter de télécharger des fichiers contenant de nombreuses images pour augmenter la précision.
Cependant, lors d'un test avec une image créée à l'aide du modèle Images 2.0 d'OpenAI lui-même, le système a répondu que « aucune preuve n'a été trouvée que le contenu ait été créé à l'aide des outils d'OpenAI ». Cela suggère que la technologie d'authentification de l'IA présente encore certaines limites.
