Dans un effort pour contrôler le contenu créé par l'intelligence artificielle (IA) et les comptes bot, Reddit (forum, plateforme de réseau social) se prépare à mettre en œuvre une série de nouvelles mesures de vérification des utilisateurs, appelées « vérification de l'humanité ».
Cette initiative reflète la pression croissante exercée par les plateformes de médias sociaux pour garantir l'authenticité des discussions en ligne.
Selon le PDG de Reddit, Steve Huffman, le nouveau système ne s'appliquera qu'aux comptes présentant des signes de comportement automatique ou suspect.
L'objectif est de s'assurer que les utilisateurs peuvent faire une distinction claire lorsqu'ils interagissent avec des personnes réelles, plutôt qu'avec des bots ou du contenu créé par l'IA.
Dans un contexte d'IA de plus en plus répandue, Reddit est toujours considéré comme l'un des rares forums ouverts où les utilisateurs échangent des opinions sur de nombreux sujets.
Cependant, l'augmentation des bots et du contenu automatisé réduit la qualité des discussions, un problème auquel de nombreuses grandes plateformes sont également confrontées.
Pour résoudre le problème, Reddit prévoit de coopérer avec des tiers pour vérifier l'identité sans collecter directement d'informations personnelles telles que le vrai nom ou l'historique opérationnel.
Les options envisagées comprennent l'authentification par mots de passe avancés, la technologie biométrique, et même les systèmes d'identification fournis par le gouvernement par l'intermédiaire d'intermédiaires.
L'une des solutions qui a attiré l'attention est la technologie de balayage de l'iris du système World ID, développée par le PDG d'OpenAI, Sam Altman.
Cette technologie permet de vérifier l'identité des utilisateurs par le biais de caractéristiques biométriques, mais suscite également des inquiétudes quant à la vie privée.
Cependant, Reddit affirme que les mesures de vérification ne seront appliquées que dans des cas rares.
Si le compte ne peut pas prouver qu'il est géré par une personne, la plateforme peut appliquer certaines restrictions. Dans le même temps, les bots valides sont toujours autorisés à fonctionner, mais devront étiqueter clairement "application".
Notamment, Huffman reconnaît que des méthodes telles que la vérification de l'identité par des papiers personnels sont "les moins sûres, les moins sécurisées et les moins populaires".
Par conséquent, l'entreprise s'oriente vers des solutions à long terme décentralisées, garantissant la confidentialité et ne demandant pas la fourniture de papiers d'identité.
Actuellement, Reddit n'a toujours pas pris de mesures énergiques contre les utilisateurs qui utilisent des chatbots d'IA pour publier des articles ou commenter.
Cependant, la mise en œuvre de "tests d'humanité" montre que cette plateforme renforce progressivement le contrôle du contenu, dans un contexte où la frontière entre l'homme et l'IA devient de plus en plus floue dans le cyberespace.
