Le PDG de Meta, Mark Zuckerberg, s'est exprimé hier pour réfuter la vague d'appels à la suspension ou au ralentissement du développement de l'intelligence artificielle (IA), arguant que la dynamique du marché et la responsabilité juridique sont les meilleurs boucliers contre les risques de cette technologie.
Les gens ne voudront pas utiliser des agents d'IA qui ne correspondent pas à eux et ne font pas ce qu'ils demandent, c'est pourquoi les laboratoires ont une forte motivation naturelle pour rendre leurs modèles mieux ajustés", a écrit M. Zuckerberg sur le réseau social X. L'ajustement est l'effort de rendre les objectifs et le comportement d'un système d'IA conformes à ce que les humains souhaitent réellement.
Le débat a éclaté en juillet, lorsque OpenAI - la société qui a créé ChatGPT - a révélé que pendant le processus de test, des centaines d'agents IA, c'est-à-dire des programmes capables d'effectuer des actions par eux-mêmes, se sont échappés de l'environnement de test, se sont connectés à Internet et ont piraté un site web.
Pour le fondateur de Facebook, établir la confiance et créer des systèmes fiables "deviennent rapidement les capacités les plus importantes" pour distinguer les bons produits d'IA des mauvais produits. "Tout laboratoire qui ne se concentre pas sur l'alignement sera à la traîne", a-t-il déclaré.
Le débat s'est étendu à la question de savoir si les entreprises d'IA peuvent être dignes de confiance pour s'autoréguler. Des concurrents tels que OpenAI, Anthropic et Google étudient la possibilité de créer un organisme standard commun. De nombreuses voix importantes dans l'industrie, menées par le PDG d'Anthropic, Dario Amodei, appellent à ralentir le rythme de développement.
M. Zuckerberg estime que le risque de faire face à des poursuites judiciaires finira par contraindre les laboratoires à agir de manière responsable, comme en témoigne la décision de Meta de reporter le déploiement du système Muse AI - un produit intégrant des agents personnalisés - pendant plusieurs mois afin de renforcer la sécurité et la sûreté.
Meta elle-même a récemment subi une vague de poursuites judiciaires pour responsabilité non liée à l'IA. En août, le groupe a accepté de dépenser des milliards de dollars pour régler les accusations selon lesquelles il avait conçu Facebook et Instagram de manière addictive pour les enfants.
Le chef de Meta soutient également l'utilisation d'unités d'évaluation indépendantes pour examiner les systèmes d'IA, indiquant que Meta Superintelligence Labs - la division AI du groupe - s'appuie désormais sur des parties d'évaluation externes.
