Le PDG d'OpenAI, Sam Altman, a reconnu qu'il avait été précipité en annonçant l'accord de coopération entre OpenAI et le ministère américain de la Défense, alors que l'entreprise était confrontée à une vague de protestations violentes de la part des utilisateurs et des observateurs.
Dans un article publié sur le réseau social X le 3 mars, M. Altman a déclaré qu'OpenAI modifiait l'accord avec le ministère américain de la Défense (DoD), en ajoutant des clauses précisant les limites de l'utilisation de la technologie de l'IA.
Le point le plus notable est l'interdiction explicite d'utiliser le système d'IA d'OpenAI pour surveiller les citoyens et les citoyens américains à l'intérieur du pays.
Selon le contenu supplémentaire, les modèles d'IA doivent être conformes au quatrième amendement de la Constitution américaine, à la loi sur la sécurité nationale de 1947 et à la loi FISA de 1978, et ne doivent pas être intentionnellement utilisés pour le suivi, la surveillance ou la collecte d'informations personnelles à partir de sources de données commerciales à des fins de surveillance nationale.
M. Altman a également souligné que les modèles OpenAI ne seront pas déployés pour les agences de renseignement telles que la National Security Agency (NSA) dans le cadre actuel. Tout service destiné à ces agences doit avoir une modification supplémentaire du contrat.
Ces mesures intervient après que l'opinion publique a explosé de controverse sur la possibilité que l'IA soit utilisée à des fins militaires, notamment la surveillance de masse ou le soutien aux armes autonomes.
Auparavant, le concurrent d'OpenAI, Anthropic, était également impliqué dans des tensions avec le Pentagone lorsque le PDG Dario Amodei a rejeté certaines demandes relatives aux données.
Selon les médias américains, le ministère de la Défense a proposé la possibilité d'analyser des données commerciales volumineuses telles que la localisation géographique et l'historique de navigation Web.
Les tensions se sont intensifiées lorsque le secrétaire à la Défense Pete Hegseth a annoncé la fin de sa coopération avec Anthropic, la qualifiant même de "risque de chaîne d'approvisionnement pour la sécurité nationale", un terme rarement appliqué aux entreprises américaines.
Dans ce contexte, le fait qu'OpenAI ait rapidement conclu un accord avec DoD a provoqué une vive réaction d'une partie des utilisateurs, avec l'apparition d'appels à "Annuler ChatGPT" sur les forums.
M. Altman a reconnu: "Nous ne devrions pas nous précipiter pour publier. La question est très complexe et doit être transmise plus clairement".
Cependant, le PDG d'OpenAI a affirmé qu'il était déterminé à protéger les libertés civiles et a souligné que la protection des droits du peuple américain était une priorité absolue.
Il a également réaffirmé son point de vue de longue date selon lequel l'IA ne devrait pas être utilisée pour prendre des décisions de combat.
Selon M. Altman, les systèmes actuels ne sont pas suffisamment fiables pour de telles situations, même s'ils peuvent aider à analyser de grandes quantités de rapports de renseignement.
OpenAI prévoit d'organiser une réunion de tout le personnel pour répondre aux questions concernant l'accord avec le ministère de la Défense. M. Altman a également déclaré que la société continuerait d'ajouter des mesures de protection technique et juridique afin d'équilibrer la coopération avec le gouvernement et la protection des droits individuels.
