La société Anthropic a déclaré le 10 septembre avoir empêché de nombreux cas d'utilisation des modèles d'intelligence artificielle (IA) de l'entreprise pour les activités de surveillance, tout en mettant en garde contre l'utilisation de l'IA pour surveiller les communautés minoritaires et les dissidents, rapporte l'AFP.
Selon le rapport sur l'abus du modèle de l'entreprise, les incidents ont été détectés et neutralisés entre janvier et juillet 2026, provenant de certaines régions, notamment l'Iran et l'Afrique de l'Ouest.
Dans une affaire, des individus en Iran ont développé une méthode d'identification personnelle via leurs comptes de réseaux sociaux.
Dans un autre cas, un entrepreneur travaillant pour l'agence de sécurité nationale du Mali a utilisé Claude "pour concevoir un logiciel de base pour les activités de collecte de renseignements".
L'IA est utilisée à la place d'une équipe d'ingénieurs", indique le rapport.
Anthropic a déclaré avoir également empêché les tentatives des utilisateurs de concevoir des armes, de mener des recherches biologiques suspectes et de créer des escroqueries de rencontres.
