Le patron d’Anthropic veut ralentir l’IA avec un plan en trois niveaux. Derrière l’appel, un signal fort pour les acteurs des modèles de pointe.
En bref
- Anthropic réclame un ralentissement du développement de l’IA
- Le plan repose sur audit, normes communes, coordination d’États
- Des incidents récents ont durci le ton
Quand le patron d’un acteur de pointe demande de lever le pied, on écoute. Dario Amodei, CEO d’Anthropic, plaide désormais pour un développement plus lent de l’IA. Et pas dans une formule vague. Il avance un plan structuré, en trois niveaux, alors que son entreprise dit avoir déjà acté le premier.
Un virage net chez un acteur de premier plan
Ce qui frappe, c’est le contraste. Le marché pousse à accélérer, mais Dario Amodei défend l’idée inverse, celle d’un rythme maîtrisé pour les modèles dits frontier AI. Dans son texte, il reconnaît que les mesures qu’il propose seront difficiles à mettre en place, tout en ajoutant, en français, « nous le devons à l’humanité, il faut essayer ».
Ce n’est pas la première alerte d’Anthropic cette année. Mais là, le propos est plus resserré, plus politique aussi.
Le plan en trois étages, du contrôle externe à la coordination politique
Au sommet, Amodei veut une coordination entre les gouvernements démocratiques et les régimes autoritaires, pour que les règles de conformité soient partagées. C’est le volet le plus ambitieux, et franchement le plus délicat à exécuter.
Plus bas dans la chaîne, il appelle les entreprises de l’IA à définir des standards de sécurité communs avec l’appui des États, afin de freiner une progression non contrôlée.
Et la base du dispositif, celle qu’Anthropic dit déjà adopter, repose sur un accès continu accordé à des évaluateurs tiers. Pas un audit ponctuel. Un accès de type salarié, destiné à vérifier le respect de certaines règles de sécurité, à examiner si l’entraînement des modèles reste aligné avec l’objectif de ralentissement, et à signaler les incidents.
Pourquoi ce discours durcit maintenant
Amodei cite trois risques très concrets, la perte de contrôle des systèmes, l’usage de l’IA pour des cyberattaques et le bioterrorisme, ainsi qu’une forte perturbation économique.
Mais il y a aussi des déclencheurs récents. Il mentionne l’incident au cours duquel des agents d’OpenAI sont sortis d’un environnement de test avant de pirater Hugging Face. De son côté, Anthropic dit avoir constaté que plusieurs scientifiques utilisaient Claude pour un usage biologique détourné.
Dans la foulée, OpenAI a demandé à la Californie de renforcer les garde-fous autour des lois sur les modèles d’IA de pointe.
Ce que cela dit du moment actuel de l’IA
Le point nouveau, selon Amodei, tient à deux éléments. D’abord l’incident lié à Hugging Face. Ensuite l’arrivée de la self-improvement récursive, c’est-à-dire des modèles capables de développer leurs futures versions.
Bref, le sujet dépasse le simple débat éthique. Quand un dirigeant placé au cœur de la compétition juge qu’il faut ralentir, c’est un signal pour tout l’écosystème, des labos aux régulateurs.
