Anthropic ouvre ses modèles à Accenture pour des contrôles de sécurité embarqués. Un signal fort, alors que le rythme de l’IA devient un sujet politique.
En bref
- Anthropic choisit Accenture pour auditer ses modèles
- Chaque groupe investira environ 920 millions d’euros
- Le contrôle tiers embarqué devient un vrai sujet
Le signal est net. Anthropic commence à mettre en pratique l’idée, défendue par son patron Dario Amodei, d’un développement de l’IA plus lent et davantage surveillé.
Le premier geste concret du plan Amodei
Chez Anthropic, ce partenariat avec Accenture n’a rien d’un simple contrat de conseil. Il s’agit d’une des premières briques du plan présenté la semaine dernière par Dario Amodei, qui veut imposer un tempo moins brutal à l’IA dite de frontière. L’idée est claire, et elle est lourde de conséquences pour l’écosystème : les laboratoires les plus avancés devraient accepter un accès continu, presque interne, à des évaluateurs tiers chargés de vérifier que les engagements de sécurité sont bien suivis.
Pour les acteurs du mobile, du cloud et des plateformes, le sujet compte. Si ce schéma prend, il peut devenir une nouvelle couche de gouvernance autour des modèles, au même titre que les audits, la conformité ou la cybersécurité.
Des évaluateurs intégrés au cœur de la fabrique des modèles
Concrètement, les équipes de Accenture ne regarderont pas les modèles de loin. Elles seront intégrées dans l’organisation de Anthropic, avec un accès qui ressemble à celui d’un employé. Leur rôle : suivre la manière dont les modèles sont entraînés, observer les décisions qui encadrent leur construction puis leur déploiement, parler directement aux salariés, signaler les incidents et évaluer l’alignement de ces systèmes avec les pratiques de sécurité promises.
Dit autrement, on sort du contrôle sur dossier. Là, on entre dans l’atelier. Et ça change pas mal de choses, parce qu’un audit embarqué peut capter des arbitrages techniques qu’un contrôle classique ne voit jamais.
Un marché à inventer, avec 5 ans et 2 milliards de dollars sur la table
L’accord a aussi une dimension industrielle. Anthropic et Accenture prévoient d’investir chacun au moins environ 920 millions d’euros (1 milliard de dollars) sur cinq ans dans cet effort commun.
Anthropic justifie ce choix par l’expérience de Accenture auprès des entreprises et des administrations qui déploient de l’IA dans plusieurs secteurs. Le cabinet apporte aussi, selon la société, une lecture utile de l’usage réel de l’IA en entreprise, ce qui peut nourrir l’évaluation des propres modèles de Anthropic.
Mais le cadre n’est pas prêt. Anthropic reconnaît que le principe des évaluateurs intégrés est nouveau et qu’aucun standard n’est encore fixé sur le périmètre, le niveau d’accès ou la manière de remonter les alertes.
Accenture n’aura pas l’exclusivité
Et c’est un point important. Anthropic précise qu’il travaillera aussi avec d’autres entreprises pour l’évaluation de ses modèles de frontière, avec de nouvelles annonces attendues dans les prochaines semaines.
De son côté, Accenture ne se limitera pas à Anthropic et pourra intervenir auprès d’autres sociétés d’IA. En gros, on voit peut-être naître ici un nouveau segment du marché : celui du contrôle tiers embarqué, au plus près des labos qui fabriquent les modèles les plus sensibles.
