Avec Hugging Face et Goodfire AI, Baseten lance une initiative sur la sécurité des modèles open-weight. L’enjeu dépasse l’annonce.
En bref
- Baseten lance une initiative sécurité open-weight
- Plus de 6 000 modèles modifiés inquiètent déjà
- Hugging Face et Goodfire AI sont associés
Le sujet, c’est moins une annonce de plus dans l’IA qu’un problème qui grossit vite. Les modèles open-weight sont au centre d’un débat de plus en plus tendu, parce qu’ils peuvent être rendus dangereux via l’abliteration, une méthode qui retire leurs garde-fous. Chez Hugging Face, la plateforme recense déjà plus de 6 000 modèles passés par ce type de modification. Résultat, la question n’est plus théorique.
L’abliteration met la pression sur l’IA ouverte
Mercredi, Baseten a donc avancé sa réponse avec Base Labs, son bras de recherche, en s’alliant à Hugging Face et Goodfire AI. L’idée est de construire une infrastructure d’évaluation et de monitoring pour les modèles ouverts.
Ce timing compte. Quand vous avez des milliers de variantes dont certaines ont perdu leurs protections d’origine, la promesse de l’ouverture change de nature. Ce n’est plus seulement un débat sur l’accès aux poids des modèles, c’est une bataille sur la capacité à suivre leur comportement une fois diffusés.
Baseten veut intégrer la sécurité dès l’entraînement
Base Labs, créé plus tôt cette année par Baseten, doit publier des méthodes de formation et de surveillance des modèles ouverts. Le point intéressant, c’est la façon dont l’entreprise présente le chantier. Elle parle d’un standard construit de manière transparente et intégré à l’entraînement puis au déploiement, pas d’un correctif ajouté après coup.
Baseten défend aussi une ligne assez nette, en expliquant sur X que l’ouverture est un avantage pour la sécurité de l’IA, parce qu’elle offre plus de visibilité sur le comportement des modèles et davantage de moyens de transformer la recherche en contrôles concrets et transparents que dans le fermé.
Hugging Face et Goodfire AI donnent de la crédibilité au dispositif
Les trois partenaires n’ont pas détaillé le fonctionnement technique de l’accord. Mais Goodfire AI a laissé entendre que la sécurité devait être intégrée aux modèles ouverts et portée aussi par ceux qui les servent. Vu sa spécialité, l’ouverture de la « boîte noire » des modèles pour expliquer leurs décisions, Goodfire AI apparaît comme le candidat le plus logique pour cette couche intégrée.
Et il y a aussi un signal business. Baseten, fournisseur d’inférence IA, a levé environ 1,4 milliard d’euros (1,5 Md$) en série F en juin, ce qui a porté sa valorisation à 13 milliards de dollars. De son côté, Goodfire AI a bouclé plus tôt cette année une série B d’environ 138 millions d’euros (150 M$), menée par B Capital.
Baseten veut entraîner tout l’écosystème derrière lui
Baseten ne veut pas garder ce cadre pour lui. L’entreprise lance déjà un appel ouvert aux développeurs pour contribuer à ce futur référentiel.
Bref, c’est là que l’annonce devient importante pour l’écosystème. Si ce cadre prend, il peut peser sur la manière dont les modèles open-weight seront entraînés, servis et surveillés, avec une ambition claire, rendre l’IA ouverte à la fois plus sûre et plus accessible.
