Les modèles de décision prennent déjà une place massive dans l’IA en production. La vraie bataille se déplace maintenant vers la personnalisation.
En bref
- Les modèles de décision explosent
- La différenciation passe par la donnée
- Microsoft et Sqwish accélèrent
Le plus intéressant, ici, n’est peut-être pas l’apparition des modèles de décision. C’est leur glissement éclair vers une logique de commodité, puis, presque dans le même mouvement, vers une bataille de personnalisation. Dans l’IA en production, vous pouvez copier l’idée vite. Ce qui compte après, c’est ce que le modèle apprend chez le client.
Un marché qui va vite, vraiment vite
En octobre, plus d’une requête sur quatre sur le routeur de modèles IA de Vercel visait déjà des modèles de décision, et non des LLM classiques. C’est énorme pour une catégorie née un mois plus tôt.
Ces modèles reprennent la base d’un LLM, mais sans produire de tokens en sortie. Leur rôle est plus sec, plus industriel aussi, choisir entre des options prédéfinies, vite, à bas coût, avec un niveau de confiance associé. En production, quand il faut arbitrer en quelques millisecondes, c’est souvent plus utile qu’un modèle frontière plus lent et plus cher.
Et la barrière d’entrée n’a rien d’insurmontable. Après Jev, des dizaines de modèles sont arrivés. Un ingénieur d’Amazon en a même bricolé un sur un week-end, puis chaque hyperscaler a voulu sa version. Mardi, Satya Nadella a annoncé que Microsoft déployait immédiatement Microsoft-Decision-1.1 à grande échelle sur Azure.
Pourquoi TypeSafe a pris de l’avance
Le succès de TypeSafe le montre bien. L’entreprise a atteint 7,5 milliards de dollars de valorisation, soit environ 7 milliards d’euros, après le lancement de la famille Jev, qui domine encore les usages visibles. La semaine dernière, OpenRouter a traité plus de 1,5 milliard de requêtes vers les modèles de TypeSafe.
Mais le sujet n’est pas seulement d’avoir un modèle. Diogo Almedia, le CEO de TypeSafe, explique que la partie la plus difficile a été de calibrer finement le jugement de Jev avec des données synthétiques ajustées statistiquement. Bref, la vitesse seule ne suffit pas. Il faut une calibration solide.
Sqwish parie sur la personnalisation continue
De l’autre côté de l’écosystème, Sqwish, startup britannique, vient d’annoncer un pré-amorçage de 3 millions de dollars, soit environ 3 millions d’euros. Ses cofondateurs, Ushnish Sengupta et Federica Freddi, travaillaient sur de petits LLM quand Jev a débarqué. Ils ont alors recyclé leur architecture en modèle de décision.
Leur modèle, kettei fat, s’appuie lui aussi sur des données synthétiques. La différence, selon eux, tient aux outils de post-entraînement intégrés, qui permettent d’utiliser les données propres du client pour améliorer le jugement du modèle. Ushnish Sengupta résume l’idée ainsi, « Ce qui fait que nous ne sommes pas une commodité, c’est que nous offrons à nos clients la même puissance. Ils peuvent continuer à téléverser leurs données de production, et leurs modèles peuvent eux aussi continuer à s’améliorer sur les tâches qui comptent pour eux. »
Les benchmarks comptent moins que l’usage réel
Classer ces modèles reste compliqué. kettei fat s’en sort bien sur certains benchmarks, mais, dans la pratique, les équipes peuvent facilement remplacer un modèle par un autre et voir ce qu’il donne dans leur contexte. C’est là que ça se joue.
Ushnish Sengupta le dit sans détour, « Le benchmark est surtout une invitation à essayer le modèle, puis l’ajustement continu est la raison pour laquelle ils restent chez nous. » Même lecture chez Microsoft. Achint Srivastava, VP engineering du projet, estime que les modèles optimisés pour les benchmarks décrochent vite en usage réel. Son équipe a travaillé l’équilibre entre coût, latence, intelligence et calibration, et il place Microsoft-Decision-1.1 avec Jev parmi les rares modèles solides sur ces quatre axes.
Et derrière cette bataille, il y a déjà le coup d’après. Federica Freddi voit arriver des systèmes mêlant intelligence de type System One, comme les modèles de décision, et System Two, comme les LLM frontière. Pour une startup spécialisée, ce n’est pas un petit marché annexe. C’est le marché.