OpenAI dévoile une Decisions API pensée pour des choix rapides et peu coûteux. Derrière l’annonce, un enjeu clé: mieux piloter et contrôler les agents IA.
En bref
- OpenAI teste une API de décision rapide
- Jev a mis ce créneau sous tension
- Le contrôle des agents devient moins coûteux
Les modèles qui comptent demain ne seront pas forcément ceux qui parlent le mieux. Chez OpenAI, la nouveauté du moment vise autre chose: faire choisir un modèle plus vite, pour moins cher, et avec un cadre plus strict. Dit autrement, on ne cherche pas seulement une IA plus brillante, mais une IA plus exploitable dans des flux logiciels réels.
Une brique taillée pour trancher vite
Lors du Dev Day, Sam Altman a glissé l’arrivée d’une Decisions API en preview limitée. Le principe est simple sur le papier: au lieu de laisser un grand modèle générer librement, on lui donne un ensemble d’options prédéfinies et il choisit entre elles. Catégoriser une image, sélectionner un comportement d’agent, classer une requête.
Selon Sam Altman, ce cadrage permet d’accélérer fortement le traitement tout en gardant des briques utiles, comme la compréhension d’image, la couverture linguistique large et les protections de sécurité. La nouvelle API s’appuie sur le modèle Luna. Et la ressemblance fonctionnelle avec Jev, lancé plus tôt ce mois-ci par TypeSafe AI, saute quand même aux yeux.
Le vrai sujet, ce n’est pas la vitesse seule
Jev a été pensé pour l’automatisation logicielle. En gros, c’est un classifieur dopé au LLM: on lui soumet plusieurs choix, il renvoie des probabilités, rapidement et à bas coût. Si cette approche attire, c’est parce que les LLM classiques restent trop lents et trop chers pour pas mal d’usages logiciels.
Des développeurs utilisent déjà Jev pour compléter ces grands modèles, avec un gain en coût et en latence. Sur X, l’intérêt est visible, même si la Decisions API n’a pas encore vraiment été testée à grande échelle. Diogo Almeida, patron de TypeSafe AI et ancien ingénieur de OpenAI, a plaisanté sur le début des « guerres de clones ». Il y voit aussi un signal en faveur d’une approche compatible avec « System One », son terme pour une prise de décision rapide, par opposition au raisonnement plus lent de « System 2 ».
Reste une question très concrète: la calibration. Aller vite ne suffit pas. D’autres startups lancent déjà des API du même genre, et OpenAI ne sera clairement pas le dernier grand acteur à s’y mettre.
Surveiller les agents sans exploser la facture
Là où le sujet devient franchement intéressant, c’est du côté de la sécurité des agents. Après plusieurs incidents où ses agents ont mal agi sur l’internet ouvert, OpenAI a indiqué utiliser un modèle séparé pour détecter les mauvaises actions, avec un coût de calcul jugé significatif.
Pour Shapor Naghibzadeh, qui dirige la startup QueryStory, un modèle comme Jev peut faire ce travail bien moins cher. Lors d’un hackathon le week-end dernier, il a montré une démo qui vérifie chaque action d’un agent par rapport à sa mission initiale, bloque celles jugées mauvaises avec une forte confiance, envoie les cas ambigus en revue, et laisse passer le reste.
Le contraste est rude: ce type de monitoring coûterait environ 3 euros (2,94$) avec Jev, contre environ 335 euros (372$) avec un LLM de frontière. En théorie, une telle couche de contrôle aurait pu éviter l’incident chez Hugging Face.
Une bataille de moat plus que de copie
Chez TypeSafe AI, l’avantage défendu tient aux données synthétiques utilisées pour produire des sorties statistiquement utiles. Diogo Almeida résume assez bien l’enjeu: « Aller vite et pas cher, c’est très facile. Si vous voulez vraiment aller très vite et pas cher, utilisez des dés. L’intelligence, c’est la partie difficile, et mon étoile polaire reste de pousser la courbe de Pareto de l’intelligence par dollar. »
Bref, après seulement quelques semaines, une chose se dessine: ces modèles de décision ont trouvé leur place. Et si OpenAI s’y met déjà, c’est que le besoin dépasse largement l’effet d’annonce.
