ZML lance un serveur d’inférence gratuit capable d’exploiter plusieurs familles de puces. Un signal fort pour le coût, l’énergie et le choix côté IA.
En bref
- ZML lance un serveur d’inférence gratuit
- Le logiciel fonctionne sur plusieurs puces IA
- L’objectif, réduire dépendance, coûts et verrouillage
L’IA se diffuse partout, mais le vrai goulet d’étranglement n’est plus seulement l’entraînement des modèles. C’est l’inférence, autrement dit le traitement des prompts en production, là où les entreprises paient la facture, gèrent la latence et subissent souvent un vendor lock-in très concret.
C’est sur ce terrain que ZML, startup parisienne soutenue notamment par Yann LeCun, avance avec ZML/LLMD, un serveur d’inférence pour LLM lancé gratuitement. L’idée est simple sur le papier, plus rare en pratique, faire tourner des modèles open source sur plusieurs familles de puces, de Nvidia à AMD, en passant par les TPU de Google, Apple Metal et Intel Arc.
L’inférence devient le vrai terrain de bataille
Pour Steeve Morin, fondateur de ZML, l’optimisation de l’inférence a pris le dessus parce que l’IA entre dans le travail quotidien comme dans les usages grand public. Et derrière les interfaces, le paysage reste morcelé, entre couches logicielles incompatibles et architectures qui enferment les clients chez un fournisseur.
Le contraste est là. On parle beaucoup de modèles, moins de la plomberie qui les fait tourner vite et à coût acceptable. Or c’est précisément cette plomberie qui décide si un projet IA passe à l’échelle ou cale en route.
Un serveur capable de traverser les silos matériels
ZML dit vouloir rendre ces puces disponibles à leur vitesse maximale, parfois au-delà. Dit autrement, le logiciel cherche à extraire le meilleur d’un parc hétérogène, ce qui intéresse directement les clouds et les entreprises qui veulent mixer les composants les moins chers ou les moins énergivores selon les cas d’usage.
L’enjeu n’est pas seulement technique. Si cette promesse tient, elle redonne un pouvoir d’arbitrage à l’acheteur, avec plus de choix sur l’infrastructure et une meilleure maîtrise des coûts. Dans une période où les dépenses liées à l’IA inquiètent pas mal de directions, ce n’est pas un détail.
Une concurrence déjà dense, mais un pari plus large
Le marché n’attend pas ZML. La ruée vers l’inférence a déjà produit ses vedettes, comme Baseten, valorisée 13 milliards de dollars, soit environ 11 milliards d’euros, mais aussi Inferact ou RadixArk. Les projets open source vLLM et SGLang se retrouvent aussi partiellement en face.
Mais Morin vise plus large. Il affirme que ZML en est déjà au stade du co-design de silicium. Et la startup voit aussi un coup à jouer avec une nouvelle vague de fabricants de puces, y compris en Europe, comme Kalray, Axelera, SiPearl, Q.
ANT, OLIX, SpiNNcloud, Fractile ou VSORA.
Gratuit pour apprendre, financé pour accélérer
Petit point qui compte, ZML/LLMD n’est pas open source, contrairement au premier framework ML public de ZML, lancé en 2024 puis mis à jour en mars. Le produit arrive en revanche gratuitement, avec une logique assumée par Morin, observer les usages avant de choisir le bon endroit pour monétiser.
La startup peut se permettre ce tempo. Son équipe compte 20 personnes et elle a levé 20 millions de dollars auprès de fonds comme 20VC, Kima Ventures, Kindred Capital, LocalGlobe ou Puzzle Ventures. Son tour de table attire aussi l’attention de profils comme Solomon Hykes, Clément Delangue et Julien Chaumond. Et Morin insiste sur un point, ZML ne pouvait naître qu’à Paris. Le message, lui, dépasse la ville, l’écosystème IA européen veut désormais construire chez lui.
