L’IA d’Apple passe à la vitesse lumière

Grâce à la prédiction simultanée de plusieurs tokens, Apple promet des performances décuplées pour ses IA, ouvrant la voie à des assistants plus rapides et intelligents sur tous ses appareils.

Une avancée attendue dans le domaine des grands modèles de langage

Chez Apple, les ambitions en matière d’intelligence artificielle prennent une nouvelle dimension avec la publication, en juillet 2025, d’une étude qui pourrait bien bouleverser les standards actuels. Dévoilée sur arXiv sous le titre « Your LLM Knows the Future: Uncovering Its Multi-Token Prediction Potential », cette recherche met en lumière un procédé innovant, susceptible d’accélérer considérablement le fonctionnement des grands modèles de langage (LLM). Au cœur de ce bouleversement : la capacité à anticiper plusieurs mots à la fois, là où les approches classiques se contentent d’un traitement séquentiel.

Le pari audacieux de la prédiction simultanée

Concrètement, l’innovation s’appuie sur ce que les chercheurs désignent comme un cadre de « prédiction multi-jetons ». Grâce à l’insertion de tokens masqués dans les requêtes—de simples espaces réservés destinés aux futurs mots, le modèle n’est plus contraint d’avancer mot après mot. Une phrase telle que « Le chat est <MASK1> <MASK2> » peut ainsi être complétée d’un seul élan, par exemple avec « très moelleux ». Cette approche spéculative se double toutefois d’une vérification systématique : dès qu’une prédiction ne concorde pas avec la méthode classique, le modèle repasse aussitôt en mode séquentiel, évitant toute perte de qualité.

Résultats probants et détails techniques

Les gains mesurés lors des essais menés sur le modèle open source Tulu3-8B parlent d’eux-mêmes :

• Accélération moyenne multipliée par trois sur des tâches classiques comme les questions-réponses ou la conversation.
• Pics jusqu’à cinq fois plus rapides pour des activités spécialisées telles que le codage ou la résolution mathématique.

Tout ceci a été rendu possible grâce à l’intégration de l’adaptation LoRA fermée, une méthode préservant l’essence du modèle tout en permettant ces prédictions conjointes. Les ingénieurs rappellent que cet exploit technique s’est accompagné, chose rare, « d’aucune dégradation de la qualité de génération ».

Derrière ces chiffres impressionnants se cache aussi une exploitation inédite du potentiel latent des modèles : via une formulation d’entrée masquée et divers raffinements (modules LoRA à portes, échantillonnage léger…), le système apprend à anticiper jusqu’à huit tokens supplémentaires simultanément.

L’enjeu stratégique pour Apple et l’industrie

Cette initiative arrive dans un contexte où Apple, sous pression pour asseoir son leadership face aux géants du secteur, doit convaincre sur sa capacité à intégrer rapidement des innovations majeures dans ses produits. La prédiction multi-jetons s’inscrit directement dans sa stratégie visant à concilier puissance et confidentialité — via notamment le traitement local et le Private Cloud Compute. À terme, ce progrès pourrait enrichir nettement les fonctionnalités d’Apple Intelligence, sans exiger plus de ressources matérielles. Preuve supplémentaire, s’il en fallait encore une, de la volonté du groupe californien d’accélérer sur tous les fronts technologiques.