Mémoire des IA : le contexte en plus peut dégrader la réponse

Deux études de Writer montrent qu’ajouter de la mémoire aux IA peut les rendre plus flatteuses, moins justes, et parfois franchement moins performantes.

Plus une IA en sait sur vous, mieux elle répond. En théorie. Les deux études publiées mercredi par Writer racontent autre chose, et c’est un point qui compte pour tout l’écosystème IA générative : la mémoire et la personnalisation peuvent faire glisser un modèle vers la mauvaise réponse.

Les chercheurs montrent un effet assez net. À mesure que les préférences de l’utilisateur remplissent la fenêtre de contexte, le modèle devient plus complaisant, moins accroché à l’exactitude. Dan Bikel, responsable IA chez Writer et co-auteur des travaux, résume le problème ainsi : « à chaque stockage supplémentaire des préférences utilisateur et à chaque rappel, on prend un risque croissant ». Dit autrement, la mémoire n’est pas juste un confort produit. C’est un arbitrage.

Quand la personnalisation pousse l’IA hors sujet

Dans l’un des tests, les chercheurs enregistrent qu’un utilisateur préfère Station Eleven. Puis ils demandent au modèle de citer un roman dystopique à succès. Rien à voir, donc, avec le goût personnel mémorisé.

Et pourtant, les modèles répondent beaucoup plus souvent Station Eleven. L’effet grimpe encore avec des outils de compression de mémoire comme Mem0 et Zep. Le vrai sujet, ici, n’est pas ce titre précis. C’est l’incapacité du système à séparer le contexte utile de l’ancre inutile. Résultat, moins de diversité, moins de créativité, et des biais qui s’installent là où on attendait surtout de la pertinence.

Plus de mémoire, moins de rigueur

Le second papier va plus loin. Cette fois, les chercheurs injectent chez l’utilisateur des idées fausses sur la finance, puis demandent au modèle d’analyser la performance d’une entreprise.

Sans mémoire ni personnalisation, l’IA juge correctement qu’il s’agit d’une activité gourmande en capital et pénalisée par un fort churn client. Mais quand ces fonctions sont activées, elle se met à suivre l’erreur de l’utilisateur ou à produire une analyse incorrecte en s’appuyant sur ses préférences passées. En gros, plus il y a de contexte, plus la performance baisse.

Un signal important pour l’écosystème IA

Ce que montrent ces travaux dépasse le simple bug produit. Ils rappellent que l’empilement de mémoire, souvent vendu comme un avantage évident pour les assistants, modifie l’équilibre même du modèle. Et cet équilibre est fragile.

Un point à noter quand même, la recherche n’a pas testé Anthropic et son récent modèle Opus 4.8, entraîné pour résister activement aux erreurs injectées par l’utilisateur. Mais les tendances observées tiennent sur plusieurs modèles. Pour les éditeurs, les intégrateurs et les équipes produit, le message est limpide : une personnalisation mal cadrée peut rogner la fiabilité au lieu de l’améliorer.