OpenAI teste un contrôle anti-abus sans conserver les données clients. Une réponse directe aux règles de rétention d’Anthropic.
En bref
- OpenAI teste un contrôle anti-abus sans stockage client
- Anthropic conserve certaines sessions pendant 30 jours
- La confidentialité devient un avantage commercial clé
La bataille entre OpenAI et Anthropic se joue aussi sur un terrain moins visible que les modèles eux-mêmes, la confidentialité. OpenAI vient de présenter, en préversion pour certains clients, Private Safety Processing, un système pensé pour repérer des usages abusifs sans conserver les données de l’entreprise.
Le contraste est net. Chez Anthropic, une politique annoncée en juillet prévoit de garder pendant 30 jours les sessions utilisateur liées à certains covered models, donc les modèles couverts, notamment les modèles de classe Mythos ainsi que les futurs modèles aux capacités comparables. Fable fait partie des exceptions à la logique de Zero Data Retention suivie par ailleurs de façon générale par l’entreprise. Pour des groupes qui manipulent des données sensibles, on voit tout de suite le point de friction.
La confidentialité devient un terrain de bataille
Avec cette annonce, OpenAI cherche clairement à se distinguer. L’idée n’est pas d’abandonner les garde-fous de sécurité, mais de les rendre compatibles avec une promesse forte, aucune conservation des données client.
C’est plus qu’un détail produit. Pour l’écosystème enterprise, c’est un argument commercial solide, parce que la surveillance des abus est utile, mais l’inspection ou l’hébergement des échanges l’est beaucoup moins.
OpenAI élargit le zéro rétention aux abus multi-sessions
Jusqu’ici, le ZDR chez OpenAI reposait sur des agents intégrés à l’API, capables de surveiller une session donnée sans intervention humaine et sans stockage côté fournisseur. Private Safety Processing étend ce cadre.
Cette fois, le système regarde plus loin, sur plusieurs conversations à la fois. En gros, il vise les usages malveillants qui se fragmentent pour passer sous les radars. Un acteur qui chercherait, par exemple, à construire un malware pour une attaque informatique peut étaler ses requêtes sur plusieurs sessions. Le nouvel outil analyse cette trajectoire d’ensemble, et pas seulement un échange isolé.
Pas de revue humaine par défaut, mais un signal d’alerte
Si le mécanisme détecte quelque chose, il n’envoie pas la conversation à des équipes humaines pour lecture. Il transmet un signal défini de manière étroite à OpenAI, signalant un type d’activité précis. Ensuite, l’entreprise décide s’il faut agir.
Et si une mesure s’impose, OpenAI dit qu’elle contacte le client pour obtenir du contexte ou traiter le problème avec lui. Le partage de données plus détaillées reste alors à la main du client. Chez Anthropic, la logique diffère, puisque des revues humaines peuvent avoir lieu via un circuit d’accès contrôlé, limité à un petit groupe d’examinateurs, avec journalisation infalsifiable.
Derrière la technique, un rapport de force très business
Cette séquence arrive dans un moment de concurrence assez tendu. Un rapport récent indiquait que la croissance de OpenAI au deuxième trimestre avait ralenti par rapport à celle d’Anthropic. De son côté, Anthropic afficherait désormais un run rate annualisé d’environ 60 milliards d’euros (65 milliards de dollars) et certains de ses investisseurs évoquent une IPO pouvant atteindre environ 1 840 milliards d’euros (2 000 milliards de dollars).
Bref, la promesse de sécurité ne suffit plus. Dans l’IA d’entreprise, il faut aussi prouver qu’on peut surveiller les abus sans toucher aux données. Et ça, pour OpenAI, c’est autant une réponse technique qu’un message envoyé au marché.
