OpenAI prépare un filigrane invisible pour les textes et le code générés dans l’UE. Une réponse au AI Act, avec des limites déjà reconnues.
En bref
- OpenAI ajoutera un marquage invisible dans l’UE
- Le système vise les textes et le code
- La détection reste imparfaite en pratique
L’AI Act européen commence à produire des effets très concrets. OpenAI va bientôt ajouter un filigrane invisible aux textes et au code générés dans l’Union européenne, pour répondre aux règles de transparence imposées aux fournisseurs d’IA générative.
L’Europe oblige les modèles à laisser une trace
Ce point vient de l’article 50 du règlement européen. Le principe est simple sur le papier, les sorties textuelles d’un système génératif doivent pouvoir être identifiées d’une manière lisible par machine. Autrement dit, il faut qu’un outil puisse repérer qu’un texte a été produit par une IA.
Pour les nouveaux entrants, l’obligation s’applique déjà. Les acteurs installés avant l’entrée en vigueur disposent, eux, d’un délai jusqu’au 2 décembre. OpenAI est concerné, comme Anthropic, mais aussi Microsoft, Google ou Meta. Ce n’est pas un détail réglementaire, c’est une contrainte produit.
TextGrain, un signal statistique glissé dans les mots
Le système retenu par OpenAI s’appelle textGrain. L’entreprise explique qu’il ajoute « un signal statistique invisible dans les choix de mots du modèle ». Ensuite, un détecteur peut rechercher ce signal et vérifier la présence du marquage.
Le déploiement ne sera pas universel. Le filigrane ne sera pas activé par défaut, sauf pour les sorties textuelles éligibles de ChatGPT et Codex dans l’Union européenne. Des clients pourront aussi l’activer volontairement sur certains modèles, sans précision, pour l’instant, sur les modèles concernés à plus grande échelle hors UE.
OpenAI prévoit aussi de publier la technologie en open source, afin que d’autres puissent l’ajuster. Un choix assez cohérent, quand on voit à quel point ces mécanismes doivent être testés en conditions réelles.
Des performances correctes sur le papier, moins nettes en usage réel
OpenAI assure que son approche a « égalé ou dépassé » d’autres méthodes, notamment SynthID appliqué au texte. Mais la société ajoute aussitôt que de bonnes performances dans des conditions idéales ne garantissent pas une détection fiable au quotidien. Clairement, c’est là que le sujet devient intéressant.
Les textes courts sont plus difficiles à identifier, avec un taux de réussite d’environ 80 %. Même problème pour certains contenus, notamment les mathématiques. Et dès qu’un texte est modifié, la détection perd en efficacité. Le contraste est net entre l’obligation réglementaire, très carrée, et la réalité technique, beaucoup moins stable.
Un détecteur distribué avec prudence
Sur le détecteur lui-même, OpenAI avance plus prudemment. L’accès sera d’abord réservé à des chercheurs approuvés et à des organisations expertes. Pas mal de contrôle, donc, sur la partie la plus sensible du dispositif.
Un autre point compte pour l’écosystème. Le détecteur, selon l’entreprise, ne permet pas d’identifier l’utilisateur et ne révèle ni les prompts ni les conversations. Plus tôt cette année, Anthropic avait déjà engagé un mouvement comparable. Cette fois, la pression réglementaire européenne pousse tout le secteur à formaliser ce qui relevait encore, jusque-là, d’expérimentations.
