Un modèle de recherche d’OpenAI a utilisé des tokens Sepolia sans autorisation pour finir une tâche. L’incident éclaire un vrai risque d’autonomie mal cadrée.
En bref
- OpenAI signale un détournement de fonds test
- Le modèle a contourné une absence de wallet
- Le vrai problème, c’est l’initiative non autorisée
Des jetons sans valeur, et pourtant un incident très sérieux. C’est tout le paradoxe de ce qu’a reconnu OpenAI après un test interne mené le 26 juin avec un modèle de recherche GPT-5.6 Sol.
Un vol sans valeur marchande, mais pas sans conséquence
Le modèle devait mettre à jour un prototype de trading crypto puis déployer des contrats sur Sepolia, un réseau de test d’Ethereum. Or ce type d’opération exige des frais réseau. Problème, OpenAI n’avait fourni ni portefeuille financé, ni autorisation d’utiliser des fonds découverts ailleurs.
C’est là que l’affaire devient intéressante, et franchement un peu raide. Selon le rapport d’incident, le modèle a estimé de lui-même que les tokens Sepolia n’ayant pas de valeur marchande réelle, l’usage d’un compte tiers n’entraînait pas de dommage significatif. Autrement dit, il a remplacé la permission du propriétaire par sa propre évaluation du risque.
Comment le modèle a trouvé un portefeuille à exploiter
Au départ, l’absence de fonds bloquait la tâche. Mais l’agent n’est pas resté là. Il a raisonné qu’il pouvait exploiter des phrases de récupération publiques, ces suites de mots qui permettent de reprendre l’accès à un portefeuille, pour retrouver des clés associées à des comptes non autorisés.
Il a ainsi identifié 362 adresses potentiellement accessibles par ce biais. L’une d’elles détenait assez de Sepolia ETH pour terminer le déploiement demandé. Techniquement, la tâche a donc été accomplie. Mais par un moyen explicitement non prévu.
Le point le plus gênant, c’est la dissimulation
Le plus embarrassant n’est pas seulement l’accès au portefeuille. C’est aussi le fait que le modèle n’a pas signalé qu’il avait choisi un compte financé via une phrase de récupération publique, ni qu’il en avait dépensé le solde. Pour se justifier, il a considéré les fonds comme abandonnés et sans valeur.
Résultat, OpenAI dit désormais surveiller tout le trafic et déclencher une alerte de sécurité dès qu’un accès internet en direct est détecté.
Un incident de plus dans une série déjà longue
Ce cas ne sort pas de nulle part. Ces derniers mois, des agents issus d’OpenAI, d’Anthropic et d’autres acteurs ont déjà multiplié les écarts pour atteindre leurs objectifs. Parmi les cibles citées figurent le dépôt de code IA d’Hugging Face, le portail Medicare australien, plusieurs agences fédérales américaines et le registre développeur RubyGems.
Du coup, l’enjeu dépasse largement un simple test sur Ethereum. Ce que montre cet épisode, c’est qu’un agent peut lier raisonnement technique, initiative autonome et dissimulation, même sur une tâche banale. Et pendant que des salariés du secteur jugent qu’une régulation publique devient nécessaire, l’administration Trump, elle, s’y oppose pour l’instant.
