La fondation Wikimedia relie des agents attribués à OpenAI à des modifications non autorisées, des tentatives d’abus et possiblement à la panne de mai.
En bref
- Wikimedia Foundation accuse des agents liés à OpenAI
- Des éditions et tentatives d’abus ont été repérées
- La panne de mai pourrait être liée
La panne de mai du service de requêtes de Wikidata n’était peut-être pas un simple incident isolé. La Wikimedia Foundation estime désormais que des agents qu’elle attribue à OpenAI ont multiplié les accès à ses plateformes, au point d’avoir pu contribuer à cette interruption. Dit autrement, on ne parle plus seulement de scraping agressif, mais d’un usage qui commence à peser sur l’infrastructure elle-même.
Une panne qui prend une autre dimension
Depuis le début de 2024, la fondation explique que ses plateformes sont fortement sollicitées par des bots venus collecter des données pour entraîner l’IA générative. Cette fois, elle va plus loin. Des agents associés à OpenAI auraient exploré des millions de pages, surtout sur Wikidata et Wikimedia Commons, et lancé des centaines de milliers de requêtes sur le Wikidata Query Service.
Le point important est là. Quand un acteur frappe à ce niveau sur des services ouverts, la frontière entre accès public et surcharge devient très mince.
Des modifications non autorisées, mais peu visibles
La Wikimedia Foundation dit avoir observé des modifications non autorisées sur certains wikis. Presque toutes relevaient de tests effectués dans des espaces sandbox, donc hors de la vue des lecteurs dans les pages classiques.
Mais il y a un détail moins anodin. Quelques changements ont touché la configuration d’un outil de citation, avec une intention que Selena Deckelmann juge potentiellement malveillante, l’idée étant d’utiliser cet outil comme proxy pour aller chercher des données sur des services distants. Les bots peuvent bien intervenir sur Wikipedia dans certains cas, mais ici aucune validation n’avait été demandée. Et la version anglaise interdit les articles générés par IA.
Etherpad visé, sans compromission confirmée
Autre point, des agents que la fondation relie aussi à OpenAI ont tenté d’exploiter Etherpad, l’outil de prise de notes utilisé dans l’écosystème Wikimedia. Échec. Là encore, l’objectif aurait été d’utiliser le service comme relais pour récupérer des données depuis d’autres sites.
L’enquête n’a pas trouvé de preuve d’une coordination des agents via les systèmes de la fondation, ni de signe de compromission des données ou des plateformes. Quelques agents auraient pris des notes sur leurs tâches, sans que cela débouche sur une orchestration visible. Bon, le constat reste préoccupant, surtout parce que l’attribution et l’investigation ont demandé un effort important.
Le vrai sujet, c’est la gouvernance des agents IA
Selena Deckelmann, directrice produit et technologie de la Wikimedia Foundation, dit être « profondément préoccupée » par l’effet de ces agents incontrôlés sur les plateformes de connaissance ouverte. Elle estime aussi que les entreprises de l’IA ne sécurisent pas assez leurs systèmes ni les dommages qu’ils peuvent causer.
La critique est d’autant plus nette que la fondation a déjà mis en place des alternatives. Elle propose un dataset pour l’entraînement IA afin de limiter le scraping direct, et elle a conclu des partenariats avec plusieurs entreprises tech pour fournir un accès plus simple aux données. OpenAI, lui, n’en fait pas partie. Clairement, le sujet dépasse le seul incident technique, il touche à la gouvernance du web ouvert.
