OpenAI interdit les comptes chinois utilisant ChatGPT pour la surveillance des réseaux sociaux

Tech / IA / Chine / OpenAI
Par Christophe Romei,  publié le 22 février 2025 à 16h00.
Tech
OpenAI

Image d'illustration. OpenAIADN

OpenAI met un frein à l'utilisation de ChatGPT par des comptes chinois pour modifier des codes en vue d'une surveillance des médias sociaux, en prenant la décision radicale de les interdire.

Tl;dr

  • OpenAI bloque des comptes chinois utilisant ChatGPT à des fins de surveillance.
  • Le groupe a tenté de créer un outil de surveillance des médias sociaux.
  • C’est la première fois qu’OpenAI découvre un outil IA de ce type.

OpenAI contre la surveillance des médias sociaux

OpenAI a récemment mis un terme aux activités d’un groupe d’utilisateurs chinois. Ces derniers utilisaient ChatGPT, un outil d’IA développé par OpenAI, dans le but de mettre au point un outil de surveillance des médias sociaux. L’opération, baptisée « Peer Review » par OpenAI, a vu le groupe solliciter ChatGPT pour générer des arguments de vente pour un programme conçu pour surveiller l’opinion anti-chinoise sur diverses plateformes, dont X, Facebook, YouTube et Instagram.

Des agissements inédits

Selon OpenAI, « Ce réseau constitué de comptes ChatGPT fonctionnait selon un horaire correspondant aux heures de travail chinoises, sollicitait nos modèles en langue chinoise, et utilisait nos outils avec un volume et une variété conformes à une sollicitation manuelle, plutôt qu’automatisée ». Ben Nimmo, chercheur principal chez OpenAI, a révélé qu’il s’agissait de la première fois que l’entreprise découvrait un outil d’IA de ce genre.

Des ramifications complexes

Le code de l’outil de surveillance semble avoir été basé en grande partie sur une version open-source de l’un des modèles Llama de Meta. Le groupe a également utilisé ChatGPT pour produire un bilan de fin d’année, où il prétend avoir rédigé des e-mails de hameçonnage pour le compte de clients en Chine.

Des conséquences encore floues

« Évaluer l’impact de cette activité nécessiterait la contribution de plusieurs parties prenantes, y compris les opérateurs de tous modèles open-source qui pourraient éclairer cette activité », a déclaré OpenAI. Par ailleurs, OpenAI a récemment bloqué un autre compte qui utilisait ChatGPT pour générer des publications sur les réseaux sociaux critiquant Cai Xia, une scientifique politique chinoise et dissidente vivant aux États-Unis en exil.

OpenAI continue donc de lutter contre l’utilisation abusive de ses outils, soulignant l’importance de la régulation dans le domaine de l’IA.

En savoir plus