OpenAI bloque des campagnes chinoises exploitant ses outils d’intelligence artificielle

Entre propagande, phishing et polarisation, l’IA devient un levier central dans les stratégies d’influence numériques.

Un usage grandissant de l’intelligence artificielle dans la désinformation

Depuis plusieurs années, la multiplication d’opérations d’influence orchestrées par des États s’impose comme une réalité inquiétante sur les réseaux sociaux. Plus récemment, des outils tels que ChatGPT, développés par OpenAI, sont passés au cœur de ces stratégies, permettant la génération automatisée de commentaires, articles ou scripts à grande échelle. Les chercheurs en cybersécurité de chez Mandiant l’avaient déjà relevé en 2023 : depuis 2019, l’IA générative s’immisce dans les campagnes d’influence politique.

OpenAI sonne l’alerte sur quatre opérations chinoises récentes

Au printemps 2024, un rapport publié par OpenAI est venu confirmer cette tendance. L’entreprise affirme avoir récemment neutralisé quatre opérations menées depuis la Chine, impliquant l’utilisation de ses modèles pour alimenter TikTok, Facebook, Reddit et X en contenus très ciblés. Il s’agissait notamment de posts et réponses générés autour de thèmes aussi variés que la politique américaine ou un jeu vidéo taïwanais dénonçant le Parti communiste chinois. La particularité ? Ces messages prenaient tour à tour position pour et contre certains sujets brûlants, afin d’alimenter un débat politique confus et potentiellement manipulateur.

Diversification des tactiques et multiplication des cibles

Selon les explications du principal enquêteur Ben Nimmo auprès de la radio NPR, le spectre des manœuvres ne cesse de s’élargir : « Ce que nous observons du côté chinois, c’est une gamme croissante d’opérations secrètes utilisant une palette toujours plus étendue de techniques. » Si d’autres actions malveillantes ont été attribuées à la Russie, l’Iran ou la Corée du Nord – notamment une campagne iranienne cherchant à publier des tribunes politiques fictives sur les élections américaines – c’est bien la Chine qui semble exploiter toutes les facettes de l’ingénierie sociale automatisée. Les finalités vont au-delà de la simple désinformation : détection de failles dans le code informatique, production massive de contenus destinés au phishing… Les champs d’application ne manquent pas.

Bilan mitigé : efficacité limitée mais risques accrus

Pourtant, à en croire Ben Nimmo, rien n’indique que ces campagnes bénéficient réellement d’un surcroît d’engagement grâce à l’intelligence artificielle : « Avoir de meilleurs outils ne garantit pas nécessairement une portée accrue. » Ce constat n’a rien de rassurant pour autant. Car avec la montée en puissance des technologies génératives et leur démocratisation financière, il devient inévitable que ces méthodes gagnent en accessibilité – rendant plus facile encore le déploiement massif d’opérations sophistiquées. Au fond, si leur impact reste contenu aujourd’hui, leur potentiel inquiète déjà experts et plateformes.