L’IA, un outil à double tranchant dans la lutte contre l’ingérence numérique

L'essor de l'IA exacerbe les risques d'ingérence numérique. Face à ces menaces, régulations renforcées et innovations comme Viginum deviennent indispensables pour protéger les démocraties.

L’utilisation de l’IA pour l’ingérence numérique

L’influence néfaste des actions malveillantes d’ingérence numérique étrangère n’est plus à démontrer. Cette triste réalité, exacerbée par l’usage croissant des réseaux sociaux comme outils de manipulation, nous pousse à renforcer notre capacité de détection et de caractérisation de ces phénomènes. Bien que l’usage de l’intelligence artificielle (IA) soit encore marginal, on craint un détournement à des fins malveillantes plus généralisées.

Parmi les menaces actuellement identifiées, on retrouve la création de contenus faux mais crédibles via des outils d’IA disponibles en open source, la création de faux comptes animés par des outils d’IA capables d’imiter le comportement humain, et la diffusion massive de contenus manipulés à travers diverses plateformes.

Attentes en termes de régulation des plateformes

Face à ces menaces, Clara Chappaz insiste pour que tous les moyens nécessaires soient mobilisés afin de les contrer. L’accent est mis sur la régulation des plateformes et le développement de solutions basées sur l’IA. En vertu du règlement européen sur les services numériques (DSA), ces plateformes sont tenues de modérer et de supprimer le contenu trompeur et de limiter sa portée virale. Clara Chappaz appelle à une coopération plus étroite avec les autorités françaises et européennes, en plaidant pour un meilleur accès aux données et API des plateformes, dans le but d’assurer une régulation efficace et de protéger la démocratie.

Viginum, un allié de taille

La lutte contre l’ingérence numérique étrangère vient de recevoir un nouvel atout majeur avec la création de Viginum. Ce service de vigilance et de protection contre les ingérences numériques étrangères, créé le 13 juillet 2021, se concentre sur la protection du débat public numérique affectant les intérêts fondamentaux de la Nation.

Ses principaux piliers opérationnels sont l’analyse géopolitique, la science des données et l’investigation numérique. Viginum est ainsi capable de caractériser les menaces représentées par l’IA en matière de manipulation de l’information. Il est également en mesure de développer des outils d’IA destinés à la détection de manoeuvres malveillantes. Viginum a déjà documenté de nombreuses campagnes de manipulation de l’information depuis sa création en 2022, prouvant ainsi son efficacité dans cette lutte cruciale.

Sensibiliser le public et investir dans la recherche sur des solutions préventives restent aussi cruciaux.