Le Conseil de surveillance critique Meta et exige une refonte totale de ses règles sur l’IA et les deepfakes

Le conseil de surveillance critique la gestion jugée insuffisante par Meta des contenus générés par l’intelligence artificielle, notamment les deepfakes, et réclame une révision complète de sa politique pour mieux encadrer l’utilisation de l’IA sur ses plateformes.

Un défi croissant pour la modération numérique

L’essor spectaculaire des outils de génération vidéo par intelligence artificielle pose un véritable casse-tête à la modération sur les plateformes sociales. Il n’est désormais plus rare de tomber sur des vidéos à l’aspect on ne peut plus authentique… alors qu’elles relèvent en réalité du pur artefact numérique. Face à cette tendance, le groupe de surveillance indépendant, l’Oversight Board, tire la sonnette d’alarme : selon lui, le dispositif actuel de détection sur les réseaux de Meta, tels que Facebook et Instagram, montre ses limites.

L’avertissement du comité de surveillance

L’Oversight Board, organe constitué d’experts internationaux et chargé d’arbitrer les litiges liés aux contenus publiés, a récemment examiné un cas édifiant : une vidéo générée par IA simulant une scène de destruction en Israël. Cet épisode met en lumière un fait préoccupant : des contenus trompeurs peuvent se propager massivement avant même que la modération ou le signalement par les utilisateurs ne s’enclenchent. Si certains deepfakes ludiques, comme les célèbres chats virtuels prêtent aisément à sourire, d’autres montages beaucoup plus crédibles peuvent manipuler l’opinion publique lors d’événements majeurs tels que guerres, catastrophes ou élections.

Des recommandations concrètes face au risque des deepfakes

Pour répondre à cette menace, le conseil formule plusieurs préconisations destinées à renforcer la lutte contre ces faux médias. Parmi les mesures proposées :

• Mieux distinguer et signaler explicitement tout contenu généré par IA.
• Perfectionner les outils automatiques de détection des deepfakes.
• Soutenir des standards ouverts tels que Content Credentials afin de tracer l’origine ou la modification d’une vidéo.

De plus, il est suggéré d’aller au-delà du simple étiquetage confié aux utilisateurs, système jugé trop vulnérable face à la rapidité virale des contenus.

S’armer face à une nouvelle génération de faux contenus

Le défi s’annonce complexe. Désormais accessibles gratuitement via des solutions telles que Gemini, Sora ou encore Grok, les outils permettant de générer ou falsifier vidéos, images et audios sont à portée de tous. Pour s’en prémunir, quelques réflexes demeurent essentiels : recourir à l’analyse poussée via chatbot spécialisé comme Gemini, ou approfondir ses recherches pour retracer la source d’une séquence suspecte. Car, demain plus qu’aujourd’hui encore, distinguer le vrai du faux sur Internet exigera lucidité et vigilance constante.