Fin de l’ère où les photos prouvaient une réalité

Les deepfakes, capables de reproduire la voix ou l'apparence de quelqu'un pour manipuler leur discours, posent un défi croissant en matière de cybersécurité. De plus en plus accessibles et sophistiquées, ces technologies peuvent être utilisées à des fins frauduleuses ou de désinformation.

Des outils de création d’images révolutionnaires, mais controversés

Ces dernières semaines, le monde virtuel a été inondé d’images à la fois fascinantes et déconcertantes : Mickey Mouse fumant une cigarette, une étreinte inattendue entre Donald Trump et Kamala Harris, ou encore un SpongeBob empruntant l’uniforme nazi. Ces œuvres numériques sont l’émanation d’outils de génération d’images assistée par Intelligence Artificielle, développés par des géants technologiques comme Google et xAI.

Des limites floues à redéfinir

Ces innovations technologiques soulèvent de nombreuses questions quant à ce qu’il convient ou non d’autoriser à produire. Les acteurs à l’origine de ces outils manquent de consensus sur les balises à poser. « Entre permis et interdits, la frontière reste floue. »

Controverses et gestion de crise

Malgré les restrictions imposées par Google, la firme a dû faire face à des controverses. L’interdiction totale de créer des images de personnes pendant six mois suite aux réactions négatives engendrées par la création de soldats nazis par l’une de leurs IA, n’a pas suffi à apaiser les esprits. Les critiques ont redoublé lorsque l’IA de Google a produit une image de SpongeBob dans un costume Nazi.

Le défi de la modération à l’ère de l’IA

Ces entreprises sont toujours à la recherche d’une stratégie pour modérer cette nouvelle forme de contenu, un défi comparable aux premiers jours des réseaux sociaux. Une chose est certaine : avec l’émergence de ces outils, l’ère où une photo attestait incontrovertiblement d’un fait est révolue. Le regard de la société sur l’image et sa vérité est à redéfinir. « La crédibilité des photos est désormais remise en question. »