Publié le 7 juin 2023, modifié le 7 juin 2023.
Par Christophe Romei
Selon NordVPN, le phénomène des deepfakes pornographiques n’est pas nouveau, comme le montre l’étude de DeepTrace, une société de cybersécurité qui a déjà alerté sur le fait que 96 % des deepfakes sur internet sont des contenus pornographiques.
Le FBI a publié une alerte pour mettre en garde contre une tendance croissante de cybercriminels à créer des Deepfakes pour mener des campagnes de Sextorsion :
Les cybercriminels récupèrent les photos anodines que les gens publient publiquement sur leurs réseaux sociaux.
Ces mêmes photos sont utilisées pour créer une vidéo ou photo pornographique générée par l’IA avec le visage de la victime.
Les cybercriminels commencent leur campagne de sextorsion en menaçant leurs cibles de divulguer publiquement ces images créées sur les réseaux sociaux ou sites pornographiques. Et en exigeant généralement une somme d’argent pour ne pas les divulguer.
Ce phénomène des deepfakes pornographiques n’est pas nouveau, comme le montre l’étude de DeepTrace, une société de cybersécurité qui a déjà alerté sur le fait que 96 % des deepfakes sur internet sont des contenus pornographiques. Mais jusqu’à présent, ce sont les actrices, les streameuses et autres personnalités qui étaient en général victimes de ces détournements d’images à des fins inappropriées. Le fait que les acteurs malveillants veuillent tirer profit de ces deepfakes montre une nouvelle fois que les utilisateurs doivent rester vigilants lorsqu’ils utilisent et publient des contenus sur les réseaux sociaux. D’autant que près de 3 adolescents sur 5 sont déjà tombés sur du contenu inapproprié, notamment sur des photos et des vidéos à caractère sexuel.
Comment protéger les enfants de ces menaces de sextorsion ?
Sensibilisez les enfants dès le plus jeune âge aux questions de contenus inappropriés : pornographie, violences physiques et psychologiques, etc. Et même si les chiffres de notre étude sont encourageants, invitez-les à vous en parler ouvertement s’ils tombent sur ce type de contenu ou sont victimes de sextorsion.
Adaptez la pratique numérique des enfants en fonction de leur âge. Par exemple, les réseaux sociaux sont interdits au moins de 13 ans et soumis à une validation parentale de 13 à 14 ans.
La sextorsion peut aussi provenir d’un contenu qu’ils auraient eux-mêmes envoyé à une connaissance mal intentionnée, sensibilisez-les au phénomène de “nudes” envoyés de manière innocente, mais qui peuvent ensuite être partagés et utilisés pour les faire chanter.
Utilisez les outils mis à disposition par le gouvernement. Pharos pour le signalement des contenus offensants. Ou le site jeprotègemonenfant.fr mis en place pour donner les clés d’une mise en place d’une vie Internet plus sécurisée.
Si malheureusement, vous êtes victime de ces deepfakes, l’article 226-4-1 du code pénal vous permet de porter plainte : “Le fait d’usurper l’identité d’un tiers ou de faire usage d’une ou plusieurs données de toute nature permettant de l’identifier en vue de troubler sa tranquillité ou celle d’autrui, ou de porter atteinte à son honneur ou à sa considération, est puni d’un an d’emprisonnement et de 15 000 € d’amende.”
Bien entendu, vous pourrez également porter plainte pour usurpation d’identité, diffamation et vous pourrez faire valoir votre droit à l’image.
