San Francisco vise Apple et Google pour des apps de « nudify ». Au-delà du retrait demandé, c’est leur rôle de distributeur qui est visé.
En bref
- San Francisco exige le retrait de dizaines d’apps
- Apple et Google risquent des sanctions civiles
- Leur rôle dans les paiements est visé
Ce dossier peut coûter plus qu’un peu de réputation à Apple et Google. La ville de San Francisco leur demande de retirer des dizaines d’applications de « nudify », ces services capables de modifier des photos pour déshabiller numériquement les personnes qui y apparaissent. Mais le vrai sujet, clairement, va plus loin que le retrait.
Le sujet n’est plus seulement modération, mais responsabilité
Pour la ville, les deux groupes n’ont pas seulement laissé passer des apps problématiques. Ils auraient continué à les héberger et à en tirer des revenus alors que le droit californien encadre déjà ce terrain. La loi de California pénalise toute activité qui facilite sciemment, ou aide de manière téméraire, la création de pornographie deepfake non consentie.
Et depuis 2025, une autre loi de l’État permet aussi aux victimes d’engager des actions civiles contre les facilitateurs tiers de ce type de contenus. En gros, la pression ne vise plus seulement les créateurs d’images, mais aussi les intermédiaires qui rendent le modèle possible.
Des alertes répétées, puis une mise en demeure formelle
Le bureau du City Attorney David Chiu affirme que Apple et Google étaient prévenus depuis longtemps. Les lettres envoyées aux deux entreprises indiquent qu’elles avaient été mises en garde sur leur rôle dans le traitement de paiements liés à des achats illégaux depuis presque un an.
Avant cela, le Tech Transparency Project avait déjà remis deux séries d’alertes, en janvier puis en avril. L’organisation y signalait des dizaines d’apps présentes dans les stores des deux groupes et vendant des images intimes non consenties générées par IA, avec des paiements traités par les plateformes.
Résultat ? San Francisco demande aux deux entreprises de répondre sous 28 jours et les prévient qu’elles pourraient faire face à des sanctions civiles.
Ce que reproche exactement San Francisco aux deux plateformes
Le reproche est double. D’un côté, les boutiques applicatives auraient continué à encaisser des frais via ces services. De l’autre, le rapport d’avril du Tech Transparency Project estime que Google et Apple auraient même orienté des utilisateurs vers ces apps, les qualifiant d’acteurs clés dans la diffusion d’outils IA capables de sexualiser des personnes réelles.
David Chiu a aussi indiqué à Wired que les deux entreprises avaient probablement perçu des millions de dollars en commissions grâce à ces applications. L’accusation est lourde, parce qu’elle touche le cœur du modèle des stores, la distribution et la monétisation.
Pourquoi ce dossier dépasse le cas des célébrités
La pornographie deepfake a surtout touché des célébrités féminines. Mais les apps de deepfake intime non consenti changent l’échelle du problème. Une photo publique suffit potentiellement à faire de n’importe qui une cible.
C’est là que le dossier devient important pour tout l’écosystème mobile. Si Apple et Google sont tenus pour responsables non seulement du contenu, mais aussi de la découverte des apps et du paiement, la barre monte pour toute la chaîne de distribution.
