Apple durcit ses règles contre les apps de nudification cachées après validation. Un signal fort pour la modération et le contrôle de l’IA.
En bref
- Apple vise les apps de nudification cachées
- La modération IA devient plus stricte
- La pression réglementaire monte aussi
Le point qui compte, pour l’écosystème mobile, ce n’est pas seulement la nudification. C’est la confiance dans la review. Quand une app se présente comme anodine, passe le filtre, puis active ensuite des fonctions problématiques, c’est tout le modèle de contrôle de l’App Store qui prend un coup.
Le vrai sujet, c’est le bait-and-switch
Apple a donc resserré ses consignes pour interdire plus clairement les apps qui utilisent l’IA afin de produire des contenus offensants. Mais le texte vise aussi une pratique très précise, celle des apps qui se font passer pour autre chose pendant l’examen, avant de mettre en avant des fonctions de nudification une fois approuvées.
La société explique aussi que les fonctionnalités cachées ou non documentées restent interdites dans l’App Store. Et elle dit qu’elle retirera les apps qui ajoutent, après validation, des fonctions absentes de la version soumise à la review. Pour les éditeurs, le message est net. On ne joue plus avec les zones grises du process.
L’IA entre dans une zone beaucoup plus surveillée
Ce durcissement ne s’arrête pas à quelques apps douteuses. Apple insiste sur les garde-fous à mettre en place quand une app héberge du contenu généré par les utilisateurs. Filtrage des contenus répréhensibles, outil de signalement, possibilité de bloquer des comptes abusifs, tout cela devient encore plus central.
Bon, ce n’est pas anodin. Dès qu’une brique IA ou UGC entre dans le produit, la question n’est plus seulement technique. Elle devient immédiatement opérationnelle, juridique et business. Une app mal cadrée peut sortir du magasin aussi vite qu’elle y est entrée.
Pourquoi ce tour de vis arrive maintenant
Le contexte compte. En juillet, la ville de San Francisco a demandé à Apple et à Google de nettoyer leurs boutiques et de supprimer les apps de nudification. L’avocat de la ville, David Chiu, les accusait de tirer profit de ces apps via les frais prélevés sur les stores.
Quelques mois plus tôt, un rapport du Tech Transparency Project indiquait que les deux plateformes hébergeaient plusieurs apps de ce type, dont certaines étaient même classées comme adaptées aux mineurs. Et Apple remet aussi une couche dans sa section juridique, avec un rappel plus ferme sur l’interdiction des apps promouvant la traite d’êtres humains et l’exploitation d’enfants.
Les chiffres avancés l’an dernier donnent l’échelle du problème. Apple dit avoir bloqué plus de 150000 apps avant leur mise à disposition des utilisateurs, et supprimé 193000 comptes développeurs pour fraude ou abus. Clairement, ce nouveau texte n’est pas cosmétique. Il prépare une exécution plus dure.
