Course aux algorithmes : un rapport pointe la négligence de TikTok et Meta sur la sécurité

Un rapport met en lumière les risques accrus pour la sécurité des utilisateurs liés à la concurrence entre TikTok et Meta, alors que les deux géants des réseaux sociaux privilégient la performance de leurs algorithmes au détriment de la protection du public.

Des plateformes accusées de privilégier l’engagement au détriment de la sécurité

Sous la pression croissante des régulateurs, les pratiques de modération des principaux réseaux sociaux se retrouvent à nouveau sur le devant de la scène. Selon plusieurs lanceurs d’alerte, relayés par la BBC, des géants comme TikTok et Meta Platforms auraient consciemment laissé circuler des contenus nocifs sur leurs plateformes, en dépit d’études internes confirmant leur potentiel toxique. L’objectif inavoué ? Maximiser l’engagement des utilisateurs, alors même que ces publications suscitent souvent indignation et controverse.

L’envers du décor : témoignages et choix stratégiques

Parmi les révélations marquantes, un ancien ingénieur de Meta affirme que la direction aurait demandé à ses équipes de tolérer davantage de contenus « limites », misogynie, théories complotistes sur Instagram et Facebook. La raison évoquée serait directement liée à la pression boursière et à la montée en puissance fulgurante de TikTok. Dans cette course à l’attention, le lancement d’Instagram Reels, en 2020, a été pointé du doigt. Matt Motyl, chercheur spécialiste du modèle économique de Meta, estime que ce service aurait été mis en ligne sans garde-fous suffisants. Les recherches internes faisaient déjà état d’une augmentation des comportements nuisibles dans les commentaires : intimidation, harcèlement ou discours haineux s’y seraient multipliés.

TikTok dans le viseur : algorithmes opaques et modération sous tension

Du côté de TikTok, le constat n’est guère plus rassurant. Un membre de l’équipe « trust and safety » confie que certaines priorités de modération serviraient avant tout à préserver les relations politiques ou éviter une régulation plutôt qu’à protéger réellement les utilisateurs. Un autre ancien ingénieur, Ruofan Ding, qualifie même le système de recommandation maison de véritable boîte noire, si complexe que même les développeurs peinent à comprendre pourquoi certains contenus se retrouvent propulsés auprès du public.

En outre, selon ces témoins internes :

• L’afflux massif de signalements rendrait la gestion des cas problématiques.
• La visibilité accrue de contenus liés au trafic, à la violence ou aux abus sexuels inquiète en interne.

Démentis officiels et contexte international tendu

Face à ces accusations, tant Meta que TikTok ont vivement réagi auprès de la presse britannique. « Any suggestion that we deliberately amplify harmful content for financial gain is wrong », assure ainsi Meta ; TikTok évoque pour sa part « fabricated claims », rappelant ses investissements continus dans des technologies dédiées à contrer ces dérives.

Ce débat intervient alors que plusieurs pays, Australie, Espagne, Royaume-Uni, Indonésie ou Inde, examinent ou mettent en place des restrictions strictes concernant l’accès aux réseaux sociaux pour les mineurs. Un signe supplémentaire que l’équilibre entre liberté numérique et sécurité reste plus précaire que jamais.