Business

La Chine et les algorithmes, modèle d’avenir ou cauchemar numérique ?

Par le

Crédit : Kevin Hong

Quand on s’intéresse aux changements qui sont encours sur l’utilisation de l’intelligence artificielle, il convient de jeter un coup d’œil sur la Chine : la République populaire veut devenir le chef de file mondial en matière d’AI et poursuit résolument cet objectif. Le “score de crédit social”, que la Chine envisage de mettre en œuvre d’ici 2020, sont un exemple illustrant ces efforts. Le smartphone et les app sont au coeur du système !!

Le système est testé jusqu’en 2020 par 43 municipalités, chacune avec ses propres critères, système de lettres ou de points et avec son nom : à Suzhou, il est appelé crédit social “Plum Blossom”. à Xiamen, Jasmine. Presque tous utilisent les données des réseaux sociaux* ou des applications pour smartphone, en plus de la vidéosurveillance. D’ici 2020, la plupart des grands espaces publics urbains chinois seront équipés de caméras de reconnaissance faciale dans le système Skynet. Dans de nombreuses zones rurales, le projet Sharp Eyes permet aux gens de connecter leur téléviseur ou leur smartphone à des caméras de surveillance à l’entrée de leurs villages.

*Alipay fournit à Ant Financial des données personnelles telles que des informations détaillées sur les déplacements en taxi, les achats en supermarché, les factures médicales et même des actes de générosité. Tout comme Facebook génère de la publicité à partir de l’activité en ligne des utilisateurs, Sesame Credit utilise les données des achats effectués via Alipay.

Cette histoire du crédit social est censée représenter la fiabilité des individus et des entreprises avec un seul numéro !! Le bon comportement, tel que défini par le gouvernement, est récompensé par des points de crédit social. Lorsque les gens gagnent des points (le bonus), ils gagnent plus de privilèges. Toute mauvaise conduite est punie en déduisant des points (le malus). Les bas scores sont punis, par exemple, en ce qu’ils ne peuvent pas réserver de billets d’avion ou de train, ni de chambres d’hôtel. La Chine a perfectionné la surveillance de ses citoyens dans une dystopie qui fait peur a la perspective européenne…

Par exemple en 2017, six scanners faciaux ont été installés à proximité des toilettes les plus fréquentées du Temple du Ciel (Pekin), une attraction touristique majeure, après que des informations selon lesquelles un nombre croissant de résidents locaux volaient des rouleaux de papier de toilette dans les locaux seraient de plus en plus nombreuses. Cela fait partie d’une campagne plus longue qui dure depuis des années. Les autorités ont essayé de faire en sorte que les citoyens se comportent mieux lorsqu’ils voyagent, chez eux et à l’étranger.

Mais cette expérience est-elle un remède à un comportement d’incivilité ou un outil pour faire taire la dissidence ? Est ce qu’il pourrait créer un nouveau gouffre entre les nantis et les démunis ?

À lire : The complicated truth about China’s social credit system

T-Mobile a souhaiter savoir dans quelle mesure la Chine avait progressé dans la mise en œuvre de ses plans stratégique. Que pensent les Chinois moyens du crédit social ? La critique de l’Europe est-elle justifiée ? en interviewant Mareike Ohlberg de l’Institut Mercator.

Le mot système mis en place évoque souvent un système contrôlé de manière centralisée. Ce n’est pas le cas ici. Le mot système est en fait un cadre juridique. Cela signifie que c’est une énorme initiative dans laquelle différents projets sont en cours qui vont évaluer les citoyens et les entreprises dans une base de données volumineuses. L’année 2020 est souvent mentionnée. Cependant, il n’y aura pas de système uniforme du gouvernement central d’ici 2020. C’est ce que vous trouverez dans les plans publiés par le gouvernement chinois. Ils ont publié un plan principal en 2014 et c’est là que cette date apparaît. Mais les choses vont continuer après 2020.

Contrairement à ce que vous pourriez imaginer, vous avez des lois sur la protection de la vie privée et un débat sur la protection de la vie privée en Chine. Mais le problème, c’est qu’il est très concentré sur les entreprises. Cela signifie que la confidentialité des données vis-à-vis des entreprises est en cours de discussion et mise en œuvre dans certains domaines, mais que la confidentialité des données vis-à-vis du gouvernement lui-même n’existe pas en tant que concept en soi !!

Cela peut-il arriver en Europe ?

Toutes ces initiatives sont basées sur l’intelligence artificielle

Profilage des demandeurs d’emploi sur la base du contenu de leur boîte de réception personnelle en Finlande, choix des patients traités dans le système de santé publique italien, tri des chômeurs en Pologne, identification automatique des enfants vulnérables au Danemark, détection de la fraude à l’aide sociale aux Pays-Bas, systèmes de notation du crédit dans de nombreux pays de l’UE – la gamme d’applications de la prise de décision automatisée (ADM) s’est étendue à presque tous les aspects de la vie quotidienne. Nombre d’entre eux peuvent offrir des avantages précieux aux citoyens, mais leur utilisation présente également des risques de discrimination injuste, de surveillance intrusive ou d’augmentation des inégalités. Source et suite Ici