Ce scénario n’est pas hypothétique. C’est possible maintenant, grâce à un site Web appelé PimEyes, considéré comme l’un des outils de reconnaissance faciale les plus puissants disponibles en ligne. Sur TikTok, PimEyes est devenu un outil formidable pour les détectives sur Internet qui tentent d’identifier des inconnus, avec des vidéos qui captent des millions de vues montrant comment une combinaison de PimEyes et d’autres outils de recherche peuvent par exemple,trouvez le nom d’un cameraman au hasard un concert de Taylor Swift (la vidéo à disparu). Les directives communautaires de TikTok interdisent le contenu contenant des informations personnelles qui pourraient conduire à du harcèlement criminel, au vol d’identité et à d’autres crimes.
Sans aucune régulation régissant la technologie de reconnaissance faciale, les services comme PimEyes devraient proliférer dans les années à venir. Une version de base de PimEyes est gratuite pour tout le monde, mais la société propose des fonctionnalités avancées, comme des alertes sur des images qui peuvent intéresser les utilisateurs lorsqu’une nouvelle photo apparaît en ligne, pour un abonnement mensuel. PimEyes, techniquement, ne génère pas à lui seul l’identité de quelqu’un. La startup identifie des sites Web qui identifient des images similaires au matériel de recherche. Les règles de PimEyes stipulent que les gens ne doivent rechercher qu’eux-mêmes ou les personnes qui consentent à une recherche.
PimEyes peut être utilisé à de nombreuses fins légitimes, comme pour vous protéger des escroqueries. Il y a des utilisations potentielles de la technologie qui pourraient être bénéfiques. Par exemple, pour les personnes aveugles, ou pour identifier rapidement quelqu’un dont vous avez oublié le nom et, comme le souligne l’entreprise, garder un œil sur ses propres images sur le web. PimEyes bloque désormais l’accès dans 27 pays, dont l’Iran, la Chine et la Russie, craignant que les autorités gouvernementales n’utilisent ce service pour cibler les manifestants et les dissidents.
Avec une telle technologie déployée en masse on peut s’attendre au pire, par exemple quelque chose se passe dans le métro, vous rencontrez quelqu’un, ou vous portez quelque chose d’embarrassant, quelqu’un pourrait simplement prendre votre photo, découvrir qui vous êtes et peut-être tweeter à votre sujet, ou vous appeler par votre nom, ou écrire des choses désagréables sur vous en ligne a déclaré Kashmir Hill, journaliste pour Le New York Times qui a récemment publié un livre sur la technologie de reconnaissance faciale intitulé “Your Face Belongs to US”
Le récit de Kashmir Hill dévoile l’ascension improbable de Clearview AI, une mystérieuse application prétendant pouvoir identifier avec une précision de 99 % toute personne à partir d’une seule photo de son visage. L’application peut rapidement afficher des détails de la vie en ligne de la personne, y compris son nom, ses profils sur les réseaux sociaux, ses amis, sa famille, son adresse personnelle, et bien plus encore. Cette technologie pourrait être l’outil ultime de surveillance, suscitant des inquiétudes allant du harcèlement au contrôle totalitaire de l’État. Clearview AI, a accumulé une collection impressionnante de milliards de visages trouvés sur Internet, bénéficiant du soutien de personnalités controversées.
La reconnaissance faciale est une technologie en constante évolution, a soulevé des préoccupations au fil des décennies et a déjà conduit à des arrestations injustifiées aux États-Unis. Sans réglementation adéquate, cette technologie pourrait potentiellement étendre le pouvoir de l’application des lois, similaire à ce qui se passe en Chine et en Russie, créant un scénario dystopique alarmant.
Déverrouillage des iPhones avec l’ID facial d’Apple. Et dans les aéroports, la Transportation Security Administration peut confirmer l’identification de quelqu’un avec une analyse faciale. Mais un moteur de recherche de visage amène cette idée à un niveau entièrement différent. Tandis que les sociétés Big Tech se retiennent, les petites startups poussant la technologie gagnent du terrain comme PimEyes, et une autre appelée Clearview AI, qui fournit des moteurs de recherche de visage propulsé par l’IA aux forces de l’ordre.
Dans l’Union européenne, les législateurs sont en débat une interdiction de la technologie de reconnaissance faciale dans les espaces publics. La militante bruxelloise Ella Jakubowska espère que les régulateurs iront encore plus loin et promulgueront une interdiction totale des outils. La loi sur l’IA de l’UE élaborera des règles sur la manière dont les données biométriques, telles que le visage, les empreintes digitales et la voix de quelqu’un, seront réglementées et c’est tant mieux ! mais dans le reste du monde ? Nous rejetons l’idée qu’en tant qu’êtres humains, nous devrions être traités comme un code à barres ambulant afin que des tiers puissent nous surveiller, même lorsque nous n’avons rien fait de mal !