Début d’une ère inquiétante : l’IA de X alimente la haine raciale selon les experts

L’intelligence artificielle alimente une nouvelle vague de cyberhaine. Avec des outils comme Grok, capables de produire des images manipulées, la frontière entre innovation et abus devient de plus en plus trouble.

Escalade de la cyberhaine : vers une IA complice ?

La croissance alarmante de la haine en ligne, propagée par des images de synthèse, augure d’un problème imminent et inquiétant. Les artistes de la calomnie exploitent de plus en plus habilement les progrès de l’intelligence artificielle. Les experts en matière de harcèlement en ligne pointent une certaine IA, Grok, du doigt.

Grok : une plateforme aux conséquences troublantes

Ce logiciel créé par Elon Musk en 2023 a récemment fait l’objet d’une mise à jour, ajoutant une fonctionnalité appelée Aurora. Cette dernière permet de créer des images d’un réalisme troublant à partir de simples indications textuelles. Des versions antérieures, moins sophistiquées, ont déjà suscité la controverse en créant des images compromettantes de personnages publics et protégés.

Malheureusement, plusieurs comptes ont très vite « détourné » cette nouvelle fonctionnalité pour produire des contenus haineux, racistes ou diffamatoires. Parmi ces images manipulées, on retrouve des joueurs de football et des entraîneurs représentés dans des situations racistes.

L’inquiétude des organisations de lutte contre la haine en ligne

Ainsi, Signify, une organisation qui travaille en collaboration avec des groupes influents du sport pour détecter les messages haineux en ligne, a signalé une hausse des signalements d’abus depuis la dernière mise à jour de Grok. Pour Callum Hood du Centre de lutte contre la haine numérique, Grok facilite la propagation de la haine en la rendant viable financièrement.

Les craintes s’accentuent du fait de l’absence de restrictions concernant les demandes des utilisateurs à Grok. Ils peuvent aisément contourner les normes et les politiques en « jailbreaking », en décrivant minutieusement les caractéristiques physiques des individus qu’ils souhaitent calomnier.

La réaction des autorités sportives

La Premier League et l’Association anglaise de football prennent la situation au sérieux. Ces organisations sportives ont mis en place des équipes dédiées pour lutter contre ce fléau et soutenir les sportifs victimes de ces attaques. En outre, elles ont introduit des filtres sur leurs réseaux sociaux pour bloquer d’importantes quantités d’abus.

La société X, responsable de Grok, n’a pas encore réagi à ces allégations. Cela encourage, sans aucun doute, la communauté à redoubler de vigilance face à cette nouvelle forme de racisme numérique.