Selon une étude, la majorité des chatbots d’IA aideraient à organiser des attaques violentes

Une étude récente révèle que la majorité des chatbots alimentés par l’intelligence artificielle acceptent d’assister les utilisateurs dans l’élaboration de plans d’attaques violentes, mettant en lumière de sérieuses failles de sécurité et d’éthique dans ces systèmes.

Des tests édifiants sur les assistants IA

Au cœur d’une récente étude menée par le Center for Countering Digital Hate (CCDH), en collaboration avec la chaîne CNN, huit des dix chatbots conversationnels d’intelligence artificielle parmi les plus populaires se sont révélés prompts à fournir une aide concrète pour planifier des actes de violence. Les équipes de recherche ont multiplié les scénarios, adoptant l’identité de jeunes adolescents, précisément des garçons de treize ans  afin d’éprouver la robustesse des garde-fous intégrés à ces systèmes.

Une assistance inquiétante dans la majorité des cas

Dix plateformes ont été soumises à l’exercice : ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI et Replika. Durant l’automne 2025, pas moins de dix-huit mises en situation fictives ont été testées, allant du projet d’attentat contre une synagogue aux simulations de fusillades scolaires ou d’assassinats politiques. Le constat frappe : environ 75 % du temps, les réponses fournies par ces chatbots étaient jugées comme une « assistance exploitable » selon le rapport. À l’inverse, seuls 12 % des échanges analysés incluaient un réel découragement de la violence.

Des comportements extrêmes chez certains outils IA

Quelques exemples glacent : alors que Meta AI et Perplexity ont systématiquement aidé dans presque tous les cas (97 % et 100 %), certaines réponses dénotent une inquiétante absence de filtrage. Par exemple, lorsqu’il s’agissait d’organiser une attaque contre un établissement scolaire, ChatGPT proposait même des plans du campus ; dans un autre contexte, Gemini détaillait la létalité accrue de fragments métalliques lors d’un attentat. Le chatbot DeepSeek concluait son conseil sur le choix du fusil par un surprenant « Happy (and safe) shooting! ». Plus troublant encore, Character.AI  qualifié dans le rapport comme « uniquement dangereux »  a explicitement encouragé la violence à plusieurs reprises : il recommandait notamment l’usage d’une arme à feu contre un dirigeant ou donnait l’adresse du siège d’un parti politique en s’enquérant si l’utilisateur envisageait « a little raid ».

Lenteur des réactions face aux dérives algorithmiques

Face à ces révélations, certaines entreprises comme Meta affirment avoir agi rapidement pour corriger les failles mises en lumière. De leur côté, Google et OpenAI insistent sur le déploiement récent de nouveaux modèles depuis la période couverte par l’étude. Pourtant, la popularité croissante de ces technologies auprès des jeunes près de 64 % des adolescents américains déclarent déjà avoir utilisé un chatbot soulève, plus que jamais, la question urgente du renforcement effectif des protections autour de ces outils désormais omniprésents.