Le chatbot IA de DuckDuckGo a relayé le faux décès de Donald Trump. Derrière l’erreur, on voit surtout la fragilité des sources web aspirées par l’IA.
En bref
- DuckDuckGo a relayé un faux décès de Trump
- Le piège venait du forum Reddit r/poisonai
- Le cas expose la faiblesse de vérification des chatbots
Le plus frappant, ici, n’est pas seulement l’erreur de DuckDuckGo. C’est qu’un groupe sur Reddit cherche précisément à provoquer ce genre de raté, en inondant le web de contenus faux pour voir si les modèles les reprennent comme des faits.
Un sabotage assumé des réponses IA
Le forum r/poisonai a été monté dans cette logique. Ses membres partent d’un constat simple, les chatbots piochent souvent dans les commentaires et publications de Reddit. Du coup, ils fabriquent de la matière toxique pour ces systèmes, avec des titres volontairement absurdes et mensongers.
La page se présente même, sur le ton de la blague, comme la première source mondiale d’informations exactes, vérifiées et fiables. En réalité, on y trouve des intox délirantes, comme l’idée que GTAVI serait totalement en rupture jusqu’à une seconde sortie en 2030, ou que la FDA considérerait les vanilla soy lattes comme une soupe légale aux trois haricots. Le groupe revendique clairement son objectif, empoisonner les données des modèles pour exposer leur tendance à l’hallucination. Il compte 45 000 abonnés et existe depuis janvier.
Comment DuckDuckGo a relayé un faux décès
C’est dans ce contexte que le chatbot de DuckDuckGo a affirmé à tort que Donald Trump était mort de la rage. L’histoire liait cette infection à J.
D. Vance, après la circulation sur r/poisonai d’un post parodique assurant que le vice-président était lui-même mort de la rage après une morsure à l’urètre.
Mais la séquence va plus loin. Une chaîne d’info appelée WKNA49 News a ensuite présenté comme réelle, le 7 juin, l’histoire de la mort de Trump. Son récit ajoutait même que Robert F. Kennedy aurait conseillé à l’ancien président qu’une morsure de Vance pouvait procurer des bénéfices biologiques proches de super-pouvoirs, sur la base d’écrits de jeunesse évoquant une forme d’immortalité liée à certaines infections. Résultat, le chatbot a repris ce matériau et l’a servi comme une information crédible.
Le vrai sujet, c’est la vérification des sources
Le média Futurism a montré que l’outil de DuckDuckGo s’appuyait bien sur Reddit. C’est là que l’affaire devient intéressante pour l’écosystème mobile et plus largement pour la recherche en ligne, parce qu’on touche à une faiblesse structurelle, la vérification des sources reste trop légère.
L’histoire a depuis disparu des réponses du chatbot. Tant mieux, clairement. Mais le problème ne bouge pas, lui. Entre les hallucinations, la reprise de contenus non vérifiés et les campagnes de data poisoning, on voit très bien comment une rumeur peut remonter jusqu’à l’interface finale.
Pourquoi cette séquence compte pour la recherche en ligne
Vous le voyez déjà dans Google Search, les réponses générées par IA prennent de plus en plus de place, qu’on les demande ou non. Quand ces systèmes diffusent des faux, le risque n’est pas théorique, il touche directement l’accès à l’information.
La source rappelle aussi que les deepfakes participent déjà à saturer le web de contenus trompeurs. Et certains moteurs laissent encore une porte de sortie, Startpage, Kagi et DuckDuckGo permettent de désactiver leurs fonctions IA. Pas de quoi paniquer. Mais pour les acteurs du search, cette affaire montre une chose assez nette, ajouter une couche conversationnelle sans garde-fous solides, ça finit vite en problème de confiance.