Dans un entretien à Bloomberg, la présidente de Signal alerte sur le vrai prix des chatbots IA, entre vie privée, accès massif et délégation.
- Signal alerte sur les chatbots trop intrusifs
- L’automatisation suppose un accès massif aux données
- Meredith Whittaker refuse de déléguer sa pensée
Confier vos achats de Noël à une IA paraît pratique. Dans les faits, cela veut aussi dire lui ouvrir, d’un seul mouvement, votre carte bancaire, vos messages, votre navigateur, votre agenda et jusqu’à votre adresse. C’est ce point que Meredith Whittaker, présidente de Signal, a mis en avant dans un entretien accordé à Bloomberg.
L’assistant idéal, ou la machine qui voit tout
La discussion partait d’une prédiction de Mustafa Suleyman, patron de l’IA chez Microsoft, qui imagine Copilot gérer tous les achats de Noël des utilisateurs cette année. Vu de loin, l’idée ressemble à une démo de productivité. Vu de plus près, elle change complètement d’échelle.
Selon Meredith Whittaker, un tel scénario suppose que Copilot écoute un groupe familial pour comprendre qui veut quoi, puis agisse à votre place. Elle a détaillé ce que cela implique, en citant l’accès à Signal, au navigateur, à la carte bancaire, au calendrier, à l’adresse du domicile et même la capacité d’écrire à ses frères et sœurs en son nom.
Meredith Whittaker refuse la confusion affective
Sur les implications en matière de vie privée de services comme ChatGPT ou Claude, son message est sec. Et assez juste, quand même.
Elle a rappelé, en parlant de ces agents conversationnels, « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs sensibles. » Le contraste est là, très net, entre la promesse d’une IA qui accompagne et la réalité d’un système statistique auquel on finit par confier toujours plus.
Un usage minimal, presque à contrecœur
Meredith Whittaker ne dit pas qu’elle n’utilise jamais ces outils. Elle a expliqué s’en servir « pour mettre en forme un document de temps en temps ». Mais la ligne rouge arrive vite.
Elle insiste sur le fait qu’elle ne leur pose pas de questions. Sa raison est limpide, et elle touche à quelque chose de plus large que son cas personnel. « Je prends très au sérieux ma manière de penser et d’écrire, et je ne veux pas que le processus qui consiste à travailler une idée soit refermé ou éclipsé par la réponse d’un système qui fait la moyenne de ce qui existe déjà », a-t-elle expliqué.
Pourquoi Signal parle de porte dérobée
Bref, l’enjeu dépasse l’usage d’un chatbot isolé. Pour Signal, ce type d’assistant n’est réellement utile qu’à condition d’obtenir un accès transversal à plusieurs applications et services.
C’est précisément ce que Meredith Whittaker juge problématique. Elle résume le tout ainsi, « Ce que vous venez de décrire, c’est un système avec un accès très envahissant à travers plusieurs applications et services. Dans le contexte de Signal, cela constituerait une sorte de porte dérobée. » Dit autrement, l’assistant parfait ressemble vite à une exception permanente aux règles de sécurité.