Publié le 29 janvier 2024.
Par Christophe Romei

Quand les chatbots se muent en thérapeutes numériques

Publié le 29 janvier 2024.
Par Christophe Romei

Microsoft s'aventure dans le domaine de la santé émotionnelle avec un brevet pour un chatbot spécialisé. Ce système, destiné à tous mais particulièrement aux seniors, vise à analyser et répondre aux besoins émotionnels des utilisateurs, en utilisant leurs données pour un suivi personnalisé. Toutefois, cette technologie soulève des questions éthiques importantes sur la vie privée et l'exactitude de la détection des émotion

Imaginez un monde où votre smartphone/ordinateur, non content de gérer vos e-mails, se transforme en votre thérapeute personnel. C’est le pari fou que Microsoft semble prendre avec son nouveau projet de chatbot, dédié à la “bienveillance émotionnelle”. Ce petit génie numérique, loin d’être un simple outil de conversation, a pour mission de veiller sur votre bien-être psychologique. Microsoft, dans un élan de sollicitude presque paternel, envisage ce système comme un soutien particulièrement précieux pour nos aînés, qui pourraient ainsi naviguer dans leurs années dorées avec un compagnon virtuel à leurs côtés.

Il est de plus en plus fréquent d’entendre que l’intelligence artificielle (IA) pourrait devenir le système d’exploitation (OS) de demain, en remplacement potentiel des systèmes actuels comme iOS ou Android. Cette idée, qui considère l’IA comme un OS, offre une métaphore intéressante et mérite une discussion approfondie, que nous aborderons dans un article dédié. Microsoft, ayant échoué dans le domaine du hardware mobile, pourrait avoir des regrets, surtout que les IA avancées telles que les LLM et SLM nécessitent un hardware adéquat. En attendant, le smartphone reste le leader dans l’univers des OS : fin 2022, 54 % de la population mondiale, soit 4,3 milliards d’individus, possédaient un smartphone.

Google et Apple vont encore mener la ronde quelques années 😜

Comment ça marche ?

Le fonctionnement de ce chatbot serait un petit bijou de technologie s’il voyait le jour. Imaginez : il analyse vos images, vos données de profil, et même le contenu de vos conversations. Votre passé, vos expériences, tout est stocké dans ce qu’on pourrait appeler un “dossier mémoire”. Mais ce n’est pas tout ! Le système intègre un modèle d’analyse émotionnelle pour classifier vos propos selon différentes émotions et y répondre de manière appropriée. Microsoft envisage même d’étendre cette analyse à votre voix, vos images, et vos vidéos. Un vrai petit espion bienveillant, n’est-ce pas ?

Des bénéfices… et des risques

Toutefois, comme souvent avec les nouvelles technologies, ce tableau idyllique cache quelques zones d’ombre. Brian P. Green, du Markkula Center for Applied Ethics, pointe du doigt les risques potentiels de ce système. Le principal ? Le chatbot pourrait analyser et surveiller l’état psychologique et cognitif des utilisateurs, parfois à leur insu. Cela soulève d’importantes questions de confiance et de vie privée. Après tout, confieriez-vous vos secrets les plus intimes à un ami qui les note soigneusement dans un carnet caché ? Ajoutons à cela les difficultés techniques. La détection des émotions par l’IA est loin d’être infaillible. Les nuances culturelles et intergénérationnelles rendent la tâche herculéenne. Microsoft, malgré son intention louable, pourrait se heurter à un mur de complexité et d’inexactitude.

Analyse et perspective

En conclusion, l’initiative de Microsoft s’inscrit dans une tendance croissante d’humanisation de la technologie comme les recherches de Google. Bien que louable, elle nous confronte à des dilemmes éthiques et techniques non négligeables. Le succès de tels systèmes repose sur un équilibre délicat entre empathie numérique et respect de la vie privée. La technologie peut-elle vraiment remplacer la chaleur humaine sans franchir les lignes de notre intimité  ? C’est le défi que Microsoft devra relever, sous l’œil vigilant d’une société de plus en plus consciente des enjeux éthiques liés à l’IA.

Lire aussi