L’IA parle bien, mais sait-elle vraiment de quoi elle parle ?

Rodney Brooks, expert en robotique, met en garde contre l’illusion des IA linguistiques. Derrière leur aisance verbale, elles restent déconnectées de la vérité. Comment éviter de tomber dans le piège ?

IA: Des maîtres en diversion

Il est impossible pour une personne de mentir à moins qu’elle ne pense connaître la vérité. Produire des balivernes ne nécessite aucune conviction semblable, écrit le philosophe Harry Frankfurt dans son livre de 2005 « On Bullshit ». Suivant ce standard, le roboticien Rodney Brooks, expert en intelligence artificielle, se convainc que les modèles linguistiques de grande taille (LLM) actuels sont de parfaits charlatans.

IA : Des promesses grandiloquentes

Ancien directeur du laboratoire d’informatique et d’intelligence artificielle du MIT et fondateur d’iRobot, Brooks a vu bon nombre de découvertes technologiques et de promesses exagérées. Lors d’une conversation approfondie avec Newsweek, deux thèmes clés ont émergé: nous ne devons pas être trompés par l’utilisation aisée de la langue par les LLM au point de croire qu’ils ont des capacités magiques. De plus, le changement sera plus lent que vous ne le pensez.

Au cœur de l’IA : l’Avertissement de Brooks

« Les LLM ne savent pas ce qui est vrai », déclare Brooks. « Ils savent simplement quelles mots fonctionnent ensemble et ils ont tout lu ce qui a jamais été écrit ou numérisé, ils connaissent donc toutes sortes d’astuces avec le langage. Ils sont des charlatans jusqu’à ce que nous puissions les ancrer dans la réalité, la vérité. » Cependant, Brooks n’est pas sceptique quant à l’IA, c’est effectivement un pionnier qui allie une connaissance technique approfondie à des décennies d’expérience dans la construction d’applications concrètes. Sa vision offre une structure cruciale pour comprendre à la fois la véritable promesse et les limites persistantes de l’intelligence artificielle.

L’approche de Brooks pour l’avenir ne consiste pas à créer un seul système d’IA omniscient, mais à combiner des outils d’IA spécialisés avec la surveillance humaine. Cette approche hybride prouve déjà son succès dans divers domaines.

IA : un outil pour améliorer les capacités humaines

Brooks préconise des systèmes d’IA réussis qui sont conçus non seulement pour des capacités techniques, mais aussi pour la compatibilité humaine. Plutôt que de poursuivre une automatisation complète qui retire les humains du processus, Brooks prône une augmentation qui améliore les capacités humaines tout en préservant l’agence humaine.

La vitesse à laquelle les nouvelles technologies seront adoptées est souvent surestimée. Les changements d’infrastructure nécessitent un investissement et une coordination massifs. Brooks déclare : « Tout prend beaucoup de temps à être adopté, même s’il s’agit de logiciels. » Au final, les systèmes d’IA ne mentent pas exactement, mais ils ne sont pas non plus ancrés dans une véritable compréhension. Ils nécessitent une supervision humaine pour être véritablement utiles, tout comme nos propres réponses intuitives et rapides ont souvent besoin d’être vérifiées par une réflexion plus lente et plus délibérée.

La clé est de maintenir une perspective, en se concentrant sur la véritable valeur plutôt que sur le battage médiatique.