Peut-on considérer que ChatGPT est intelligent ? En répondant à nos sollicitations avec une aisance stupéfiante, il donne l’impression de comprendre les mots qu’il utilise. Pourtant, il ne traite que des données en suivant des modèles statistiques, sans saisir la signification de ses propos. On associe ce phénomène au concept de la chambre chinoise. Dans cet épisode, découvrons cette fascinante expérience de pensée et les enseignements que nous pouvons en tirer. C’est parti !
Version vidéo
Version audio
Qu’est ce que la chambre chinoise ?
Une expérience de pensée révélatrice
Certains connaissent peut-être le test de Turing. Son but est d’évaluer la capacité d’une machine à imiter l’intelligence humaine. Pour ce faire, un humain interagit à l’aveugle avec le système testé et un autre humain. S’il ne parvient pas à les distinguer, alors la machine est considérée comme « intelligente ». A ce jour plusieurs technologies (ex : les IA génératives) réussissent le test de Turing, mais peut-on réellement considérer ces systèmes comme intelligents, dotés d’un “esprit” ou en mesure de comprendre le langage ?
En étudiant le sujet, le philosophe américain John Searle conçoit l’expérience de la chambre chinoise en 1980. Il enferme dans une pièce une personne qui ne connaît pas un mot de chinois. L’individu dispose uniquement d’un livre contenant des instructions détaillées pour manipuler les symboles de cette langue. Des questions en chinois lui sont glissées sous la porte et il doit y répondre. Grâce aux règles du livre, il parvient à rédiger des réponses correctes. C’est là que ça devient intéressant, car pour les observateurs extérieurs, il est facile de croire que leur interlocuteur comprend le chinois. Pourtant, il ne fait que traiter des symboles sans en saisir le sens. C’est exactement le cas des intelligences artificielles comme ChatGPT. Elles génèrent des phrases pertinentes en manipulant des données à partir de règles statistiques sans pour autant avoir de conscience ou de compréhension. C’est le concept mis en évidence par la chambre chinoise.
Pour illustrer très simplement, on peut prendre l’exemple du perroquet qui dit « Bonjour, comment ça va ? ». Même si sa phrase est correcte, il ne comprend pas son propre discours; il se contente de répéter des sons.
Enseignements sur la chambre chinoise
L’expérience de pensée de la chambre chinoise soulève des questions profondes sur l’intelligence et notre perception de la compréhension.
D’une part, il est essentiel de reconnaître les limites des intelligences artificielles génératives qui donnent l’illusion de compréhension. En réalité, ces systèmes produisent “bêtement” des résultats cohérents grâce à des règles édictées dans des algorithmes. Malgré tout, ces technologies sont de formidables outils pour traiter l’information. Il convient juste de rester prudent et garder son discernement lorsqu’on les utilise.
Le deuxième point que l’on peut noter est que le test de Turing est insuffisant pour déterminer si un système est réellement “intelligent”. Toutefois, il reste adapté pour évaluer la capacité d’une machine à imiter l’intelligence humaine.
Enfin, cela soulève aussi une question profonde : qu’est-ce que l’intelligence ? Est-ce la capacité à comprendre, communiquer, s’adapter, résoudre des problèmes ? Est-elle logique, émotionnelle, créative ou encore sociale ? Encore aujourd’hui, il existe de multiples définitions pour ce terme. A ce titre, la chambre chinoise nous invite à réfléchir à notre conception de l’intelligence.
Conclusion
Un système peut imiter l’intelligence humaine en manipulant des données à partir de règles spécifiques, sans pour autant comprendre les résultats qu’il produit. Cette illusion de la compréhension est mise en lumière par l’expérience de pensée de la chambre chinoise.
Sources
Wikipedia – Chambre chinoise : https://fr.wikipedia.org/wiki/Chambre_chinoise
__________________________
Retourner à la page d’accueil du projet P07
__________________________