Alan Turing : Le jeu de l'imitation

Extraits de l'article de 1950

repris par Dennette et Hofstadter : "Vues de l'esprit", Interéditions, Paris, 1987

Je propose de considérer la question : "Les machines peuvent-elles penser ? ". Il faudrait commencer par définir le sens des termes "machine" et "penser". Les définitions pourraient être conçues de manière à refléter autant que possible l'utilisation normale des mots, mais cette attitude est dangereuse. Si on doit trouver la signification des mots "machine" et "penser" en examinant comment ils sont communément utilisés, il est difficile d'échapper à la conclusion du que la signification de la question "les machines pensent-elles ? " et la réponse à cette question doivent être recherchées dans une étude statistique telle que le sondage d'opinion. Mais ceci est absurde. Au lieu de m'essayer à une telle définition, je remplacerai la question par une autre, qui lui est étroitement liée et qui est exprimée en des termes non-ambigus.

La problème reformulé peur être décrit dans les termes d'un jeu que nous appellerions le "jeu de l'imitation". Il se joue à trois : un homme (A), une femme (B), et un interrogateur (C) qui peut être de l'un ou l'autre sexe. L'interrogateur se trouve dans une pièce à part, séparé des deux autres. L'objet du jeu pour l'interrogateur est de déterminer lequel des deux est 'homme et lequel est la femme. Il les connaît sous les appellations X et Y et à la fin du jeu, il doit déduire soit que "X est A et Y est B", soit que "X est B et Y est A". L'interrogateur peut poser des questions à A et B de la manière suivante :
- C : "X peut-il ou peut-elle me dire, s'il vous plaît, quelle est la longueur de ses cheveux ?"

Supposez à présent que X soit vraiment A, alors A doit lui répondre. La finalité du jeu pour A est d'essayer d'induire C en erreur. Sa réponse pourrait donc être :
- "Mes cheveux sont coupés à la garçonne et les mèches les plus longues ont à peu près vingt centimètres de long".

Pour que le ton de la voie ne puisse pas aider l'interrogateur, les réponses devraient être écrites, ou mieux, dactylographiées. L'installation idéale serait une téléimprimante communiquant entre les deux pièces. A défaut les questions et réponses peuvent être répétées par un intermédiaire. L'objet du jeu pour le troisième joueur (B) est d'aider l'interrogateur. La meilleure stratégie pour elle est probablement de donner les réponses vraies. Elle peut ajouter à ses réponses des choses telles que "Je suis la femme, ne l'écoutez pas !" , mais cela ne servira à rien, car l'homme peut faire des remarques similaires.

Nous posons maintenant la question : "Qu'arrive-t-il si une machine prend la place de A dans le jeu ? ". L'interrogateur se trompera-t-il aussi souvent que lorsque le jeu se déroule entre un homme et une femme ? Ces questions remplacent la question originale "Les machines peuvent-elles penser".

John Searle : La fable de la chambre chinoise

Reproduite dans Sennett et Hofstadter, ainsi que dans la revue Quaderni (Dauphine), 1987

Supposons que je sois enfermé dans une chambre et que l'on me donne une masse de texte chinois. Supposons également (ce qui est le cas) que je ne connaisse pas le chinois, ni écrit, ni parlé, et que je ne sois pas certain de pouvoir distinguer l'écriture chinoise de, par exemple, l'écriture japonaise ou de n'importe quels signes cabalistiques. Pour moi, l'écriture chinoise n'est justement constituée que de signes cabalistiques incompréhensible.

Supposons maintenant qu'après ce premier lot d'écrits, on me donne un deuxième lot de textes chinois avec un ensemble de règles de corrélation entre le second et le premier lot. Ces règles sont en anglais, et je les comprends aussi bien que n'importe quelle autre personne de langue maternelle anglaise. Elles me permettent de faire le lien enter deux ensembles de symboles formels, l'adjectif "formel" signifiant ici que je peux identifier les symboles uniquement par leurs formes.

Supposons encore qu'on me donne un troisième lot de symboles chinois accompagné d'instructions, toujours en anglais, me permettant d'établir un rapport entre des éléments de ce troisième lot et les deux premiers lors, et que ces règles m'indiquent comment produire certains symboles chinois ayant certaines formes en échange de certaines formes qui m'ont été remises dans le troisième lot.

Ce que je ne sais pas, c'est que ceux qui me donnent tous ces symboles appellent le premier lot une "écriture", le deuxième une "histoire" et le troisième des "questions". Quant aux symboles que je leur rends en échange du troisième lot, il les les appellent des "réponses aux questions", l'ensemble des règles en anglais constituant le "programme".

Maintenant, pour compliquer un peu l'histoire, imaginez que ces personnes me donnent également des histoires en anglais, que je comprends, donc, et qu'elles me posent ensuite des questions sur ces histoires, questions auxquelles je réponds en anglais. Imaginons aussi qu'au bout d'un moment, je suive les instructions de manipulations des symboles chinois avec une telle maestria, et que les programmeurs écrivent les programmes avec un tel brio que d'un point de vue externe - c'est à dire du point de vue de quelqu'un qui se trouverait hors de la pièce dans laquelle je suis enfermé - mes réponses aux questions soient absolument indiscernables de celles que donneraient des Chinois. Quelqu'un qui lirait mes réponses ne pourrait pas se rendre compte que je parle pas un traître mot de chinois.

Imaginons encore que mes réponses en anglais soient, ce qui serait sans aucun doute le cas, indiscernables de celles d'autres personnes de langue maternelle anglaise. D'une point de vue externe, c'est-à-dire du point de vue de quelqu'un qui lirait mes "réponses", les réponses aux questions chinoises et aux questions anglaises seraient tout aussi bonne. Or, dans le cas du chinois, j'ai produit des réponses uniquement en manipulant des symboles formels non interprétés. En ce qui concerne le chinois, je me suis comporté comme un ordinateur : j'ai accompli des opérations de calcul sur des éléments formels définis. Et je suis qu'un équivalent concret du programme.

Les prétentions de l'IA forte sont, comme nous l'avons vu, que l'ordinateur programmé comprend les histoires et que, d'une certaine façon, le programme explique la compréhension humaine. Nous sommes maintenant en mesure de les examiner à la lumière de noter expérience mentale (...).

Dans le cas du chinois, j'ai tout ce que l'intelligence artificielle peut me fournir sous forme de programme et je ne comprends rien ; dans le cas de l'anglais, je comprends tout, et il n'y a jusqu'ici aucune raison de supposer que ma compréhension ait quelque chose à voir avec des programmes d'ordinateur, c'est-à-dire avec des opérations de calcul sur des éléments définis de façon purement formelle.

Daniel Andler. Extraits de "Le cognitivisme en question"

in Cahiers du Crea, n° 9 Ecole polytechnique

Introduction : Vus sous un certain angle, l'esprit humain et l'ordinateur fonctionnent, pour l'essentiel, de la même façon : de cette conjecture sont issues l'IA et la psychologie cognitive, sur cette conjecture sont fondés certains des principes actuels de la discipline qui aspirent à s'inscrire dans le champ unifié de l'une science de la cognition à venir.

Pour donner corps à cette "métaphore de l'ordinateur", pour justifier son usage littéral, tout un faisceau de programmes de recherche se développe depuis une trentaine d'années. Le terme de "cognitivisme" est une étiquette commode pour désigner ce que ces approches, qu'elles soient philosophiques, scientifiques ou techniques, ont en commun : un noyau de concepts, un vocabulaire, une manière de penser la cognition comme phénomène naturel, comme problème à résoudre, comme objet d'ingénieur.

Le cognitivisme a puisé aux mêmes sources que la cybernétique, mais s'en est tôt détaché, pour de multiples raisons : or les critiques et les difficultés auxquelles il s'est heurté au cours de ces vingt dernière années d'existence autonome l'ont amené à revenir sur certains de ses choix, et ont favorisé en son sein, ou en ses marges, des courants hétérodoxes. Ceux-ci opèrent, de façon plus ou moins consciente et délibérée, une manière de retour à la cybernétique, supplantée au cours de la première période. Pourrant la cybernétique demeure exclue, pour l'essentiel, de l'histoire du cognitivisme et des débats auxquels il donne lieu.

Nous sommes maintenant en mesure de donner une formulation schématique de la doctrine cognitivisme sous sa forme contemporaine (p. 16-17) :

- Penser, c'est calculer. i.e. manipuler des symboles suivant les règles du langage formel dont les symboles constituent le vocabulaire. La pensée est un processus propre à certains systèmes (pensants, cognitifs : qualitatifs en général sous-entendus), catégorie dans laquelle le cognitivisme range aussi bien l'esprit humain que les systèmes nerveux centraux des différentes espèces animales et les ordinateurs d'aujourd'hui ou de demain.

- Les symboles sont des objets matériels que des systèmes matériels manipulent conformément à des règles de fonctionnement interne, sensibles uniquement à la forme (i.e. à certaines caractéristiques physiques fonctionnellement pertinentes) des symboles.

- Les symboles sont porteurs d'un sens. Quand un système manipule des symboles, il construit des objets composés dont le sens résulte d'une composition conforme des sens attachés aux composants : la structure sémantique est entièrement déterminée par la structure syntaxique, si bien que le sens de tout symbole résulte du sens des symboles primitifs.

- Le sens que porte un symbole est une information sur le monde (pris anse son acception la plus large : choses, états de choses, pensées, énonciations...). Le système contient donc des représentations, et penser consiste pour lui à les transformer en d'autre représentations.

Discussion

sur les textes de Turing, Searle et D. Andler

A propose de ces textes, nous revenons à des discussions sur des thèmes qui nous sont maintenant familiers sur le rationnel, la représentation : nous n'avons pas accès au réel, mais à certaines réalités que nous nous représentons.

cf. Bergson, la pensée et le mouvant PUF
cf la querelle des universaux.

Comment trouver du "même" dans des choses singulières ? On occulte certaines choses, pour en dire d'autres. Dans le chaos qui nous entoure, on essaie de retenir les phénomènes cruciaux : ceux qui nous permettent de prévoir le futur, en fonction de nos finalités. La connaissance est une intentionnalité projetée sur le réel.

La réalité que nous appréhendons est une construction sociale : comment construisons-nous un fait ? une représentation du réel ? la science est un montage social. Il serait à cet égard intéressant d'établir un parallèle enter le montage social que représente un procès et la science. La comparaison aiderait la science à se connaître elle-même, ainsi que la justice.

Mais la finalité ne veut pas être reconnue par les sciences, dans une perspective positiviste. Les postulats positivistes s'énoncent ainsi :
- rien n'est caché (pourtant des choses échappent),
- il existe quelque part un regard absolu qui fonde l'unité du monde (cf. Descartes).
Le cognitivisme et le traitement de l'information impliquent ces postulats.

Questions à poser au traitement de l'information (TI) :
- Le TI est-il assimilable à un traitement automatique ?
- Tout TI est-il assimilable à un calcul (mathématique) ?
- Le TI est-il réductible à un rapport entre écritures ?
- Le rapport entre écritures est-il assimilable à un calcul ?

On serait tenté de répondre "non" à toutes les questions, mais il n'existe (par exemple) pas de théories capables de montrer des TI non automatisables. Comme le calcul régit les sciences prédictives si les réponses aux quatre questions ne sont pas positives, les sciences prédictives doivent être revues à la baisse.

Ces questions seront reprises comme thèmes de futures réunions.

Compte-rendu rédigé par C. Hoffsaes.