---

     Asimov, éventuellement Higon
    
     ... Un texte incomplet. réponse à une lette de je ne sais qui.
    
     La machine doit bien se tromper de temps en temps, à mon avis, et cela est arrivé chez nous. Mais évidemment la probabilité la plus forte d'erreur est certainement chez les prorammmeur, qui manipule au fond des idées plus complexes, qui conçoit, penant que la machine galope avec des conditions d'auto-contrôle qui la rendent très sûre. Je peux t'e dire que quand je fais des additions avec ma petite machine de bureau, je me dis toujours aussi que moi qui me suis trompé, et c'est le dax (J'ai eu, depuis 5 ans à la Compagnie, deux fois seulemnet dans e service, des machines qui ont débloqué).
    
La question de la responsabilité est un peu différente. si on admet qu'elle est faillible, on pourra dire par extension, en cas d'erreur ayant des conséquances graves, que la machine a été responsble, comme on l'a dit par exemple du radar pour certains collisions maritimes où, pourtant, les coupables étient plutôt des capitaines imprudents. Si on ne fait pas passer la machine en cour d'assies, on pourra tout de même décier qu'elle a fait son temps, et la mettre à la casse. La similitude avec le procèspourra être augmentée si la machine elle-même est utilisée pour détecter et trouver la source des erreurs commises: cela revient, par analogie, à la mettre au banc des accusés. On pourra ensuite rechercher les responsabilités humaines qui ont engendré cette erreur (mauvais entretien, mauvaise programmation).
    
     Quant à dire que l'électronique constitue un fait radicalement nouveau, d'accord, et il est difficile de rechercher  dans l'histoire des faits qui puissnt nous aider à résoudre les problèems qu'elle pose.
    
On me dit souvent, à la suite de mon article, que la machine créer plus d'emplois qu'elle n'en suppprime et que le chômage est donc impossible, que bien au contraire nous sommes de plus en plus débordés par une fgoule d'activités, et que c'est plutôt le surmenage qui serait à craindre.
    
Peut-être. mais l'électronique, par son caractèred'automatisation radicale, pourrait bien agir en sens contraire... Dans une certaine mesure, il nous appartient, collectivemnet, de décider si nous voulons ou non une civilisqtion des loisirs. Les options de nos plans de développement, quinquennaux ouj non, en décideront.
    
Il faut choisir entre le repos et l'abondance des biens de consommation (*10/92: la situation s'inverse: pour maximiser les biens de consommation, il faudra sans doute arrêter de déranger les machiens qui les produisent), du moins entre l'accent mis sur l'un ou sur l'autre. Il y a aussi les services, certains étant automatisables, d'autres peut-être aussi, mais de moins en moins facilement, quand les services prennent un caractère humain de plus en plus marqué, à la limite pas du tout, quand le service à rendre est essentiellemnet une compréhension humaine, la visite à uen pesonne seule, par exemple.
    
Par ailleurs, l'aide aux pays sous-développés et l'expansion démographique suffiront à absorver une bonne partie de l'accroissemnet de productivité. Dans la mesure où le conrôle des naissances est possible, il ay a là aussi un moyen de se donner plus ou moins de loisirs, les entants étant une charge très lourde et leur  éducation tant peu automatisable.
    
Enfin, l'importance de l'effort de recherdhe et de conquête de l'espace peut être lui aussi mesuré et servir à déterminer la quantité de loisirs que l'on veut donner à l'humanité.
    
Eu un mot, nous aurons la civilisation des loisir si nous le voulons. C'est assez réconfortant, à conditoin que les structures de décision collectives fonctionnent de façon satisfaisante et que les électeurz puissent choisir en
connaissance de cause.
    
On cherche à se rassurer en se disant que tous les mécanismes sont compréhensibles. Et c'est exact, et on peut penser qu'ils le resteront encore un certain temps. Cependant, si l'on sait faire des machiens améliorant elles-mêmes leurs programmes (software) ou arrivera (c'est déjà commencé) à
utiliser la machine elle-même pour améliorer ses circuits ou construire ceux d'une machine plus perfectionnée.
    
Le degré de complexité pourrait finir par nous dépasser. C'est cependant une hypothèse assez gratuite pour le moment. Mais, dès à présent, les circuits de la machine ne sont compréhensibles que par une petite minorité de spécialistes, globalement seulemnt par les utilisateurs et pas du tout pour le vulgaire. Il y a là une source de dangers.
    
D'autre part, il faut distinguer le compréhensible et le contrôlable. Tant que la machine ne traite que de l'inforamtion et de sort que des informations sous dorme de langage, le danger n'est pas trop grand, bien que la mauvaise compréhension d'une statistique puisse conduire à des décisions fausses ou dangereuses. Par contre, là où la machine commande des dispostifis d'action réels, le danger est plus sensible. On cite le cas d'une fabrique de bière anglaise qui a laisse partir aux zgôuts un million de litres de bière, l'ordinateur ayant décidé, on ne sait pourquoi, que ce type de bière n'étiat plus demandé par les consommageurs. Le danger est encore plus grand quand la machine contrôle des armes, nucléaires ou non. Et c'est déjà le cas! Evidemment, certaines mesures de précaution sonr prises, mais non infaillibles.
    
je pense donc que la compréhension des mécanismes de base ne peut suffire à nous tranquiliser, et qui'l ne peut être qu'estion d'ailleurs de^tre toute à fait tranquilles. L'appel à l'automation est une source certaine de riqeus. Le jeu en vaut la chandelle, mais il ne faut pas se faire d'illusions, on ne fait pas d'omelettes sans casser d'oeurs. L'indépendance de la mchinee n'est pas, et est de moins enmoins, subjective.
    
Vient ensuite dans ta lettre une phrase extrêmement précieuse, et qui me donne beaucoup à réfléchir: la sémantique d'une question dégénère avec le nombre d'instructions qu'elle génère (ta phrase était plus euphonique que la mienne, d'ailleruss). Je connais mal le contenu de la notion de sémantique. Atrement dit (si je comprends bien), plus une question est complexe, maoins ou peut être sûr de bien comprendre la réponse.
    
Dans le domaine normal, on peut trouver des analogies. Si je demande à un employé de faire tel travail, relativement simple, très bien défini, et ne demandant aucune initiative de sa part, et s'il est consciencieux, je peux être sûr de ce qu'il me donne, et je peux d'ailleurs le vérifier assez aisément par sondage ou par recoupement.
    
Mais si je lui confie une tâche plus générale, s'exprimant petu-être ent très peu de mots, exigeant de sa part réflexion, adaptation initiative, je sui obligé de lui "faire confiance", je ne peux plus tout véfirifer, et il s peut qui'l se fasse de son travail une idée un peu différente de ce que je voulais.
    
Allons plus haut. Quant un Directeur confie à un cadre une certainefonction hiérarchie, avec des responsabilités, cette tâche devient un peu la "chose" de ce cadre, qui la traitera comme il l'entendra (dans une certaine mesure), et dont la personnalité aura une influcence certaine sur la qualité et les résulats même de son travail et de celui de son personnel. Ce cadre et son équipe seront devenus une aprte relativemnte autonome de l'entreprise.
    
le Directeur pourra donner des corrections d'orientation, ajuster ses directives. Il ne pourra être le maître absolu et, si le travail ne lui convient vraiment pas, il lui restera à remplacer ce cadre, sans pouvoir pour autant reprendre le travail déjà fait. Bref, l'autonomie de ce cadre est telle qu'il échappe largement à ses supérieurs, qu'il devient partie prenance des
responsabilités de l'entreprise, qu'il y a une réelle délégation de pouvoirs. L'entreprise ne peut plus être considérée comme monolithique, mais comme une communuté de personnesl où se créent et subsistent tensions, incertitudes, où une marge d'erreurs, de divergences, est inévitable.
    
On aurait un mouvement analogue avec le développement de la machine. Plus il y a de disproportion entre la quantité d'insructions que je lui donne (instructions au sens large) et le travail qu'elle exécute (nombre d'instructions au sens technologique), plus elle se comporte comme un être autonome, plus il y a délégation de responsabilité. Cette disproportion pourrait s'exprimer sous forme d'un rapport simple: instructions données/ quantité d'information représentée par le travail réel. Mais il faudrait sans doute préciser.
    
On peut d'ailleurs certainement démontrer que, pour que le nombre d'instructions générées par un ordre ou une question soit supérieur à 1, il faut que la machine ait, dans sa structure ou dans ses mémoires, "quelque chose", une certaine quantité d'inforamtion préalable à cet ordre. Le cas est bien clair quand on utilise des langages de programmation, où il faut ajouter à la structure de la machine un compilateur adéquat. Au fur et à mesure que ces langages se développeront, et utiliseront des instructions deplus en plus larges, ces compilateurs se développeront jusqu'à donner une certaine personnalité à lamachine.
    
 On peut d'ailleurs imaginer une machine ayant à la base une culture générale" équivalente à celle d'un certain niveau de culture, lui permettant de comprendre directemnet le genre d'instructions qu'on donne à un subordonné. Il est vai que cela suppose une mémoire d'accus suffisamment rapide de taille considérable, et notre technologie présnte ne le permet guère,
mais enfin cela ne paraît pas impensable jsuqu'à un certain niveau. la strucgure d'une telle machine et, en particulier, l'organisation de sa mémoire, lui donnerait sans doute un certain type de réactions assez semblables aux caractéristiques d'une "mentalité".
    
A la limite, splendide, il y a l'appel de Dieu à l'homme, qui peut se résumer par un seul ordre: tu m'aimeras. Cet ordre entraîne une quasi-infinité de réponses partielles de la part de l'homme, toute une vie. l'expérience du péché originel a montré en effet qu'il y a une dégénérescence! Encore faudrait-il disginguer le péché qui a en lui même des caractrères spécifiques de refus volontaire, à ne pas confondre avec la simple imperfection ou défaillance.
    
C'est peut-être pour faire face à cette disproportion entre l'ordre trop simple et l'application indéfinie que l'home a cherché à codifier, sous l'inspiration de Dieu d'ailleurs, la loi divine, ce qui consiste à compliquer le programme pour le rendre plus proche du code "machine", de cette machine qu'est un peu l'homme.
    
Mais ceci ne suffit ps, et la Loi tue, comme Saint Paul le dit, autrement dit le programme détaillé finit toujours par diverger de l'intention première. Or la machine semble faite pour vivre sous la loi et, autant qu'on puisse le penser, ne peut pas se référer, comme nous par la grâce, à l'esprit qui vivivie. Elle ne peut d'ailleurs pas, normalemnet, aller contre la loi, etn tous cas "volontaireemnt", et ne peut donc pécher au sens propre.

    
    
 Cette dégénérescende de la loi face à l'appel concret de Dieu ou de l'autre dans la réalité peut trouver deux exemples connus.

1/ La dégénérescence talmudique, c'est àd ire l'effort finalemnet stérile fait pour adapter une loi finie à toutes les situations de l'existence. C'est le problème des pharisiens qui, à force de gloser sur les commandements de Dieu tels qu'exprimés dns la Torah, finissaient par rendre la vie impossible et l'amour réel de Dieu encore plus. Assez curieusement, la dégénérescence
casuistique du XVIIeme sicèle aboutissait à ces conclusions inverses.

2/ La limite d'application des lois physiques. On donne d'agord une expression très simple, comme la loi de Mariotte, disant qu'une certaine quantité de gaz enfermée voit sa pression augmenter en proportion de la diminution de son volume. Puis on s'aperçoit qu'il faut introduire toute sortes de corrections pour appréhender la ralité, seuls des gaz "parfaits" (construction de l'esprit) obéissant à la loi... puis les nouveles formulations apparaissent encore insuffisantes, etc. (Un phénomène équivalent se produit avec les systèmes philosophiques trop logiques et trop peu vécus.

L'exemple scientifique est de loin le meileur, car dans la science moderne, appuyée sur les mathématiques, la logique est aussi rigoureuse qu'au sein d'un ordinateur (note: il n'y  pas à "interpréter", question à voir); alors que dans les domaines moraux et philosophiques (non sans rapport entre eux), les mots ne peuvent jamais avoir un sens parfaitement défini, car aucune définition de l'amour, par exemple, ne pourra épuiser la réalité de l'amour.
 
Et toute construction logique sur cette définition est à la merci d'un aspect non vu par la définition et venant rndre aberrant le résultats des déductions. Ceci rend impossible la construction d'un système philosophique intégralemnet logique.
    
Le péché de l'ordinateur est donc tout autre chose que celui de l'homme. L'homme en effet pêche souvent par inobservation de la loi( morale ou juridique), alors que la machine ne peut pécher contre la loi que "inadvertance", si l'on peut dire, ce qui n'est pas moralement coupable.
    
On retrouve là, sans doute, la différence entre l'esprit et la matière. la vie morale se situe dans un monde de relations de esonnes et ces relations, utilisant de fait des moyens (paroles, ction), sont de soi transcendantes à ces moyens. Dans une ertaine mesure, ces moyens apparaissent parfois comme un frein ouloureux, là où ils se révèlent incapables à nous assurer le
contact. Ou ils sont une séparation.
    
Dans la pratique, que signifie ce péché originel? Le but que ous assignons à la machine est
     1. de nous aider à traiter des informations complexes
     2. de nous libérer de travaux sans intérêt pour nous ermettre de nous consacrer à des tâches plus nombes. Peut-^'tre eut-on trouer des lumières dans les prédécesseurs de 'électronique, c'est à dire pour la 1e câche, les machines omptables et les cartes perforées, la machine "automatique" classieu pour la deuxième tâche.
    
Peut-on dire des cartes perforées qu'elles ont entraîné une égénérescence par rapport aux intentions premières? 

De toutes façons, on peut penser que le remède à cette égénérescence est le dialogue et, de fait, cette recherche est ou-jacente à diverses recherches actuelles. Elle inspire pour ne part les programmes de jeu (échecs, dames, voir Newell, Shaw and Simon). Elle est à l'origine de la construction des compilateurs permettant d'utiliser des langages plus maniables, plus proches de nos habitudes que le langage machine.
    
     Le Cobol, en particulier, s'écrit presque intégralement en langage ordinaire, malgré une colleciton de restricions ans rapport avec nos exigences propres. L'effort fait pour le rendre lisible a d'ailleurs pour conséquecne de le renvre verbeux (thèse). Un langage comme l'Algol, conçu pour les mathématiciens, est nettement plus bref et plus maniable pour un scientifique habitué à manipuler des équations.
    
Jusqu'à présent, les limites de puissance des machines et leur prix exorbinatnt rendaient le dialogue très difficile. Pour dialoguer, il faut un échange de questions de de réponses (non seulement d'ordre intellectuel, mais aussi d'ordre affectif, et on cherche aussi à développer pour la machine, un équivalent du couple récompense/punition, qui est essentiel à nos relations interpersonnelles). Le prix de la machine oblige à bloquer cet échange en blocs importants. Le programme est établi en entier, passé une fois en machine.

En règle générale, la machine ne comprend pas bien "du premier coup", ou plus exactement, le programmeur ne s'explique jamais de manière absolument correcte dans son premier jet, aussi, après un premier passage "test", le programme est rectifié (debugged) avant de le lancer pour de bon.
    
Les résultats obtenus sont ensuite longuement analysés, la machine étant libérée pendant ce temps, puis un programme nouveau est mis en route pour permettre d'aller plus loin. C'est un peu la situation de personnes qui ne peuvent communiquer que par la poste, et doivent de plus chiffrer leurs messges. Méthode non sans efficacité, qui a l'avantage de "laisser des traces" et, dans le cas présent, de réduire au maximum le temps-machine.
    
    
     ...
(réponse par le dialogue
    
recherche en ce sens
     . learning machines
     . les jeux
     . les langages de programmation
     le procédé actuel est balistique, raisons
     . il faut arriver au contrôle permanent
     . exemple opposé des machines en temps réel
     introduction de la multi-programmation
       de la mémoire de masse
     programmation en temps réel
       multiplication des voies d'accès
       implique une augmentation de la puissance de la machine
       utilisation de l'analogique
    
     Conclusion partielle: possibilité de la commande permanente
       le contrôle (compréhension, contrôle)
       problème de la santé mentale de l'individu
                de la hiérarchie des finalités
                des hiérarchies sociales
                de la communicatione t du secret
    
Remarque
       finalité de la machine, finalité de l'opérate (limites encore))

 

Texte de 72
(Nota 92. je pense avoir écrit ce texte en 1972. Je commençais à me sentir à l'aise à Informatique et Gestion, et voulais rassembler des idées).