Jamais L'ordinateur ...

Pierre Berger, 5 juin 2017, compléments par la suite

La montée des automatismes, algorithmes, "IA"... inquiète. Non sans raisons certes. Alors on tente souvent de se rassurer en proclamant "Jamais l'ordinateur ne pourra.... ". Nous proposons ici une petite liste de ces dénis, certains risibles, d'autres donnant à réfléchir.

Méfions-nous certes des certitudes. Par exemple Prospective en 1968... incite à la modestie

. Ce texte ne vise pas à lancer des affirmations dogmatiques, mais à discuter, aussi objectivement que possible, des assertions du type "jamais l'ordinateur ne pourra ..." (équivalemment: robot, machine, algorithme...). En matière de prospective, il faut rester prudent, comme le montre l'enquête Delphi publiée par 0.1. Informatique en décembre 1968 (cliquer pour agrandir).

- Que, sur un point ou un autre, nous ne connaissons les limites des développements possibles ne veut pas dire qu'il n'y ai pas de limites. Sauf sur certains points particuliers (comme la supériorit de l'ordinateu au jeu de Go), les points listés ci-dessous sont des questions à notre connaissance ouverte.

- La discussion peut prendre la forme de : impossible à présent, impossible même dans un futur proche (ou lointain), impossible fondamentalement.

- Dans certains cas, elle prendra la forme : "l'ordinateur est moins performant que l'humain" (voire l'animal)

- Nombre d'assertions courantes de ce type sont difficiles à discuter, car elles emploient des mots difficiles à définir. C'est le cas en particulier du mot "intelligence". Nous serons reconnaissants à ceux qui proposeront de bonnes défintions, susceptibles d'être discutées objectivement.

- Le vocabulaire même rend certaines discussions difficiles, car les mots ont des sens et en tous cas des connotations très différentes. Un avion et un oiseau "volent"... mais ça ne veut pas tout à fait "dire la même chose".

Mon impression, au fil des décennies, est de me heurter très souvent à une attitude de déni systématique. L'informatique fait peur, et l'on trouve toujours des arguments pour montrer que l'humain leur est fondamentalement supérieur. Souvent, si la conversation s'anime un peu, apparaissent des expressions typiques de ce refus : "Cela na rien à voir", "Jamais... "... "Tu rêves"... . On me considère comme un dogmatique, alors que j'ai au contraire le sentiment d'avancer des hypothèses face à des dogmes. Entrons dans le détail de ces "jamais".

 (Certaines assertions peuvent sembler invraisemblables, mais nous les avons rencontrées, au fil de conversation sur le sujet menées depuis quelque 60 ans).
Voir les remarques de Marcel Dupouy, de François Nicolet.

Assertions majeures

- ne pourra être conscient. C'est un point essentiel pour la discussion de maintes assertions, notamment celles qui portent sur les comportements matériels ou cognitifs. Personnellement, je pense que la question est ouverte. Je note qu'elle est résolue pour nombre d'auteurs qui semblent sérieux (notamment en France, Anceau et Dehaene).
. La question n'est pas simple. Où et quand commence et finit la conscience. Dans le monde animal: évident pour un vertébré supérieur, a fortiori les grands singes. Mais pour une amibe, une plante ? Et dans la vie humaine, c'est au coeur du problème de l'IVG et de l'euthanasie.
. Question annexe: qu'est-ce qui me prouve que vous etes conscient ?

- être intelligent, Points à débattre sur des définitions précises. Vers 1963, on m'a proposé "l'intelligence est la capacité de résoudre aisément des problèmes complexes". Mettant "aisément" entre parenthèses, il restait à définir la complexité. J'ai commencé avec Ashby, puis la théorie des systèmes, puis Edgar Morin, puis Kolmogorov... je crois assez définitivement que ce mot est trop flou et j'évite autant que possible l'expession "intelligencde artificielle"

- se tromper. L'affirmation est assez surprenante, mais j'ai réellement rencontré cette affirmation, la faculté de se tromper étant présentée comme une supériorité de l'humain. Il faut ici distinguer plusieurs niveaux ou sources d'erreur :

. matériellement. sauf détérioration accidentelle, les erreurs sont en général totales (panne) soit très rares, car toutes sortes d'autocorrections sont installées sur les matériels, y compris, au niveau des chips, le remplacement automatique d'un composant par un autre sur le même chip (je n'ai pas la source de cette fin), ou au niveau des lignes de transmission de données, par les protocoles de transmission

. au niveau de l'acquisition de données se produisent par construction des erreurs par approximation; noter, pour les signaux périodiques, le classique critère de Nyquist (voir par exemple le site de l'Insa de Rouen).

. au niveau des codes élémentaires (mot), emploi généralisé des codes détecteurs et auto-correcteurs

- certains systèmes (processeurs + systèmes d'exploitation) peuvent être "fault tolerant"

. au niveau des langages de programmation, les compilateurs et interpréteurs corrigent beaucoup de faute de syntaxe, quelquefois d'ailleurs au cours même de l'écriture (c'est le cas en Processing); mais évidemment ne détectent pas les erreurs "fonctionnelles"

- au niveau de la reconnaissance (audition de la voix, lecture de textes imprimés ou manuscrits), le taux d'erreur est plus ou moins important, mais jamais nul. Comme me faisait remarquer un chercheur (au laboratoire des Postes), les erreurs par "non reconnaissance" ne sont pas graves (on met l'enveloppe de côté et on traite à la main), en revanche si la machine "croit" avoir reconnu mais se trompe, la lettre sera envoyée à une mauvaise adresse).

. il en va de même pour des fonction "intelligentes" comme la prévision et la décision.

- et bien entendu, les erreurs peuvent provenir des données elles-mêmes. Dans les années 1970, on endait souvent la formule : "Gigo" (garbage in, garbage out). Progressivement, on a doté les systèmes de fonctions plus ou moins puissantes de détection des erreurs, soit d'orthographe (tous les logiciels de traitement de texte et en particulier la saisie des SMS sur un téléphone portable), soit par référence au contexte. Les requêtes sur Google sont assez puissamment dotées de ce point de vue. Au point d'ailleurs qu'il est quelquefois difficile d'imposer une requête qui semble erronée au système.

Alain Boucher note : "Dans le cas de l'AI qui gère par exemple les risques d'assurance ou les encours des banques, les défauts sont invisibles (refus de prêt ou augmentation injustifiée de prime). Et le quidam est bien en peine de s'y opposer."

Reste aussi le cas où l'on introduit volontairement l'ordinateur en erreur.

Humour des années 1970 environ. Source ?

 

- se laisser perturber ("leur fonctionnement est imperturbable"). La pratique de l'informatique montre qu'il est facile de perturber un ordinateur. Cependant toute machine un peu évoluée comporte des moyens de se protéger. Fault tolerance, redondance, etc.

 

- être sans biais. On soulève la question parce qu'un des avantages de la machine, c'est d'être impartiale (symbole classique: la balance que tient, yeux bandés), la justice. Or les machines étant créature des hommes, elles portent toujours plus ou moins les biais de leur créateur. A commencer par le droit, bien entendu. (Il y a quelques belles remarques là dessus dans International Law, de Klabbers).

 

- tenir compte du contexte. Cette objection était pertinente au début de l'informatique, avec de petits ordinateurs et de petits programmes qui ne pouvaient avoir beaucoup de mémoire. Depuis Internet et en particulier depuis Google, c'est un point où les machines sont sensiblement supérieures à l'homme, car elles "nous connaissent mieux que nous mêmes"... à de multiples points de vue. On peut s'en réjouir ou pas...

 

- dépasser les humains à tout point de vue (transhumanisme), contrairement à lat la thèse bien connue de Kurzweil, la "singularité" se produisant en 2047.

- être meilleur seul qu'une combinaison ordinateur+humain   thèse plutôt "co-évolutionniste", ou cyborg. Il y a des cas où ce n’est pas évident.  Pour un engin volant, militaire par exemple, l’emport d’un pilote introduit non seulement poids important (corps du pilote plus tout l’équipement pour qu’il survive) mais aussi des limites sur les accélérations. On peut discuter sur les problèmes de prise de décision.

 

Linguistique

 

- corriger les fautes d'orthographe. Aujoud'hui, c'est Microsoft Word plus que l'Académie qui fait norme.


- faire correctement les coupures de mots en fin de ligne (mon rédac-chef, en 1967)


- dialoguer par oral avec les humains. Cette possibilité a semblé réalisable dès les années 1960 (audio-response d'IBM). Elle semblait à portée de main du moindre PC à la fin des années 80, avec une petite carte additionnelle. On en reparle en 2017. Mais les applications sont, pensons-nous, difficiles à bien réaliser, car autant on peut détacher les heux d'une image, autant on ne peut pas se débarasser facilement d'un message sonore, et cela devient vite très agaçant.


- faire de bonnes traductions. Voir notice spécifique, y compris une note de l'historien Pierre Mounier-Kuhn

- inventer une langue. Voir travaux de Frédéric Kaplan chez Sony- CSL, hélas maintenant arrêtés.

- rire d'un jeu de mots Vallancien (p.79) . Impossible...effectivement, il faut déjà une certains sophistication de la machine. Problème notamment de contextualisation. Une bonne part des bons mots sont liés à la signifiation hic et nunc de mots à sens plus général (à vérifier).


- comprendre au second degré, (Vallancien p.58) Comme ci-dessus. Cela dit, les réactions de Google à des questions mal formulées donnent à penser.


- fouiller dans un ensemble de textes non préalablement indexés par un humain (une documentaliste, vers 1995). Réponse: Google.

 

Jeux

 

Battre l'homme :

Robot Kuka contre Timo Boll

- aux échecs, au Go, à Jeopardy. Ce n'est plus un débat. Les premiers jeux où l'ordinateur a gagné ont été le Nim et les dames (dès les années 1960)


- autennis de table. Un robot kuka joue très bien, sans gagner, voir le beau film d'une partie Robot Kuka contre Timo Boll (mars 2014). C'est relativement facile pour le robot, car sa base peut rester fixée au sol. Mais en l'occurrence, il semble de Boll, battu au débu, a ensuite trouvé un point faible chez son adversaire.

- au tennis, foot.. Là, il reste du chemin à faire ! Là, il faut pouvoir marcher, courir, prendre des positions parfois acrobatiques et en dynamique. En revanche, il y a des matches de foot pour robots entre eux.

 

Vie, existence

 

- être vivant. (relation, nutrition, reproduction) (Vallancien p.50) se décline en nutrition, reproduction... Travaux de Bailly-Longo. A ce jour, l'origine de la vie garde son mystère. Entre les grosses molécules de la chimie organique et la struture complexe des bactéries d'origine, le saut reste important. Un ordinateur "vivant" au sens plein du terme ne devrait pas exister avant longtemps. Cependant certaines fonctions de la vie sont déjà implémentées ou semblent à portée.
Voir par exemple la thèse de Nazim Fatès sur les automates cellulaires.

- être autonome. Question à tiroirs. Un cas simple est le suivant (débrancher).

On peut aussi mesurer l'autonomie (combien de temps sans se recharger), la fiabilité (temps moyen entre pannes, ou MTBF, voir Wikipedia).


A l'extrème, on peut se poser le problème de la liberté, qui fait débat même à propos des humains (questions sur la prédestination à la Renaissance). Et j'ai même proposé une "formule de la liberté", comme une sorte d'intégrale de la néguentropie. Mais c'est peut-être un peu trop demander aux formalismes...

 

- continuer à fonctionner si on le débranche. Deux axes de réponse:

1. Les ordinateurs, téléphone et autres machines disposent le plus souvent de batteries qui leur assurent quelques heures d'autonomie.
Si elles disposent de cellules solaires, l'autonomie ne dépend plus de l'énergie, mais de l'usure. Elles pourraient aussi être branchées sur un moulin à vent, à eau, à marée...

On commence à envisager des machines "autotrophes", qui seraient capables de puiser directement leur énergie "dans la nature". Imaginer par exemple une tondeuse robotique qui pourrait faire brûler le foin qu'elle ramasse...

2. Les systèmes informatiques actuels sont d'une telle importance les débrancher aurait des conséquences catastrophiques. De même que les grands banques, les grands systèmes song "too big to fail, too big to jail".

Des systèmes intelligents véritablement autonomes sont " ... une impossibilité logique. Quoique rendus plus rapides , étendus et précis, les processus qui simulent l'intelligence sont condamnés à rester, comme dans le paradoxe d'Achille et de la tortue, à la traîne des facultés cognitives humains : pendant que, à un instant donné, l'IA s'empresse d'atteindre le niveau de l'intelligence humaine, celle-ci se déplace, de telle sorte que la distance qui les sépare ne pourra jamais être annulée" (Casilli p. 303).

- se reproduire. Cette assertion est encore fréquemment rencontrée. Pourtant les virus ne sont que trop présents, et avait déjà fait l'objet de travaux par Von Neumann dans les années 1940. La reproduction porte sur les logiciels, mais il y a aussi, au moins à l'état de projet, des réalisation matérielles (citées par Heudin).

Plutôt qu'une négation, on pourrait tenter une comparaison systématique des modes de reproduction des humains (et la vie en général) et des machines. On nous permettra de pense que le mode de reproduction des humains, avec ses différents niveaux génétiques, épigénétiques et culturels, présente de sérieux défauts, qui nourrissent notamment la littérature.

- à fonction semblable, consommer moins que l'humain ou le vivant. Ce point est un enjeu planétaire(écologie), d'autant plus que la loi de Moore ne semble plus s'appliquer, en tous cas à la réduction des consommations. Faudra-t-il, pour respecter les contraintes climatiques, imposer des restrictions importantes à l'informatique, depuis les milliards de téléphones portables jusqu'aux fermes géantes des grands du web ?

 

- avoir un corps  Or "chair et esprit sont indissociables": (Vallancien p.92) piste intéressante, à préciser. La situation est-elle la même pour les réseaux neuronaux que pour les machines traditionnelles ?
Fondamentalement (si l'on n'est pas spiritualiste), il n'y a pas d'intelligence sans corps. Les machines informatiques ont toutes une implantation matérielle (et des consommations énergétiques qui deviennent préoccupantes). Cette implantation est évidemment sensiblement différente de celle des êtres vivants. En particulier, une ligne de communication pouvant être considérée comme une mémoire, on peut imaginer un logiciel qui n'existerait que comme un train d'ondes en perpétuel mouvement dans l'espace. Mais c'est tout de même un corps...

Ici aussi, on pourrait se lancer dans une comparaison méthodique du corps des humains (et vivants) et du corps des machines.

Historiquement, on pourrait dire que l'évolution va vers une séparation de plus en plus forte entre le "matériel" et le "logiciel". La matière non organique se reproduit un peu par épigénèse (cristaux)... L'apparition de la vie est celle de l'ADN, donc d'une sorte de concentration de la structure dans le noyau, structure qui se déploiera ensuite dans l'épigénèse et, plus les animaux son "supérieurs", puis cette structure se transmettra par des moyens extérieurs.

Du point de vue performances, on peut dire:

- pour les humains (à généraliser et préciser pour les autres vivants),
. des capacités impressionnantes dans certains domaines sensoriels (notamment l'odorat chez les chiens et la vision chez certains oiseaux) et peut-être plus encore moteurs (notamment la marche en milieu accidenté).
. d'étroites limites environnementales, qu'il s'agisse de la témpérature, de l'atmosphère respirable, des disponilités alimentaires ; et un "modèle" matériel qui varie peu (taille, poids, structure)

- pour les machines
. une capacité à prendre toutes sortes de formes, depuis le train d'ondes jusqu'au robot anthropoïde et aux grands ensembles "intelligents" (cloud, mais aussi cités câblées, etc.)
- des aptitudes (à condition de les doter des capteurs ad hoc) sensorielles dépassant largement les capacités humaines et animales, en précision et en gamme (par exemple, fréquences optiques)
- une capacité à prendre certaines "décisions" très rapidement (pour cette raison un couple homme+machine n'est pas toujours plus performant qu'une machine autonome, comme les militaires le savent bien)
. une capacité à mettre en oeuvre de très faibles (microprocesseurs, nanorobots) ou très grandes (grands véhicules, immeubles, usines...) masses matérielles et consommations énergétiques.
- une capacité, pour certaines, à fonctionner et survivre dans des environnements inaccessibles à l'homme (vide, zone à fortes radiations, températures, etc.)
. des faiblesses notoires, notamment pour la marche.

D'un point de vue "matérialiste", et en simplifiant beaucoup, il s'agit d'une concurrence entre deux chimies: celle de la vie avec le carbone, celle de la machine (informatique) avec le silicium. Une hypothèse raisonnable pour l'avenir est que la concurrence actuelle laissera place à une combinaison toujours plus profonde des deux chimies. Ce qu'on peut interpréter aussi, d'une manière plus "spiritualiste" comme la convergence de deux attitudes humaines: l'action sur le monde extérieur (silicium) et l'action sur soi-même (carbone).

Dans les deux cas, la réflexion sur le corps et son évolution ne doit pas se penser seulement au niveau des individus mais aussi au niveau des groupes. Si l'on veut, l'intégration actuelle de l'humanité par le "cloud" pourrait se comparer au passage des cellules individuelles aux organismes multi-cellulaires. Noter en particulier l'efficience probable d'essaims de petits drones, aussi bien pour des activités positives (observation) que négatives (miltaires notamment). En science-fiction, le sujet est évoqué par ... et pris comme centre du drame par ...

 

Comportements, émotions

 

- conduire une voiture en milieu ouvert sans pilote humain. (opinion quasiment unanime, sauf pour certains experts, jusqu'en 2012 environ). Réponse: Google car et en 2017, toute l'industrie automobile en recherche.
Il y a des doutes sur la capacité du conducteur à reprendre le contrôle assez vite en cas de problème.
Le problème fait l'objet, à partir des années 2010, d'investissements considérables dans les grandes nations industrielles;

 

- ressentir des émotions. Lié au problème de la conscience été de ses qualia. Il est facile de modéliser un système rudimentaire d'émotions.  Le domaine est très étudié par les roboticiens.  Une modélisation simpliste dans Roxame.

- rire. (Vallancien p.67)Comme tous les comportements, on peut simuler l'expression du rire (image, son, mouvements du corps) et modéliser les états de la machine qui le déclenchent. Ce serait probablement assez facile pour le rire, dont les aspects mécaniques ont été soulignés par Bergson (structure 1,2,3) et sont bien connus des amuseurs publics.

 

- avoir des intentions. Intention, égoïsme.
. Intentionalité : "l'intentionnalité qualifie un état psychologique associé à un objet".(Laurent Bloch). Ramène à conscience. Si on considère que les "états psychologiques" sont le propre des humains, ou des animaux supérieurs, alors on ne peut discuter, bien sûr
. On peut donner des objectifs intermédiaires à un robot, et il peut le faire de lui-même, par exemple pour contourner un obstacle en allant se recharger.

- se sacrifier pour un idéal, faire don de soi.(Vallancien p.87, ) Supposerait des constructions pour l'instant non envisagées. En revanche certaines machines peuvent se suicider (autodestruction de drones s'ils perçoivent que leur comportement n'est pas normal, ou qulque chose du genre).

 

Créativité, intellect

- oublier. Cette assertion semble étonnante, tant les pertes de données sont fréquentes, et la discussion sur la protection de la vie privée active. Mais ce qui est évident pour un ordinateur simple et isolé ne s'applique pas au "cloud" dans son ensemble. Disons que les machines n’ont pas les mêmes formes d’oubli que les humains, et que cela fait effectivement problème.

- anticiper. Dès Archimède ou peu après, la machine d'Anticythère est construite pour prévoir les éclipes. Puis pour prévoir la trajectoire des obus. Puis pour la gestion prévisionnelle des stock, un des premiers articles que j'ai mis en forme dans 0.1. Informatique (fin 1967ou 68) utilisait principalement le lissage exponentiel (un grand mot pour une formule assez simple, d'ailleurs).

- s'adapter à l'imprévisible. (Vallancien p.75) C'est dès l'origine l'objectif de la cybernétique. Nombre d'observateurs des réseaux neuronaux disent que justement il y a adaptation. On peut considérer que les succès de l'ordinateur aux jeux sont une preuve définitive d'adaptation à l'impérisible. Reste que, pour les machines comme pour les humains, l'adaptation a ses limites.

 

- inventer des théories, trouver de nouveaux théorèmes. Les avis des mathématiciens sont partagés. J'ai consruit un exemple simpliste qui me semble efficace.
Idée de base, une théorie est une suite de signes (voir [Bourbaki] par exemple). La suite de signes doit répondre à certaines conditions (expressions bien formées), qui sont programmables. Reste ensuite à prouver les assertions ainsi générées, soit par déduction à partir des axiomes (technique aujourd'hui largemnet employée), soit pour des phénomènes physiques, représentés en machine par des ensembles jugés suffisants d'exemple, à les prouver par induction (au sens physique du terme), avec le risque inhérent à toute généralisation de ce type.

 

- nous surprendre. Suffit-il de tirer au hasard pour nous surprendre? Il y a des choses plus intéressantes dans l'art génératif, par exemple. Mais surtout dans toutes les grandes machines de jeu (Deep Blue, Watson, AlphaGo). Voir ma communication à l'Afig 2009 : Art, algorithmes, autonomie. Programmer l'imprévisible.

- prendre des initiatives. Nous allons peut-être vers une grande inversion, où les machines prennent l'initiative et ou les humains y répondent. Exemple, encore simpliste mais impressionnant tout de même, le 9 juin 2017, en ouvrant ma page Facebook, je trouve le message ci-contre, avec une petite vidéo et sa musique.

- décider. Une machine de jeux prend incontestablement des décisions. Et non nécessairement programmés, s'il s'agit de réseaux neuronaux. On peut ici poser plusieurs questions:
. qu'est-ce que vraiment "décider". Un de mes patrons disait "Dans cette entreprise, il n'y a que moi qui prends des décisions. Les autres les exécutent".
. dans quelle mesure les humains acceptent (ou décident) de laisser la décision à une machine; on peut considérer que le droit écrit est une forme de mécanisation des décisions. Voir plus bas juge, et libre.

 

- être créatif. (Vallancien p.58). Voir surprendre. Enorme littérature.

 

- avoir de l'intuitition. (Vallancien p.58 )Pas très facile à définir. Mais le terme est employé pour montrer l'importance du théorème d'incomplétude de Gödel : dans un système formel, il y a des propositions indécidables par démonstration, mais que l'intuition nous montre comme vraies. Il y a un bel exemple dans Bailly-Longo. Voir aussi Rucker.

 

- être cultivé. (Vallancien p.67) Assez étonnant à l'époque du big data, de Google et de la machine Watson. On pourra arguer qu'une masse de connaissance n'est pas pour autant une culture, si l'on réserve a priori ce mot aux cerveaux humains (ou animaux par extension).

- être artiste. Si on ne pose pas comme apriori que l'art est une activité spécifiquement humaine, pourquoi pas. Voir notre livre l'Art génératif, et plus généralement diccan .
En revanche, si l'on pose en principe qu'une machine ne pense pas, et que l'art est l'expression d'une pensée, alors, par définition, une machine ne peut être un artiste. Sinon, les capacités de mise en contexte et d'opérations manuelles de l'art sont différentes de celles des machines, inférieures ou supérieures selon les cas.

- se reconnaitre (test du miroir). Aurait été passé avec succès dans l'équipe de Gaussier à Cergy. Voir aussi Le robot QWBO.

- prendre du recul. (Vallancien p.58) Analogie avec le zoom photographique. A préciser. Pourrait vouloir dire :
- prendre un compte un plus large contexte
- se détacher d’un cas particulier au profit d’une moyenne statistique
- traiter la question en termes plus généraux, plus abstraits

Emploi, une machine ne sera jamais :

Nota: une personne affectée à une fonction, ou pratiquant une profession, remplit toujours un double rôle : d'une part l'accomplissement des actions techniques définies par son activité, d'autre part une relation humaine avec le client, patient... Dans bien des cas, cette "relation humaine" est recherchée, mais parfois la machine est préférée pour sa disponibilité, son anonymat, son impartialité.

Par ailleurs, psychologiquement, la présence de l'humain est rassurante, même quand il y a de bonnes raisons de penser qu'un automatisme serait plus sûr.

Exemples :

- opérateur(trice) téléphonique Strowger, 1913

- poinçonneur du métro Réponse : péages automatiques, années 1960.


- balayeur. On a vu dans le métro (ou le RER) parisien, vers 1995, des robots balayeurs passer sur les quais et dans les couloirs. Puis ils ont disparu. Raison vraisemblable: laissés à eux-mêmes, ils étaient des victimes de choix pour amateurs de désordre.


- dactylo. Réponse: combien de dactylos dans les entreprises aujourd'hui ?


- conducteur de véhicule sur voie ferrée
- conducteur de véhicule automobile en milieu ouvert (voir plus haut)

- contrôleur aérien. Certains disent que, si les contrôleurs n'étaienet pas si bien syndiqués, ils auraient disparu depuis un moment.


- commercial ou commerçant. Voir Amazon, eBay, Google, et le spam.


- médecin. Un des gros espoirs déçus de la Gofia avec ses systèmes experts (années 1980).


- chirurgien. Progrès rapides de la robotique, dans différentes formes, notamment « nano »

- trader financier. Voir FTS, Fast transaction systems


- soldat.. On a eu très tôt recours aux machines, et la "défense" a toujours fortement soutenu l'informatique (projet Manhattan)


- agriculteur . Avec la conduite automatique et le pilotage par GPS, complété par une adaptation précuse à la qualité locale du sol... pourquoi faudrait-il que l'agriculteur aille sur ses champs?
La gestion des cultures selon les parcelles est aussi mise en algorithmes. La météo comme prévision.

 

- éleveur. Un peu plus difficile peut-être.

 

- jardinier. OK pour la tonte des pelouses, mais pour le reste ...

- cuisinier(e). Au niveau industriel, bien sur. A la maison... il y a bien des « robots » pour la cuisine, mais ce ne sont pas vraiment des robots.


- femme de ménage. Difficile d'épousseter le dessus d'une commode avec les bibelots précieux qui viennent de la grand-mère


- assistante de vie. Difficile techniquement et humainement. Recherches activese au Japon notamment, où c'est une nécessité face au vieillissement, à la baisse de natalité et au rejet des travailleurs étrangers. Travaux japonais importants sur les robots de compagnie.  


- infirmier(ère). Développements japonais. Voir un exemple, montrant des applications limitées.

- juge . Réponse: radars sur les routes. Et quelques notes en Law, Justice, Robots, Algorithms (en cours de révision et traduction vers l'anglais).

 
- journaliste. En 2017, une grande part des textes publiés sont préparés par des machines, ou "par les gens ordinaires"

- correcteur typographique. Que reste-t-il de ce métier en 2017 ? Juqu’aux années 1970_80, il était respecté et protégé syndicalement.

- musicien(ne). Voir notamment les travaux de Chatonsky, non seulement pour les instrumentistes, mais pour la composition. Cela dit, vous n'êtes pas obligés d'aimer cette musique ;


- programmeur(se). Question à tiroirs. Les compilateurs, puis les méthodes d'analyse (années 1970-90) puis les grands logiciels ont poussé vers le haut les outils de programmation. Reste que l'on écrit encore aujourd'hui en C, C++, Java voire Cobol. Dans quelle proportion?

- psychologue ou psychiatre. On connaît l'histoire, et les résultats très discutables d'Eliza (Weizenbaum, années 1960), qui a pourtant encore des amateurs en 2017.


- enseignant, professeur. Cela dépend pourquoi.
. Noter que la plupart des matériels et logiciels informatiques, y compris les caméras, les téléphones, etc. sont livrés pratiquement sans manuels. L'utilisateur apprend par tâtonnements avec quelques aides. Et l'avis des copains.
. Les "machines à enseigner" puis l' enseignement assisté par ordinateur ont ouvert de grands et aujourd'hui les Mooc ont ouverts de grands espoirs, loin de s'être largement concrétisés.

- ami(e). "Si tu veux un ami, prends un chien" (Churchill). Difficile de penser que l'on puisse aller très loin avec une machine, même si des relations très fortes s'établissent.


- partenaire de jeu. Un mur peut suffire, si vous avez une balle, mais c'est aussi une industrie aussi lourde que le cinéma.


- entremetteur(se)agence matrimoniale. IBM y a pensé dès les années 1960 ou 70. Aujourd'hui les réseaux sociaux.


- partenaire sexuel(le). Il y avait déjà des olisbos dans les grottes préhistoriques. Cependant, notamment au Japon, les love dolls font des progrès réguliers.

- prêtre. Par définition (théologique et canoique) un prêtre (catholique en tous cas) est un homme, donc pas une machine. Et, autant que je sache, ni la messe ni la confession à distance ne sont validées par Rome. Mais vous pouvez prier avec votre smartphone, grâce à quelques applications, notamment Angelus, de Bayard Presse . En cinq langues, dont le latin, et la possibilité de programmerdes alertes aux heures adéquates. Et, plus globale (mais payante), Prions en Eglise. Enfin, vous pouvez vous retire des distractions du monde avec Retraite dans la Ville

- mystique. ? Mais pourquoi une machine partagerait-elle ce type d'état psychologique? Ces expériences sont aujourd'hui considérées comme indépendantes des croyances religieuses. Pourrait-il y avoir un équivalent en machine?

- président(e) de la république. Lol.

Relations avec les humains

Ces thèmes ne peuvent prendre sens qu'avec des machines où l'on aurait déjà développé une forme de psychisme, avec notamment un système émotionnel, qui serait en partie analogue au nôtre. Est-ce impossible?
En sens inverse, un humain peut très bien éprouve de l'empathie pour un robot ou n'importe quel objet, par projection plus ou moins "animiste". C'est une spécialité japonaise, rendue nécessaire chez eux par le vieillissement et donc le besoin de "robots de compagnie".

- sympathisant partageant  des passions (Vallancien p.67) ; semble impossible pour un bon moment. Il faudrait que les machines aient des passions, ce qui n'est pas impensable (voir émotions), comprennent celles des humains et entrent en partage... voir ci-dessous, empathie. Le mot "passion" est d'ailleurs ambigu, avec des aspects positifs ("elle se passionne pour l'informatique") mais aussi négatifs ("il est l'esclave de ses passions".

- avoir de l'empathie(Vallancien p.67) Il y a des travaux de Michel Bret.

- partager des valeurs. (Vallancien p.67) Pour certaines valeurs, nous pouvons les transposer en machine dans une certaine mesure. Notamment en matière boursière (FTS, Fast transaction systems) ou en esthétique (voir ma communication >Aesthetics and Algorithms : Around the Uncanny peak à Laval Virtual 2013).

- apprendre les limites à ne pas dépasser pour respecter la dignité humaine. (Vallancien p.88). Question complexe. Etudié par le Moi Robot d'Asimov (le livre). Problème de l'uncanny valley.

Une Image de la singularité d'après Fabius Maximus

Eléments de Bibliographie

Généralités

CASILLI Antonio A. : En attendant les robots. Seuil 2019.
ENGELIBERT Jean-Paul (ed.) : L'homme fabriqué. Récits de la création de l'homme par l'homme. Garnier 2000. 1182 pages regroupant les textes ou traductions des grands auteurs du domaine, depuis Hoffmann jusqu'à Angela Karter, en passant par Poe (Le joueur d'échecs), Villiers de l'Isle Adan (L'Eve future), Capek (RUR) et Huxley (Le meilleur des mondes), avec en annexe Ovide, Descartes, La Mettrie, Baudelaire et Truong.
STEPHENSON Neal : L'age de diamant . Editions Rivages, 1996. Education nano-robots, essaims de drones
SUAREZ Daniel : Kill Decision . Dutton 2012 . Essaims de drones de combat.
VALLANCIEN Guy : Homo Artificialis. Michalon 2017

Conscience

RUYER Raymond : Paradoxes de la conscience et limites de l'automatisme. Albin Michel, 1956
PENROSE Roger : Les ombres de l'esprit. A la recherche d'une science de la conscience. InterEditions 1995
CHURCHLAND M. : Matiere et conscience. Champs-Vallon 1999
ANCEAU Francois : Vers une etude objective de la conscience. Hermes Science 1999
CARDON Alain : Conscience artificielle et systemes adaptatifs. Eyrolles (?) 1999
DAMASIO Antonio : Self comes to mind. Constructing the conscious brain. Pantheon books 2010
CHALMERS David : L'esprit conscient. A la recherche d'une theorie fondamentale. Paris, Ithaque 2010
DEHAENE Stanislas : Le Code de la conscience. 0dile Jacob 2009- 2013

Intelligence

BOURBAKI N. : Eléments de mathématiques. Livre I. Théorie des ensembles. Chapitre1. Description de la mathématique formelle. Hermann 1960.
FEIGENBAUM Edward A. et FELDMAN Julian, editors : Computers and Tthought. Mac Graw Hill 1963. Reedite MIT Press 1995 (Vaste ollection d'articles, notamment de Turing)
LEVY Pierre : Les technologies de l'intelligence. L'avenir de la pensee a l'ere informatique. Editions La Decouverte, 1990
ROBERT Claudine : Modèles statistiques pour l'intelligence artificielle. L'exemple du diagnostic médical. Masson 1991
MCCORDUCK Pamela : Aaron's code. Meta-art, artificial intelligence and the work of Harold Cohen. Freeman 1991. Un grand pionnier de la peinture générative. Voir aussi dans diccan.
BOLO Jacques : Philosophie contre intelligence artificielle. Lingua Franca 1996
DYSON George B. : Darwin among the Machines. The evolution of global intelligence. Perseus 1997
SALLANTIN Jean : Les agents intelligents. 1997
CREVIER Daniel : A la recherche de l'intelligence artificielle. Flammarion 1999
KAPLAN Frederic : La naissance d'une langue chez les robots. Hermes science 2001.
FRANCHI Stefano and GUZELDERE Guven (eds.) : Mechanical bodies, computational minds. Artificial intelligence from Automata 2005
NECHVATAL Joseph : Towards an immersive intelligence. New York, 2009
BOSTROM Nick : Superintelligence. Paths, Dangers, Strategies. Oxford University Press 2014
GRESS : L'oeil et l'intelligible Kime 2015
DORMEHL Luke : Thinking Machines. The quest for artificial intelligence, and where it's taking us next. Tarcherperigee 2017. (Belle synthèse)

Jeux

HSU Feng-Hsiung : Behind Deep Blue. Princeton university press 2002. La machine qui battit Kasparof aux échecs.
MILLINGTON Ian : Artificial intelligence for games. Elsevier 2006
BAKER Stephen : Final Jeopardy. Man Vs. Machine and The Quest to Know Everything. Houghton 2011 (la machine Watson. Ouvrage narratif mais hélas très peu technique)
TUAL Mogane : En un an, Google a révolutionné le jeu de Go. Le Monde 28-29 mai 2017
BERGSON Henri : Le rire. 1900
BREAZEAL Cynthia L. : Designing sociable robots. MIT Press 2002
MAGNENAT-THALMANN N. et THALMANN D. (eds.) : Handbook of Virtual Humans. Wiley 2004

Créativité

LAWSON John Howard : Film : the Creative Process. New York, Bill & Wang 1964
BODEN Margaret : Dimensions of creativity. MIT Press 1994
GREENBERG Ira : Processing, Creative coding and computational art. Friendsoft 2007
ESCLAPEZ Christine (sous la direction de) : Ontologies de la creation en musique. L'Harmattan 2012
MCCORMACK Jon and D'INVERNO Mark eds. : Computers and Creativity. Springer 2012
BONACCORSI Julia et al. : Arts et creations au prisme des TIC. L'Harmattan 2015

Art génératif

COX Geoff : Anti-thesis. The dialectics of generative art. 1990C
BOTHNACKER Hartmut, GROSS Benedikt, LAUB Julia et LAZZERONI Claudius : Design generatif. Concevoir, programmer, visualiser. 2010
BERGER PIerre et LIORET Alain : L'art génératif. Jouer a Dieu... un droit ? un devoir ? L'Harmattan 2012
GALLANTER Philip : What is generative art ? Complexity theory as a context for art theory. 2013
CHATONSKY : Capture, generative netrock. Centre des arts d'Enghien, 2014
BERGER: Le projer Roxame.3 (à mettre en ligne).

Vie

LUDWIG Mark : Computer viruses, Artifical Life and Evolution. American Eagle, 1993
BODEN Margaret : The philosophy of artificial life. Oxford University Press, 1996
ALLARD Laurence, GARDEY Delphine et MAGNAN Nathalie : Manifeste cyborg et autres essais. Sciences - Fictions - Feminism 2000C
WHITELAW Mitchelll : Metacreation. Art and artificial life. MIT 2004
JOHNSTON John : The allure of machinic life. Cybernetics, artificial life and the new AI. MIT Press 2008
BAILLY Francis and LONGO Giuseppe : Mathematics and the Natural Sciences. The physical Singularity of Life. Imperial college 2011
NELSON Kevin : The Spiritual Doorway in the Brain. Dutton 2011.

Emploi, transhumanisme

KLABBERS Jan : International Law. Cambridge University Press, 2013.
KURZWEIL Ray : The singularity is near. Penguin 2005. Et voir Wikipedia
VAIDHYANATHAN Siva : The Googlization of Everything (and why we should worry). University of California Press 2011
STEINER Christopher : Automate this . Penguin 2012
SUSSKIND Richard : Tomorrow's Lawyers. An introducion to your future. Oxford University Press 2013

Valeurs

ASIMOV Isaac : I Robot. (éditeur ?) 1950