Prospective en 1968... incite
à la modestie Pierre Berger, 5 juin 2017, compléments par la suite
La montée des automatismes, algorithmes, "IA"... inquiète. Non sans raisons certes. Alors on tente souvent de se rassurer en proclamant "Jamais l'ordinateur ne pourra.... ". Nous proposons ici une petite liste de ces dénis, certains risibles, d'autres donnant à réfléchir.
Méfions-nous certes des certitudes. Par exemple
Prospective en 1968... incite
à la modestie
. Ce texte ne vise pas à lancer des affirmations dogmatiques, mais à discuter, aussi objectivement que possible, des assertions du type "jamais l'ordinateur ne pourra ..." (équivalemment: robot, machine, algorithme...). En matière de prospective, il faut rester prudent, comme le montre l'enquête Delphi publiée par 0.1. Informatique en décembre 1968 (cliquer pour agrandir).
- Que, sur un point ou un autre, nous ne connaissons les
limites des développements possibles ne veut pas dire qu'il n'y ai pas de limites. Sauf sur certains points particuliers
(comme la supériorit de l'ordinateu
au jeu de Go), les points listés ci-dessous sont des questions à notre
connaissance ouverte.
- La discussion peut prendre la forme de : impossible à présent, impossible
même dans un futur proche (ou lointain), impossible fondamentalement.
- Dans certains cas, elle prendra la forme : "l'ordinateur est moins
performant que l'humain" (voire l'animal)
- Nombre d'assertions courantes de ce type sont difficiles à discuter, car
elles emploient des mots difficiles à définir. C'est le cas en particulier du
mot "intelligence". Nous serons reconnaissants à ceux qui proposeront
de bonnes défintions, susceptibles d'être discutées
objectivement.
- Le vocabulaire même rend certaines discussions difficiles, car les mots ont des sens et en tous cas des connotations très différentes. Un avion et un oiseau "volent"... mais ça ne veut pas tout à fait "dire la même chose".
Mon impression, au fil des décennies, est de me heurter très souvent à une attitude de déni systématique. L'informatique fait peur, et l'on trouve toujours des arguments pour montrer que l'humain leur est fondamentalement supérieur. Souvent, si la conversation s'anime un peu, apparaissent des expressions typiques de ce refus : "Cela na rien à voir", "Jamais... "... "Tu rêves"... . On me considère comme un dogmatique, alors que j'ai au contraire le sentiment d'avancer des hypothèses face à des dogmes. Entrons dans le détail de ces "jamais".
(Certaines
assertions peuvent sembler invraisemblables, mais nous les avons rencontrées,
au fil de conversation sur le sujet menées depuis quelque 60 ans).
Voir les remarques de Marcel Dupouy,
de François
Nicolet.
- ne pourra être
conscient. C'est un point essentiel pour la discussion de maintes
assertions, notamment celles qui portent sur les comportements matériels ou
cognitifs. Personnellement, je pense que la question est ouverte. Je note
qu'elle est résolue pour nombre d'auteurs qui semblent sérieux (notamment en
France, Anceau et Dehaene).
. La question n'est pas simple. Où et quand commence et finit la conscience.
Dans le monde animal: évident pour un vertébré supérieur, a fortiori les grands
singes. Mais pour une amibe, une plante ? Et dans la vie humaine, c'est au coeur du problème de l'IVG et de l'euthanasie.
. Question annexe: qu'est-ce qui me prouve que vous etes
conscient ?
- être intelligent, Points à débattre sur des définitions précises. Vers 1963, on m'a proposé "l'intelligence est la capacité de résoudre aisément des problèmes complexes". Mettant "aisément" entre parenthèses, il restait à définir la complexité. J'ai commencé avec Ashby, puis la théorie des systèmes, puis Edgar Morin, puis Kolmogorov... je crois assez définitivement que ce mot est trop flou et j'évite autant que possible l'expession "intelligencde artificielle"
- se tromper.
L'affirmation est assez surprenante, mais j'ai réellement rencontré cette
affirmation, la faculté de se tromper étant présentée comme une supériorité de
l'humain. Il faut ici distinguer plusieurs niveaux ou sources d'erreur :
. matériellement. sauf
détérioration accidentelle, les erreurs sont en général totales (panne) soit
très rares, car toutes sortes d'autocorrections sont installées sur les
matériels, y compris, au niveau des chips, le remplacement automatique d'un
composant par un autre sur le même chip (je n'ai pas la source de cette fin),
ou au niveau des lignes de transmission de données, par les protocoles de
transmission
. au niveau de l'acquisition de données se produisent
par construction des erreurs par approximation; noter, pour les signaux
périodiques, le classique critère de Nyquist (voir
par exemple le site de l'Insa de Rouen).
. au niveau des codes élémentaires (mot), emploi généralisé des codes
détecteurs et auto-correcteurs
- certains systèmes (processeurs + systèmes d'exploitation) peuvent être "fault tolerant"
. au niveau des langages de programmation, les
compilateurs et interpréteurs corrigent beaucoup de faute de syntaxe,
quelquefois d'ailleurs au cours même de l'écriture (c'est le cas en Processing); mais évidemment ne détectent pas les erreurs
"fonctionnelles"
- au niveau de la reconnaissance (audition de la voix, lecture de textes
imprimés ou manuscrits), le taux d'erreur est plus ou moins important, mais
jamais nul. Comme me faisait remarquer un chercheur (au laboratoire des
Postes), les erreurs par "non reconnaissance" ne sont pas graves (on
met l'enveloppe de côté et on traite à la main), en revanche si la machine
"croit" avoir reconnu mais se trompe, la lettre sera envoyée à une
mauvaise adresse).
. il en va de même pour des fonction
"intelligentes" comme la prévision et la décision.
- et bien entendu, les erreurs peuvent provenir des données elles-mêmes. Dans
les années 1970, on endait souvent la formule :
"Gigo" (garbage in, garbage
out). Progressivement, on a doté les systèmes de fonctions plus ou moins
puissantes de détection des erreurs, soit d'orthographe (tous les logiciels de
traitement de texte et en particulier la saisie des SMS sur un téléphone
portable), soit par référence au contexte. Les requêtes sur Google sont assez
puissamment dotées de ce point de vue. Au point d'ailleurs qu'il est
quelquefois difficile d'imposer une requête qui semble erronée au système.
Alain
Boucher note : "Dans le cas de l'AI qui gère par exemple les
risques d'assurance ou les encours des banques, les défauts sont invisibles
(refus de prêt ou augmentation injustifiée de prime). Et le quidam est bien en
peine de s'y opposer."
Reste aussi le cas où l'on introduit volontairement l'ordinateur en erreur.
- se laisser perturber ("leur fonctionnement est imperturbable"). La pratique de l'informatique montre qu'il est facile de perturber un ordinateur. Cependant toute machine un peu évoluée comporte des moyens de se protéger. Fault tolerance, redondance, etc.
- être sans biais. On soulève la question parce qu'un des avantages de la machine, c'est d'être impartiale (symbole classique: la balance que tient, yeux bandés), la justice. Or les machines étant créature des hommes, elles portent toujours plus ou moins les biais de leur créateur. A commencer par le droit, bien entendu. (Il y a quelques belles remarques là dessus dans International Law, de Klabbers).
- tenir compte du contexte. Cette objection était pertinente au début de l'informatique, avec de petits ordinateurs et de petits programmes qui ne pouvaient avoir beaucoup de mémoire. Depuis Internet et en particulier depuis Google, c'est un point où les machines sont sensiblement supérieures à l'homme, car elles "nous connaissent mieux que nous mêmes"... à de multiples points de vue. On peut s'en réjouir ou pas...
- dépasser les humains à tout point de vue (transhumanisme), contrairement à lat la thèse bien connue de Kurzweil, la "singularité" se produisant en 2047.
- être meilleur seul qu'une combinaison ordinateur+humain thèse plutôt "co-évolutionniste", ou cyborg. Il y a des cas où ce n’est pas évident. Pour un engin volant, militaire par exemple, l’emport d’un pilote introduit non seulement poids important (corps du pilote plus tout l’équipement pour qu’il survive) mais aussi des limites sur les accélérations. On peut discuter sur les problèmes de prise de décision.
- corriger les fautes d'orthographe. Aujoud'hui, c'est Microsoft Word plus que l'Académie qui fait norme.
- faire correctement les coupures de
mots en fin de ligne (mon rédac-chef, en 1967)
- dialoguer par oral avec les humains.
Cette possibilité a semblé réalisable dès les années 1960 (audio-response d'IBM). Elle semblait à portée de main du moindre
PC à la fin des années 80, avec une petite carte additionnelle. On en reparle
en 2017. Mais les applications sont, pensons-nous, difficiles à bien réaliser,
car autant on peut détacher les heux d'une image,
autant on ne peut pas se débarasser facilement d'un
message sonore, et cela devient vite très agaçant.
- faire de bonnes traductions. Voir notice
spécifique, y compris une note de l'historien Pierre Mounier-Kuhn
- inventer une
langue. Voir travaux de Frédéric Kaplan chez Sony- CSL, hélas
maintenant arrêtés.
- rire d'un jeu de mots Vallancien (p.79) .
Impossible...effectivement, il faut déjà une certains sophistication
de la machine. Problème notamment de contextualisation.
Une bonne part des bons mots sont liés à la signifiation
hic et nunc de mots à sens plus général (à vérifier).
- comprendre au second degré, (Vallancien p.58) Comme ci-dessus. Cela dit, les réactions
de Google à des questions mal formulées donnent à penser.
- fouiller dans un ensemble de textes
non préalablement indexés par un humain (une documentaliste, vers 1995).
Réponse: Google.
Battre l'homme :
Robot Kuka contre Timo Boll
- aux échecs, au Go, à Jeopardy. Ce n'est plus un débat. Les premiers jeux où l'ordinateur a gagné ont été le Nim et les dames (dès les années 1960)
- autennis de table. Un robot kuka joue très bien, sans gagner,
voir le beau film d'une partie
Robot Kuka contre Timo Boll (mars 2014). C'est relativement facile pour le robot,
car sa base peut rester fixée au sol. Mais en l'occurrence, il semble de Boll,
battu au débu, a ensuite trouvé un point faible chez son adversaire.
- au tennis, foot..
Là, il reste du chemin à faire ! Là, il faut pouvoir marcher, courir, prendre
des positions parfois acrobatiques et en dynamique. En revanche, il y a des
matches de foot pour robots entre eux.
- être vivant.
(relation, nutrition, reproduction) (Vallancien p.50) se décline en nutrition, reproduction...
Travaux de Bailly-Longo. A ce jour, l'origine de la vie garde son mystère.
Entre les grosses molécules de la chimie organique et la struture
complexe des bactéries d'origine, le saut reste important. Un ordinateur
"vivant" au sens plein du terme ne devrait pas exister avant
longtemps. Cependant certaines fonctions de la vie sont déjà implémentées ou
semblent à portée.
Voir par exemple la thèse de Nazim Fatès
sur les automates cellulaires.
- être autonome. Question à tiroirs. Un cas simple est le suivant (débrancher).
On peut aussi mesurer l'autonomie (combien de temps sans se recharger), la fiabilité (temps moyen entre pannes, ou MTBF, voir Wikipedia).
A l'extrème, on peut se poser le problème de la
liberté, qui fait débat même à propos des humains (questions sur la
prédestination à la Renaissance). Et j'ai même proposé une "formule
de la liberté", comme une sorte d'intégrale de la néguentropie.
Mais c'est peut-être un peu trop demander aux formalismes...
- continuer à fonctionner
si on le débranche. Deux axes
de réponse:
1. Les ordinateurs, téléphone et autres machines disposent le plus souvent
de batteries qui leur assurent quelques heures d'autonomie.
Si elles disposent de cellules solaires, l'autonomie ne dépend plus de
l'énergie, mais de l'usure. Elles pourraient aussi être branchées sur
un moulin à vent, à eau, à marée...
On commence à envisager des machines "autotrophes", qui seraient
capables de puiser directement leur énergie "dans la nature".
Imaginer par exemple une tondeuse robotique qui pourrait faire brûler
le foin qu'elle ramasse...
2. Les systèmes informatiques actuels sont d'une telle importance les
débrancher aurait des conséquences catastrophiques. De même que les grands
banques, les grands systèmes song "too big to fail,
too big to jail".
Des systèmes intelligents véritablement
autonomes sont " ... une impossibilité logique. Quoique rendus
plus rapides , étendus et précis, les processus qui simulent
l'intelligence sont condamnés à rester, comme dans le paradoxe
d'Achille et de la tortue, à la traîne des facultés
cognitives humains : pendant que, à un instant donné, l'IA
s'empresse d'atteindre le niveau de l'intelligence humaine, celle-ci se
déplace, de telle sorte que la distance qui les sépare ne
pourra jamais être annulée" (Casilli p. 303).
- se reproduire. Cette assertion
est encore fréquemment rencontrée.
Pourtant les virus ne sont que trop présents, et avait déjà fait l'objet
de travaux par Von Neumann dans les années 1940. La reproduction porte
sur les logiciels, mais il y a aussi, au moins à l'état de projet, des
réalisation matérielles (citées par Heudin).
Plutôt qu'une négation, on pourrait tenter une comparaison systématique
des modes de reproduction des humains (et la vie en général) et des machines.
On nous permettra de pense que le mode de reproduction des humains, avec
ses différents niveaux génétiques, épigénétiques
et culturels, présente de sérieux défauts, qui nourrissent notamment la
littérature.
- à fonction semblable, consommer
moins que l'humain ou le vivant. Ce point est un enjeu planétaire(écologie),
d'autant plus que la loi de Moore ne semble plus s'appliquer, en tous
cas à la réduction des consommations. Faudra-t-il, pour respecter les
contraintes climatiques, imposer des restrictions importantes à l'informatique,
depuis les milliards de téléphones portables jusqu'aux fermes géantes
des grands du web ?
- avoir un corps Or "chair et esprit sont
indissociables": (Vallancien p.92) piste
intéressante, à préciser. La situation est-elle la même pour les réseaux
neuronaux que pour les machines traditionnelles ?
Fondamentalement (si l'on n'est pas spiritualiste), il n'y a pas d'intelligence
sans corps. Les machines informatiques ont toutes une implantation matérielle
(et des consommations énergétiques qui deviennent préoccupantes). Cette implantation
est évidemment sensiblement différente de celle des êtres vivants. En
particulier, une ligne de communication pouvant être considérée comme une
mémoire, on peut imaginer un logiciel qui n'existerait que comme un train
d'ondes en perpétuel mouvement dans l'espace. Mais c'est tout de même un
corps...
Ici aussi, on pourrait se lancer dans une comparaison
méthodique du corps des humains (et vivants) et du corps des machines.
Historiquement, on pourrait dire que l'évolution va vers
une séparation de plus en plus forte entre le "matériel" et le
"logiciel". La matière non organique se reproduit un peu par
épigénèse (cristaux)... L'apparition de la vie est celle de l'ADN, donc d'une
sorte de concentration de la structure dans le noyau, structure qui se déploiera
ensuite dans l'épigénèse et, plus les animaux son "supérieurs", puis
cette structure se transmettra par des moyens extérieurs.
Du point de vue performances, on peut dire:
- pour les humains (à généraliser et préciser pour les autres vivants),
. des capacités impressionnantes dans certains
domaines sensoriels (notamment l'odorat chez les chiens et la vision chez
certains oiseaux) et peut-être plus encore moteurs (notamment la marche en
milieu accidenté).
. d'étroites limites environnementales, qu'il s'agisse
de la témpérature, de l'atmosphère respirable, des disponilités alimentaires ; et un "modèle"
matériel qui varie peu (taille, poids, structure)
- pour les machines
. une capacité à prendre toutes sortes de formes,
depuis le train d'ondes jusqu'au robot anthropoïde et aux grands ensembles
"intelligents" (cloud, mais aussi cités
câblées, etc.)
- des aptitudes (à condition de les doter des capteurs ad hoc) sensorielles
dépassant largement les capacités humaines et animales, en précision et en gamme
(par exemple, fréquences optiques)
- une capacité à prendre certaines "décisions" très rapidement (pour
cette raison un couple homme+machine n'est pas toujours plus performant qu'une
machine autonome, comme les militaires le savent bien)
. une capacité à mettre en oeuvre
de très faibles (microprocesseurs, nanorobots) ou
très grandes (grands véhicules, immeubles, usines...) masses matérielles et
consommations énergétiques.
- une capacité, pour certaines, à fonctionner et survivre dans des environnements
inaccessibles à l'homme (vide, zone à fortes radiations, températures, etc.)
. des faiblesses notoires, notamment pour la marche.
D'un point de vue "matérialiste", et en simplifiant beaucoup, il s'agit d'une concurrence entre deux chimies: celle de la vie avec le carbone, celle de la machine (informatique) avec le silicium. Une hypothèse raisonnable pour l'avenir est que la concurrence actuelle laissera place à une combinaison toujours plus profonde des deux chimies. Ce qu'on peut interpréter aussi, d'une manière plus "spiritualiste" comme la convergence de deux attitudes humaines: l'action sur le monde extérieur (silicium) et l'action sur soi-même (carbone).
Dans les deux cas, la réflexion sur le corps et son évolution ne doit pas se penser seulement au niveau des individus mais aussi au niveau des groupes. Si l'on veut, l'intégration actuelle de l'humanité par le "cloud" pourrait se comparer au passage des cellules individuelles aux organismes multi-cellulaires. Noter en particulier l'efficience probable d'essaims de petits drones, aussi bien pour des activités positives (observation) que négatives (miltaires notamment). En science-fiction, le sujet est évoqué par ... et pris comme centre du drame par ...
- conduire une
voiture en milieu ouvert sans pilote humain. (opinion
quasiment unanime, sauf pour certains experts, jusqu'en 2012 environ). Réponse:
Google car et en 2017, toute l'industrie automobile en recherche.
Il y a des doutes sur la capacité du conducteur à reprendre le
contrôle assez vite en cas de problème.
Le problème fait l'objet, à partir des années 2010, d'investissements
considérables dans les grandes nations industrielles;
- ressentir des
émotions. Lié au problème de la conscience été de ses qualia.
Il est facile de modéliser un système rudimentaire d'émotions. Le domaine est très étudié par les
roboticiens. Une modélisation simpliste
dans Roxame.
- rire. (Vallancien
p.67)Comme tous les comportements, on peut simuler l'expression du rire (image,
son, mouvements du corps) et modéliser les états de la machine qui le
déclenchent. Ce serait probablement assez facile pour le rire, dont les aspects
mécaniques ont été soulignés par Bergson (structure 1,2,3)
et sont bien connus des amuseurs publics.
- avoir des intentions.
Intention, égoïsme.
. Intentionalité : "l'intentionnalité qualifie
un état psychologique associé à un objet".(Laurent
Bloch). Ramène à conscience. Si on considère que les "états
psychologiques" sont le propre des humains, ou des animaux supérieurs,
alors on ne peut discuter, bien sûr
. On peut donner des objectifs intermédiaires à un robot, et il peut le faire
de lui-même, par exemple pour contourner un obstacle en allant se recharger.
- se sacrifier pour un idéal, faire don de soi.(Vallancien p.87, ) Supposerait des constructions pour l'instant non envisagées. En revanche certaines machines peuvent se suicider (autodestruction de drones s'ils perçoivent que leur comportement n'est pas normal, ou qulque chose du genre).
- oublier.
Cette assertion semble étonnante, tant les pertes de données sont fréquentes,
et la discussion sur la protection de la vie privée active. Mais ce qui est
évident pour un ordinateur simple et isolé ne s'applique pas au "cloud" dans son ensemble. Disons que les machines n’ont
pas les mêmes formes d’oubli que les humains, et que cela fait effectivement
problème.
- anticiper. Dès Archimède ou peu après, la machine d'Anticythère est
construite pour prévoir les éclipes. Puis pour
prévoir la trajectoire des obus. Puis pour la gestion prévisionnelle des stock, un des premiers articles que j'ai mis en forme
dans 0.1. Informatique (fin 1967ou 68) utilisait principalement le lissage
exponentiel (un grand mot pour une formule assez simple, d'ailleurs).
- s'adapter à l'imprévisible. (Vallancien p.75) C'est dès l'origine l'objectif de la
cybernétique. Nombre d'observateurs des réseaux neuronaux disent que justement
il y a adaptation. On peut considérer que les succès de l'ordinateur aux jeux
sont une preuve définitive d'adaptation à l'impérisible.
Reste que, pour les machines comme pour les humains, l'adaptation a ses
limites.
- inventer des
théories, trouver de nouveaux théorèmes. Les avis des mathématiciens sont
partagés. J'ai consruit un exemple
simpliste qui me semble efficace.
Idée de base, une théorie est une suite de signes (voir [Bourbaki] par
exemple). La suite de signes doit répondre à certaines conditions (expressions
bien formées), qui sont programmables. Reste ensuite à prouver les assertions
ainsi générées, soit par déduction à partir des axiomes (technique aujourd'hui largemnet employée), soit pour des phénomènes physiques,
représentés en machine par des ensembles jugés suffisants d'exemple, à les
prouver par induction (au sens physique du terme), avec le risque inhérent à
toute généralisation de ce type.
- nous surprendre. Suffit-il de tirer au hasard pour nous surprendre? Il y a des choses plus intéressantes dans l'art génératif, par exemple. Mais surtout dans toutes les grandes machines de jeu (Deep Blue, Watson, AlphaGo). Voir ma communication à l'Afig 2009 : Art, algorithmes, autonomie. Programmer l'imprévisible.
- prendre des initiatives. Nous allons peut-être vers une
grande inversion, où les machines prennent l'initiative et ou les humains y
répondent. Exemple, encore simpliste mais impressionnant tout de même, le 9
juin 2017, en ouvrant ma page Facebook, je trouve le message ci-contre, avec
une petite vidéo et sa musique.
-
décider. Une machine de jeux prend
incontestablement des décisions. Et non nécessairement programmés, s'il s'agit
de réseaux neuronaux. On peut ici poser plusieurs questions:
. qu'est-ce que vraiment "décider".
Un de mes patrons disait "Dans cette entreprise, il n'y a que moi qui
prends des décisions. Les autres les exécutent".
. dans quelle mesure les humains acceptent (ou
décident) de laisser la décision à une machine; on peut considérer que le droit
écrit est une forme de mécanisation des décisions. Voir plus bas juge, et
libre.
- être créatif. (Vallancien p.58). Voir surprendre. Enorme littérature.
- avoir de l'intuitition. (Vallancien p.58 )Pas très facile à définir. Mais le terme est employé pour montrer l'importance du théorème d'incomplétude de Gödel : dans un système formel, il y a des propositions indécidables par démonstration, mais que l'intuition nous montre comme vraies. Il y a un bel exemple dans Bailly-Longo. Voir aussi Rucker.
- être cultivé. (Vallancien
p.67) Assez étonnant à l'époque du big data, de
Google et de la machine Watson. On pourra arguer qu'une masse de connaissance
n'est pas pour autant une culture, si l'on réserve a priori ce mot aux cerveaux
humains (ou animaux par extension).
- être
artiste. Si on ne pose pas comme apriori que l'art est une
activité spécifiquement humaine, pourquoi pas. Voir notre livre l'Art
génératif, et plus généralement diccan .
En revanche, si l'on pose en principe qu'une machine ne pense pas, et que l'art
est l'expression d'une pensée, alors, par définition, une machine ne peut être
un artiste. Sinon, les capacités de mise en contexte et d'opérations manuelles
de l'art sont différentes de celles des machines, inférieures ou supérieures
selon les cas.
- se reconnaitre (test du miroir).
Aurait été passé avec succès dans l'équipe de Gaussier
à Cergy. Voir aussi Le robot QWBO.
- prendre
du recul. (Vallancien p.58) Analogie
avec le zoom photographique. A préciser. Pourrait vouloir dire :
- prendre un compte un plus large contexte
- se détacher d’un cas particulier au profit d’une moyenne statistique
- traiter la question en termes plus généraux, plus abstraits
Nota: une personne affectée à une fonction, ou pratiquant
une profession, remplit toujours un double rôle : d'une part l'accomplissement
des actions techniques définies par son activité, d'autre part une relation
humaine avec le client, patient... Dans bien des cas, cette "relation
humaine" est recherchée, mais parfois la machine est préférée pour sa
disponibilité, son anonymat, son impartialité.
Par ailleurs, psychologiquement, la présence de l'humain est rassurante, même
quand il y a de bonnes raisons de penser qu'un automatisme serait plus sûr.
Exemples :
- opérateur(trice) téléphonique Strowger, 1913
- poinçonneur du métro Réponse :
péages automatiques, années 1960.
- balayeur. On a vu dans le métro
(ou le RER) parisien, vers 1995, des robots balayeurs passer sur les quais et
dans les couloirs. Puis ils ont disparu. Raison vraisemblable: laissés à
eux-mêmes, ils étaient des victimes de choix pour amateurs de désordre.
- dactylo. Réponse: combien de
dactylos dans les entreprises aujourd'hui ?
- conducteur de véhicule sur voie ferrée
- conducteur de véhicule automobile en milieu ouvert (voir plus haut)
- contrôleur aérien. Certains
disent que, si les contrôleurs n'étaienet pas si bien
syndiqués, ils auraient disparu depuis un moment.
- commercial ou commerçant. Voir
Amazon, eBay, Google, et le spam.
- médecin. Un
des gros espoirs déçus de la Gofia avec ses systèmes
experts (années 1980).
- chirurgien. Progrès rapides de la
robotique, dans différentes formes, notamment « nano »
- trader financier. Voir FTS, Fast transaction systems
- soldat..
On a eu très tôt recours aux machines, et la "défense" a toujours
fortement soutenu l'informatique (projet Manhattan)
- agriculteur .
Avec la conduite automatique et le pilotage par GPS, complété par une adaptation
précuse à la qualité locale du sol... pourquoi
faudrait-il que l'agriculteur aille sur ses champs?
La gestion des cultures selon les parcelles est aussi mise en algorithmes. La
météo comme prévision.
- éleveur. Un peu plus difficile peut-être.
- jardinier. OK pour la tonte des pelouses, mais pour le reste ...
- cuisinier(e). Au niveau
industriel, bien sur. A la maison... il y a bien des « robots » pour
la cuisine, mais ce ne sont pas vraiment des robots.
- femme de ménage. Difficile
d'épousseter le dessus d'une commode avec les bibelots précieux qui viennent de
la grand-mère
- assistante de vie. Difficile
techniquement et humainement. Recherches activese au
Japon notamment, où c'est une nécessité face au vieillissement, à la baisse de
natalité et au rejet des travailleurs étrangers. Travaux japonais importants
sur les robots de compagnie.
- infirmier(ère).
Développements japonais. Voir un exemple,
montrant des applications limitées.
- juge . Réponse: radars sur les routes. Et quelques notes en Law, Justice, Robots, Algorithms (en cours de révision et traduction vers l'anglais).
- journaliste. En 2017, une grande
part des textes publiés sont préparés par des machines, ou "par
les gens ordinaires"
- correcteur typographique. Que
reste-t-il de ce métier en 2017 ? Juqu’aux années
1970_80, il était respecté et protégé syndicalement.
- musicien(ne).
Voir notamment les travaux de Chatonsky, non
seulement pour les instrumentistes, mais pour la composition. Cela dit, vous
n'êtes pas obligés d'aimer cette musique ;
- programmeur(se).
Question à tiroirs. Les compilateurs, puis les méthodes d'analyse (années
1970-90) puis les grands logiciels ont poussé vers le haut les outils de
programmation. Reste que l'on écrit encore aujourd'hui en C, C++, Java voire
Cobol. Dans quelle proportion?
- psychologue ou psychiatre. On connaît l'histoire, et les résultats très discutables d'Eliza (Weizenbaum, années 1960), qui a pourtant encore des amateurs en 2017.
- enseignant, professeur. Cela
dépend pourquoi.
. Noter que la plupart des matériels et logiciels informatiques, y compris les
caméras, les téléphones, etc. sont livrés pratiquement sans manuels.
L'utilisateur apprend par tâtonnements avec quelques aides. Et l'avis des
copains.
. Les "machines à enseigner"
puis l' enseignement
assisté par ordinateur ont ouvert de grands et aujourd'hui les Mooc ont ouverts de grands espoirs, loin de s'être
largement concrétisés.
- ami(e). "Si tu veux un ami, prends un chien" (Churchill). Difficile de penser que l'on puisse aller très loin avec une machine, même si des relations très fortes s'établissent.
- partenaire de jeu. Un mur peut
suffire, si vous avez une balle, mais c'est aussi une industrie aussi lourde
que le cinéma.
- entremetteur(se)agence
matrimoniale. IBM y a pensé dès les années 1960 ou 70. Aujourd'hui les
réseaux sociaux.
- partenaire sexuel(le). Il y avait
déjà des olisbos dans les grottes préhistoriques.
Cependant, notamment au Japon, les love dolls font
des progrès réguliers.
- prêtre. Par
définition (théologique et canoique) un prêtre
(catholique en tous cas) est un homme, donc pas une machine. Et, autant que je
sache, ni la messe ni la confession à distance ne sont validées par Rome. Mais
vous pouvez prier avec votre smartphone, grâce à
quelques applications, notamment Angelus,
de Bayard Presse . En cinq langues, dont le latin, et
la possibilité de programmerdes alertes aux heures
adéquates. Et, plus globale (mais payante), Prions en Eglise. Enfin,
vous pouvez vous retire des distractions du monde avec Retraite dans la Ville
- mystique. ? Mais pourquoi une
machine partagerait-elle ce type d'état psychologique? Ces expériences sont
aujourd'hui considérées comme indépendantes des croyances religieuses. Pourrait-il
y avoir un équivalent en machine?
- président(e) de la république. Lol.
Ces thèmes ne peuvent prendre sens qu'avec des machines
où l'on aurait déjà développé une forme de psychisme, avec notamment un système
émotionnel, qui serait en partie analogue au nôtre. Est-ce impossible?
En sens inverse, un humain peut très bien éprouve de l'empathie pour un robot
ou n'importe quel objet, par projection plus ou moins "animiste".
C'est une spécialité japonaise, rendue nécessaire chez eux par le
vieillissement et donc le besoin de "robots de compagnie".
- sympathisant
partageant des passions (Vallancien p.67) ; semble impossible pour un bon moment. Il
faudrait que les machines aient des passions, ce qui n'est pas impensable (voir
émotions), comprennent celles des humains et entrent en partage... voir
ci-dessous, empathie. Le mot "passion" est d'ailleurs ambigu, avec
des aspects positifs ("elle se passionne pour l'informatique") mais
aussi négatifs ("il est l'esclave de ses passions".
- avoir de l'empathie(Vallancien p.67) Il y a des travaux de Michel Bret.
- partager des valeurs. (Vallancien p.67) Pour certaines valeurs, nous pouvons les
transposer en machine dans une certaine mesure. Notamment en matière boursière
(FTS, Fast transaction systems)
ou en esthétique (voir ma communication >Aesthetics and Algorithms : Around the Uncanny peak à Laval
Virtual 2013).
- apprendre les limites à ne pas dépasser pour respecter la dignité humaine. (Vallancien p.88). Question complexe. Etudié par le Moi Robot d'Asimov (le livre). Problème de l'uncanny valley.
Une Image de la singularité d'après Fabius Maximus
Généralités
CASILLI Antonio
A. : En attendant les robots. Seuil 2019.
ENGELIBERT Jean-Paul (ed.) : L'homme
fabriqué. Récits de la création de l'homme par l'homme. Garnier 2000.
1182 pages regroupant les textes ou traductions des grands auteurs du
domaine, depuis Hoffmann jusqu'à Angela Karter,
en passant par Poe (Le joueur d'échecs), Villiers de l'Isle Adan
(L'Eve future), Capek (RUR) et Huxley (Le meilleur des mondes), avec en
annexe Ovide, Descartes, La Mettrie, Baudelaire
et Truong.
STEPHENSON Neal : L'age
de diamant .
Editions Rivages, 1996. Education nano-robots, essaims de drones
SUAREZ Daniel : Kill Decision . Dutton 2012
. Essaims de drones de combat.
VALLANCIEN Guy : Homo Artificialis. Michalon 2017
Conscience
RUYER Raymond : Paradoxes de la
conscience et limites de l'automatisme. Albin Michel, 1956
PENROSE Roger : Les ombres de l'esprit. A
la recherche d'une science de la conscience. InterEditions
1995
CHURCHLAND M. : Matiere et conscience. Champs-Vallon 1999
ANCEAU Francois : Vers une etude objective de la conscience. Hermes Science
1999
CARDON Alain : Conscience artificielle et
systemes adaptatifs. Eyrolles
(?) 1999
DAMASIO Antonio : Self comes to mind. Constructing the conscious brain. Pantheon books 2010
CHALMERS David : L'esprit conscient. A la
recherche d'une theorie fondamentale. Paris,
Ithaque 2010
DEHAENE Stanislas : Le Code de la
conscience. 0dile Jacob 2009- 2013
Intelligence
BOURBAKI N. : Eléments
de mathématiques. Livre I. Théorie
des ensembles. Chapitre1. Description
de la mathématique formelle. Hermann 1960.
FEIGENBAUM Edward A. et FELDMAN Julian, editors : Computers and Tthought. Mac Graw Hill 1963. Reedite MIT Press 1995 (Vaste ollection d'articles,
notamment de Turing)
LEVY Pierre : Les technologies de
l'intelligence. L'avenir de la pensee a l'ere informatique. Editions La Decouverte,
1990
ROBERT Claudine : Modèles statistiques
pour l'intelligence artificielle. L'exemple du diagnostic médical.
Masson 1991
MCCORDUCK Pamela : Aaron's code. Meta-art, artificial
intelligence and the work of Harold Cohen.
Freeman 1991. Un
grand pionnier de la peinture générative. Voir aussi dans diccan.
BOLO Jacques : Philosophie contre
intelligence artificielle. Lingua Franca 1996
DYSON George B. : Darwin among the Machines. The evolution
of global intelligence. Perseus 1997
SALLANTIN Jean : Les agents intelligents.
1997
CREVIER Daniel : A la recherche de
l'intelligence artificielle. Flammarion 1999
KAPLAN Frederic : La
naissance d'une langue chez les robots. Hermes
science 2001.
FRANCHI Stefano and GUZELDERE Guven (eds.) : Mechanical bodies, computational minds. Artificial intelligence from Automata 2005
NECHVATAL Joseph : Towards an immersive intelligence. New York,
2009
BOSTROM Nick : Superintelligence. Paths, Dangers,
Strategies. Oxford University
Press 2014
GRESS : L'oeil
et l'intelligible Kime 2015
DORMEHL Luke : Thinking Machines. The quest
for artificial intelligence, and where
it's taking us next. Tarcherperigee 2017. (Belle synthèse)
Jeux
HSU Feng-Hsiung
: Behind Deep Blue.
Princeton university press
2002. La machine qui battit Kasparof aux échecs.
MILLINGTON Ian : Artificial intelligence for games.
Elsevier 2006
BAKER Stephen : Final Jeopardy.
Man Vs. Machine and The Quest to Know Everything. Houghton 2011 (la machine Watson. Ouvrage narratif mais hélas très peu technique)
TUAL Mogane :
En un an, Google a révolutionné le jeu de Go. Le Monde 28-29 mai 2017
BERGSON Henri : Le rire. 1900
BREAZEAL Cynthia L. : Designing sociable
robots. MIT Press 2002
MAGNENAT-THALMANN N. et THALMANN D. (eds.) : Handbook of Virtual Humans.
Wiley 2004
Créativité
LAWSON John Howard : Film : the Creative Process. New York,
Bill & Wang 1964
BODEN Margaret : Dimensions of creativity. MIT Press 1994
GREENBERG Ira : Processing, Creative coding and computational art.
Friendsoft 2007
ESCLAPEZ Christine (sous la direction de) : Ontologies
de la creation en musique. L'Harmattan 2012
MCCORMACK Jon and D'INVERNO Mark eds. : Computers and Creativity.
Springer 2012
BONACCORSI Julia et al. : Arts et creations au prisme des TIC. L'Harmattan 2015
Art génératif
COX Geoff : Anti-thesis. The dialectics of generative art.
1990C
BOTHNACKER Hartmut, GROSS Benedikt, LAUB Julia et
LAZZERONI Claudius : Design generatif. Concevoir, programmer, visualiser. 2010
BERGER PIerre et LIORET Alain : L'art génératif. Jouer a Dieu... un droit ? un
devoir ? L'Harmattan 2012
GALLANTER Philip : What is generative art ? Complexity theory as a context for art theory. 2013
CHATONSKY : Capture, generative
netrock. Centre des arts d'Enghien, 2014
BERGER: Le projer
Roxame.3 (à mettre en ligne).
Vie
LUDWIG Mark : Computer viruses, Artifical Life and Evolution. American Eagle, 1993
BODEN Margaret : The philosophy
of artificial life. Oxford University
Press, 1996
ALLARD Laurence, GARDEY Delphine et MAGNAN Nathalie : Manifeste cyborg et autres essais.
Sciences - Fictions - Feminism 2000C
WHITELAW Mitchelll : Metacreation. Art and artificial life. MIT 2004
JOHNSTON John : The allure of machinic life. Cybernetics, artificial life and
the new AI. MIT Press 2008
BAILLY Francis and LONGO Giuseppe : Mathematics and the
Natural Sciences. The physical Singularity
of Life. Imperial college 2011
NELSON Kevin : The Spiritual Doorway in the Brain. Dutton 2011.
Emploi, transhumanisme
KLABBERS Jan : International Law. Cambridge University Press, 2013.
KURZWEIL Ray : The singularity
is near. Penguin 2005. Et voir Wikipedia
VAIDHYANATHAN Siva : The Googlization of Everything (and why we should
worry). University of California Press 2011
STEINER Christopher : Automate this .
Penguin 2012
SUSSKIND Richard : Tomorrow's Lawyers. An introducion to your future.
Oxford University Press
2013
Valeurs
ASIMOV Isaac : I Robot. (éditeur ?) 1950
