Traitement signal image et arts.  Jeudi 9 Juin 2005, Cnam Paris

Le numérique en peinture : un horizon nouveau pour un art traditionnel

Pierre Berger, artiste-développeur

pmberger@noos.fr    http://www.roxame.com

Résumé

Dans quelle mesure une machine peut-elle jouer le rôle d'un artiste-peintre, c'est à dire créer images en deux dimensions pour représenter la nature ou exprimer des concepts ? C'est pour explorer l'espace ouvert par cette question qu'a été créé le logiciel Roxame, écrit en C++ (avec  C++ Builder de Borland).

C'est cette problématique qu'explore le projet Roxame, en se spécialisant dans le domaine de la peinture au sens le plus traditionnel, à partir de photographies aussi bien que de générateurs aléatoires de formes. Le projet, lancé en 2001, a déjà donné des résultats suffisants pour que ses oeuvres soient suffisamment originales et "belles" pour être acceptées dans des galeries et salons traditionnels, et séduisent nombre d'amateurs.  Pour autant il n'est encore que le point de départ d'une vaste exploration. 

 Un tel projet, par construction, ne connaît  pas de limites. La gamme des formes reconnues ou engendrées, la complexité et la finesse des traitements, le dictionnaire des termes et la percolation des "états d'âme", la richesse et les règles harmoniques de la composition peuvent toujours être étendus. Depuis son lancement il y a quatre ans, le projet Roxame a montré qu'il est possible d'obtenir des oeuvres à la fois originales et suffisamment "belles" pour se faire accepter dans des galeries et des salonsd'arts plastiques. Un logiciel peut donc revendiquer le statut d' "artiste" même si, bien sûr,  il ne peut se concevoir sans le travail d'un auteur humain.

Ce projet montre aussi l'intérêt de la recherche sur des oeuvres matérielles et statiques. Malgré l'énorme montée en puissance des médias audiovisuels relayés par la Toile et les mobiles, le livre sur papier de continuer de jouer un rôle culturel important et innovant, y compris chez les plus jeunes. De même, dans le domaine des arts numériques, le rôle central joué désormais par les œuvres interactives et multimodales n'en laisse pas moins ouverte une large place aux oeuvres  statiques, qui peuvent être l'expression de technologies avancées aux frontières du traitement du signal, de la robotique et de l'intelligence artificielle.

Dans son état actuel, Roxame peut, en fonction de son "humeur" et de demandes formulées par une interface textuelle (mais, sauf à des fins de démonstration, l'auteur s'interdit d'intervenir au cours de l'exécution) :

- générer et combiner des formes "géométriques" (du pixel aux algorithmes génératifs complexes, avec un fort appel à l'aléatoire),
- traiter des photographies et plus généralement tout document bitmap (filtres, segmentation, reconnaissance des formes...),
-  combiner ces deux formes de travail dans différents "styles", pour aboutirà une oeuvre, qui est alors stockée en mémoire (et le cas échéant imprimée et présentée comme une "toile" traditionnelle).

"Manhattan"

1. La peinture dans le paysage actuel des arts numériques

Le monde du numérque est aujourd'hui ambiant, pervasif. Au point qu'il sera bientôt inutile d'employer cet adjectif, tout dispositif, toute fonction, tout processus étant désormais plus ou moins numérisé, qu'il s'agisse de communication (tout objet a vocation à se voir affecter un URL ou au moins une "étiquette électronique" (RFID)), de mémorisation et d'automaticité (il y a des puces partout), d'interface homme machine. L'essentiel de la complexité numérique se cache désormais derrière l'apparence "naturelle" des objet, de même que les réseaux électriques et téléphoniques, qui défiguraient nos villes depuis bientôt un siècle, sont de plus en plus "effacés", c'est à dire enfouis sous les chaussées.

Nous verrons cependant dans la deuxième partie que la numérisation, pour invisible qu'elle soit, ne rend pas pour autant la nature à elle-même.

Dans cet univers, le gros des activités plastiques et esthétiques se passe au cinéma, à la télévision, aux téléphones portables (qui s'intègrent rapidement les PDA, appareils de photo numériques, calculettes, caméscopes..) et aux différents postes "de travail", dont les plus nombreux seront bientôt (si ce n'est déjà fait) plutôt des "machines de jeux".

La peinture peut donc apparaître comme une survivance archaïque, l'essentiel se passant désormais dans des oeuvres interactives ou sous formes d'installations temporaires ou de performances, au point qu'un Fred Forest promeut désormais le concept d' "oeuvre système invisible" [1]

Cependant, un certain nombre de faits laissent à penser que la peinture a encore un rôle à jouer, sinon pour l'éternité, au moins tant que le corps gardera de l'importance pour les humains, ce qui nous laisse quelques années :

- on attendait la disparition du livre et son remplacement par l'e-book, or le livre se défend bien, y compris parmi les jeunes générations (Harry Potter, Da Vinci code),

- le "marché de l'art" reste synonyme de marché de la peinture (avec un peu de sculpture et d'installations) et continue de bien se porter.

Il n'est donc pas sans intérêt de continuer à s'intéresser à la peinture, au sens traditionnel du tableau de chevalet, et de voir ce que l'ordinateur peut y apporter. Il faut reconnaître que les logiciels actuels de dessin (de type Photoshop), tout en rendant des services considérables dans les arts graphiques (publicité par exemple), n'ont pas vraiment séduit les artistes peintres. Ils s'en servent, au mieux, pour explorer certaines orientations, qu'ils traduisent ensuite, de manière traditionnelle, avec le pinceau et la toile.

Nous avons fait un choix différent, celui d'un "robot artiste peintre", créant par lui-même ses oeuvres, sans intervention humaine au cours du processus créatif.

2. Roxame et le traitement du signal

Puisque nous sommes dans une journée inspirée notamment par le traitement du signal [2] , il semble intéressant d'utiliser ce cadre conceptuel, ce paradigme, pour comprendre ce qu'est Roxame. Et il n'y a pas besoin de se forcer beaucoup. Le rapprochement est en fait tout naturel.

En effet, l'art, selon Emile Zola,  est "un coin de nature vu à travers un tempérament". En quelque sorte un filtre (le tempérament, le cadrage sur "un coin") appliqué à un signal, la "nature". L'art numérique pourrait donc se définir comme une forme particulière de DSP, de "digital signal processing". Les différents arts se différencieraient alors par :

- le type de nature, ou le "coin" de nature qu'ils choisissent : des plages ou verdures des impressionnistes à la nature "intérieure" des expressionnistes jusqu'à la nature divine des peintres mystiques, qu'il s'agisse des icones orientales ou du "sprirituel" d'un Kandinsky..

- le type de signal qu'ils fournissent  "en sortie", de la peinture à la musique et de l'architecture au théâtre.

Reste alors à voir dans quelle mesure un "tempérament"
- est l'apanage exclusif d'un être humain, faisant usage d'une panoplie plus ou moins large d'outils et d'instruments appropriés à l'art choisi (pour la peinture, en particulier, de la gamme des "filtres" proposés par les éditeurs de logiciels) ou, au contraire,  
- peut se réduire à une machine, et plus particulièrement à un ordinateur et à son logiciel, à un "système artiste" comme on avait hier des "systèmes experts"... étant entendu que, par construction, une telle machine est aussi oeuvre de l'homme, mais alors à un second degré, appelant le terme de "méta-art", par exemple.

Voici quelques exemples des fonctions actuelles de Roxame (captures d'écran à partir du fonctionnement normal).

D'abord quelques fonctions élémentaires :

Chargement d'une photographie

Virage bistre

Augmentation de la luminosité

Sélection des contours

Combinaison des deux images précédentes pour obtenir un "coloriage", ou une "estampe rehaussée d'aquarelle"

Floutage

Puis des fonctions moins traditionnellement fournies sur les logiciels du commerce.

Recadrage automatique

Segmentation et coloriage par à-plats

 

On peut obtenir des images plutôt "impressionnistes", ou plutôt "lavis" :

   

3. Roxame comme automate

Le paradigme de traitement du signal pourrait nous emmener très loin. D'autant plus que, plus philosophiquement que techniquement peut-être, on pourrait considérer chaque image comme un signal élémentaire. Dans ce cas, un filtre d'ordre n prendrait en compte les n images précédentes... ce qui ouvre la voie à des combinaisons quelque peu... inimaginables, sauf des conditions particulières comme l'animation et la vidéo.

Plus concrètement, un peintre qui ne ferait que filtrer des images ne serait pas beaucoup plus qu'un photographe. Un "tempérament", c'est autre chose. La formule de Zola convenait parfaitement à l'impressionnisme. Mais elle ne montrera assez vite ses limites, et Zola lui-même exprimera sa déception. [3] Cézanne puis le cubisme et tout l'art contemporain vont aller dans de toutes autres directions. 

Cela dit, la ta théorie même du traitement du signal nous fournit quelques amorces pour un tel dépassement. Déjà nous trouvons l'émergence d'un "bruit de calcul" qui peut être considéré comme un début de "tempérament" chez le processeur de signal.  Il n'est évidemment pas difficile de faire intervenir des paramètres aléatoires dans le traitement des images par Roxame. Et comme, on le sait bien depuis Von Neumann, un signal digital  peut représenter aussi bien un paramètre numérique qu'une instruction de commande, on peut exploiter un générateur de nombres aléatoires pour choisir par exemple un ou plusieurs filtres dans la panoplie disponible.

Mais allons plus loin. Avec la récursion, un filtre peut être considéré comme ayant une "réponse infinie", ce qui ouvre de toutes autres perspectives. Si l'on prend comme référence l'effet Larsen, accrochage d'un amplificateur sur une fréquence bien définie, on peut considérer que le signal d'entrée n'est plus qu'un déclencheur. De là à construire un synthétiseur en se donnant une gamme appropriée de résonateurs, il n'y a qu'un pas, que les constructeurs d'instruments musicaux ont tôt franchie.

A vrai dire, à ce stade, le paradigme du traitement du signal, surtout numérique, laisse la place à des paradigmes plus généraux comme les automates et les machines de Turing. Mais peu importe, le modèle convient ici à d'autres fonctions de Roxame.

Dans cette voie d'autonomie, Roxame peut générer des formes "au hasard", et indépendamment des entrées.  Elle dispose d'une batterie de formes élémentaires : pixel, lignes, rectangles, ellipses, avec des styles plus ou moins souples pour les dessiner. Elle aussi un début de bibliothèque de modèles : maison, toit, église...  Et, finalement, elle peut combiner filtrage et génération pour obtenir des images complexes.

Voici une sélection de génération de formes :

Tapis de pixels aléatoires et grossissement

Formes géométriques de base

La combinaison de ces formes conduit à des constructions comme celles-ci :

     

Roxame dispose aussi d'un embryon de formes "figuratives", permettant d'imaginer la construction de scènes : sur une plage, un bateau, une belle...

      

voire de construire automatiquement des bandes dessinées :

   

On peut aussi com biner la génération de formes avec le traitement d'images :

   

Mais c'est d'un approfondissement de ces processus récursifs que devrait venir l'évolution la plus intéressante de Roxame. "Ah, frappe toi le cœur, c'est là qu'est le génie"  lance Alfred de Musset.

 

4. Le problème de l'évaluation

 Bien que le terme même de "beau" ne soit plus à la mode dans le monde des arts plastiques, la construction d'une oeuvre plaisante ne peut se passer de critères esthétiques.

On peut ici encore repartir de la théorie même du traitement du signal. Et d'abord, que veut dire ce mot même de signal ? Bellanger le définit comme "le suport de l'information émise par une source et destinée à un récepteur ; c'est le véhicule de l'intelligence dans les systèmes. Il transporte les ordres dans les équipements de contrôle et de télécommande, il achemine sur les réseaux d'information la parole ou l'image".

Une telle définition ne pose pas problème théorique quand le signal d'origine est formellement défini (par exemple une suite de caractères ASCII)  et que tout le travail de traitement consiste à retrouver cette suite de caractères à partir de ce que fournit une ligne de transmission bruitée. Ni quand on peut clairement identifier un émetteur et récepteur ayant des informations bien définies à se transmettre.

Les choses sont nettement moins claires dès qu'il s'agit de traiter un signal émis par "la nature" et fourni par un capteur. Dans une photographie aérienne, prise pour un écologiste ou pour un militaire, qu'est-ce qui est exactement "signal" et "bruit" ? Et dans un "coin de nature", qu'est-ce qui est important pour le public que vise l'artiste et son "tempérament" ?

Deux modes de pensée s'affrontent ici dans un débat qui remonte, comme tant de débats, aux grecs. [4]

Pour les uns, ce qui est important est de représenter "la nature", de la copier telle qu'elle est, et le mieux possible, au point de donner l'illusion de sa présence. La peinture idéale est la photographie, et l'invention de Niepce et Daguerre mettra un point final à une longue histoire pour arriver à cette perfection par des moyens manuels et oculaires plus ou moins assistés par des dispositifs mécaniques et optiques.

Dans cette optique, le critère de valeur est un critère de fidélité (comme la "haute fidélité" en musique) à l'observation, y compris le cas échéant, avec ses imperfections (comme un disque enregistré "en live").

Pour les autres, la nature, telle que nous la voyons, n'est que le fond de la caverne où se projette l'ombre de ce qui est transcendantalement vrai, l'essence pure des êtres. Le signal préexiste. On raconte l'histoire d'une petite fille qui demandait à Rodin, en train de sculpter un ours : "Mais comment tu savais qu'il y avait un ours dans la pierre" (on raconte une histoire analogue pour Michel Ange).  

Un peu comme si, en musique, on arrivait à exprimer purement l'intention du compositeur en la dégageant de tout "bruit", y compris les imperfections ou les choix imprévus des interprètes. En matière de peinture, cette forme de valeur est typiquement représenté par les icones orientales, cherchant à exprimer dans leur profondeur les mystères du christianisme, et se rattachant pour le faire à un certain nombre de types qu'il ne s'agit plus que de reproduire au fil des siècles.

Ces objectifs esthétiques peuvent-ils se concrétiser dans des règles qu'il serait (presque) suffisant de suivre pour obtenir de belles oeuvres d'art ? Les efforts entrepris en ce sens, notamment à l'époque de la Renaissance, sont considérés comme des échecs. On ne trouve pas en librairie de manuel pour "faire un  bon tableau" [5] .

Au début du projet Roxame, nous étions très intéressés par ce thème. La programmation devrait permettre de travailler, théoriquement et expérimentalement, sur la mise au point de bons critères. Notre surprise a été qu'il semblait beaucoup plus simple et rapide d'incorporer de tels critères aux programmes eux-mêmes, par une programmation "à tâtons", si l'on peut dire. Et les meilleures oeuvres actuelles de Roxame relèvent actuellement de cette approche on ne peut plus "empirique".

Notre grand prédécesseur Harold Cohen [6] semble avoir entretenu les mêmes espoirs, sans déboucher sur une théorie et a fortiori une méthode formalisée de recherche de la beauté. En fait, ce type même de préoccupation est considéré comme hors sujet par le monde de l'art contemporain. [7]

Nous n'avons pourtant pas renoncé, pour l'avenir, à une telle recherche. Nous voudrions nous appuyer sur la "formule de la liberté" que nous avons proposé dans notre livre L'informatique libère l'humain  [8] , qui nous conduirait à quelque chose comme une "esthétique de la complexité". *

L'objectif serait, par exemple, de répondre à une question souvent posée au cours des présentations de Roxame : "A quel moment s'arrête-t-elle de peindre ?". Actuellement, le programme est essentiellement séquentiel et s'arrête quand la dernière instruction a été exécutée.

Il serait beaucoup plus intéressant que Roxame s'arrête "quand elle n'a plus rien à ajouter au tableau". Ce qui concrètement, pourrait se traduire par une formule d'évaluation de l'œuvre, appliquée à chaque opération avant de l'exécuter, et qui donnerait une condition d'arrêt quand aucune des opérations possibles n'accroît la valeur. Au lieu d'un fonctionnement "impératif", on passerait à un processus plus "cybernétique". Reste à savoir comment faire un tel calcul.

5. Le problème de la coopération

Enfin, il faut faire progresser Roxame dans la voie du dialogue. Un automate c'est bien, mais tout de même pas un robot autiste. !