L'amour des fers. Les contraintes en littérature et en mathématiques.
Tomás Granados Salinas

 

Quelle chance pour nous que la liberté infinie ne soit qu'une chimère. Si elle devait cesser d'être un rêve irréalisable, le désir de satisfaire notre volonté jusque dans les moindres détails deviendrait vite un cauchemar dont nous voudrions échapper à tout prix, à l'image du bagnard qui soigne sa peur des grands espaces en regagnant sa geôle.
Si l'expression de l'appétit suffisait à l'assouvir, cette satisfaction permanente nous plongerait dans le pire des enfers, celui de l'ennui. Il va sans dire que l'autre extrême -c'est-à-dire, l'absence totale de liberté- est encore plus effrayant, mais nous devons nous estimer heureux que pour atteindre nos objectifs nous soyons confrontés à des obstacles de tout genre, lesquels, une fois surmontés, sont doublement source de plaisir : en nous rapprochant du sommet tant désiré, et en venant confirmer notre capacité à le gravir.

Toute activité humaine implique des contraintes, certaines d'ordre naturel et d'autres, conçues par l'homme lui-même ; en effet, la possibilité d'exprimer sa créativité en toute liberté semble lui faire horreur. Aucun masochisme dans cette mise aux fers de soi-même. Bien au contraire, c'est un plaisir raffiné et bien plus intense que celui que procure la pratique de la fugue, que ce soit en venant à bout des difficultés, ou bien, à l'image du gaz dans un espace fermé, en occupant jusqu'au moindre recoin de liberté disponible. Du temps où la poésie était un art sévère d'architecture verbale, l'inventeur de métaphores se soumettait volontairement à la dictature du mètre et du rythme. Et le corset des hémistiches ne l'empêchait de produire ni vers passionnés, ni huitains pleins d'humour. La liberté du poète était proche de celle du joueur d'échecs, qui exploite jusqu'à l'extrême un espace dont il a lui-même fixé les limites. Les quelques règles régissant les déplacements des cavaliers et des fous, la tradition normative où s'inscrit le versificateur, sont autant d'exemples illustrant une saine tendance à limiter l'arbitraire de la création.

La science non plus n'appartient pas au paradis de la pleine liberté. Qu'il s'agisse aussi bien des questions dont il est "licite" de s'occuper que des méthodes venant légitimer un résultat ; de l'emploi d'un langage chiffré que de l'exercice du droit de réponse (et de réplique, comprise à la fois comme objection et comme duplication) : les chaînes qui restreignent les exercices scientifiques sont une manière détournée de produire de la liberté intellectuelle. Evasif, toujours en mouvement, l'esprit est semblable aux fleuves survivant aux ères géologiques : il lui faut un cours solide. De même qu'un ruisseau peut disparaître, victime de l'érosion qu'il produit sur son lit, l'imagination exige des fondations fermes, ce qui n'implique pas nécessairement qu'elles soient rigides. Un mathématicien, par exemple, ne lâchera pas comme ça les amarres de ses pensées pour voguer sur la mer de la géométrie ou de l'algèbre ; bien au contraire, sa démarche sous-entend la certitude de la route à suivre pour arriver, tôt ou tard, à bon port -bien qu'il ne sache pas exactement, au moment de s'embarquer dans ce périple, quel sera son port d'arrivée, et encore moins par quelles péripéties il lui faudra passer.

Il suffit de flâner dans le champ où fleurissent les théorèmes, accompagnés, éventuellement, d'un jardinier patient et dévoué qui nous prenne par la main, pour constater que la science des nombres est loin d'être mécanique, monotone, étrangère à toute inventivité, toute improvisation, tout plaisir soudain. La science est peuplée de forces que l'on aurait plutôt tendance à associer aux arts -la passion effrénée, la spontanéité, l'amusement ; et en échange, comme dans une transaction commerciale, les arts pourraient recevoir des mathématiques des notions telles que la précision ou l'exactitude, et parfois même des méthodes de travail. Les fondateurs de l'Oulipo ont vu dans cet échange une véritable mine de ressources littéraires. Leurs propositions mettent généralement en avant l'idée de contrainte ; il n'est donc pas vain de comparer leurs objectifs avec ceux des individus s'intéressant à l'optimisation, une branche des mathématiques qui remonte à des temps très anciens (un certain nombre de problèmes compilés par Euclide au IIIème siècle avant J.C. y font allusion d'une façon ou d'une autre), bien qu'elle ne soit devenue réellement "populaire" qu'avec l'avènement des ordinateurs.

En termes généraux, le problème type d'optimisation comprend trois éléments. D'un côté, l'on trouve la "fonction objectif", c'est-à-dire une règle permettant de calculer un résultat à partir des valeurs données à certaines "variables" ; et, de l'autre, les "contraintes", qui sont un ensemble de conditions devant être remplies par les variables.
Dans ce contexte-là, le but est de trouver la valeur des variables -un point multidimensionnel- permettant de produire un "point extrême" de la fonction objectif, correspondant à un maximum ou à un minimum de celle-ci, tout en respectant les contraintes. La vie quotidienne nous fournit un exemple de ce type de problèmes, lorsque l'on essaie de tirer le plus grand bénéfice de sa paye : la fonction objectif, dans ce cas, serait la satisfaction personnelle ; les variables correspondraient à la quantité d'argent que l'on destine à chaque activité, des courses jusqu'aux dépenses plus "spirituelles" ; la contrainte, ici, est évidemment le montant de la paye. Même si l'on n'y parvient pas toujours, l'on essaie d'arranger sa consommation de façon à ce que le revenu soit le plus satisfaisant possible, tout en restant dans les limites fixées par le budget de départ. On l'imagine bien, le fait de se poser un problème n'implique pas qu'il ait une solution ; il arrive que les contraintes soient si sévères que les variables ne puissent en aucun cas les respecter (on dit alors que la "région faisable" est vide), ou encore que la fonction objectif tende vers l'infini (dans le cas de la maximalisation) en fonction des valeurs des variables, rendant absurde la recherche du maximum.

Des recherches similaires (mais bien plus compliquées, en raison du nombre ou des caractéristiques des variables en jeu, ou encore parce que les contraintes sont confuses) font le pain quotidien d'économistes, d'administrateurs, d'ingénieurs et même de chimistes et de météorologues, tous en quête de réponses à des questions concrètes. Pour le mathématicien, en revanche, l'intérêt réside dans la confrontation au cas général, ce qui explique que, bien souvent, la solution qu'il avance pour trouver la combinaison de variables voulue prend, à son tour, une forme très générale (un algorithme). Les recettes proposées par les mathématiciens sont de deux sortes : certains problèmes sont résolus de façon explicite, par la formulation d'une règle constructive pouvant servir à trouver la réponse nécessaire ; d'autres ne peuvent obtenir qu'une réponse approximative, certainement très proche de la bonne solution, mais ne coïncidant pas obligatoirement avec ce que l'on pourrait attendre idéalement. Les mathématiques méritent-elles, au vu de ce comportement tâtonnant, que l'on continue de les considérer comme une science exacte? La réponse est oui, à cause de la méthode employée pour rechercher le point optimal, recherche que l'on mène généralement de manière itérative : la solution proposée est d'abord mise à l'épreuve, afin de vérifier qu'elle remplit bien les conditions imposées par les contraintes ; puis, l'on évalue la "qualité" de cette solution (l'on observe, par exemple, s'il y a eu une amélioration par rapport à l'étape précédente) ; enfin, l'on détermine s'il y a encore moyen de faire mieux. Ces marches sont gravies successivement jusqu'à ce qu'une condition préétablie par le chercheur soit remplie ; elle peut être approbative, lorsque l'une des solutions mises à l'essai ressemble suffisamment à celle que l'on attendait, ou, à l'inverse, lorsque la patience de celui qui fait tourner la manivelle est à bout, et qu'il ne reste plus qu'à conclure que le problème est insoluble. Cette réponse, aussi frustrante soit-elle, est tout aussi précieuse que la précédente, car elle pose une alternative : soit la question est reformulée (par exemple, en assouplissant les contraintes), soit la recherche en question est définitivement abandonnée.

La procédure que l'on vient de décrire implique une autre limitation, plus grave peut-être. Arrivés à un point où l'on peut crier "bingo!", l'euphorie peut se révéler trompeuse ; en effet, tout ce que l'on peut garantir c'est d'avoir trouvé le point optimal au niveau local, c'est-à-dire le meilleur point possible dans un environnement donné ; en revanche, il n'y a aucun moyen de vérifier s'il s'agit du point optimal global. Evidemment, il est toujours possible de continuer à chercher le maximum des maxima, mais il n'existe pas encore, et sans doute est-elle impossible à trouver, de méthode universelle qui donne dans le mille à tous les coups ; Ceux qui voient dans les mathématiques un champ intellectuel quasi complet, sans failles, peuvent avoir un aperçu, à travers ce noeud gordien, des limites, mais aussi de la vitalité, de cette science. Cette ambiance d'épopée inachevée pourrait bien faire que les amants des lettres viennent puiser dans les mathématiques non pas l'inspiration, qui n'existe pas, mais bien des tensions dramatiques, du suspense, de l'aléatoire intentionnel, ce qu'ont fait des oulipiens comme Harry Mathews avec son algorithme combinatoire.

Le mot "Oulipo" lui-même mériterait d'être le nom d'un poète chinois porté à l'extravagance. Si l'on exclut, pour un instant, les postulats qui sont à l'origine de l'atelier, l'on peut dire que ses fruits sont dignes d'une tradition artistique éloignée de la nôtre. En effet, leur bizarrerie, le mystère que l'on devine en eux, les rapproche du haïku, ou des invraisemblables dialogues entre le maître zen et ses disciples impatients couchés sur papier. Ce n'est qu'en fouillant parmi les axiomes (la comparaison n'est pas toujours aussi heureuse) dont découle la production littéraire du groupe qu'il apparaît clairement que, plus que les mystères de l'Orient ou une forme d'humour cryptique, c'est une tendance ludique à se compliquer le chemin de la création qui se fait jour ici.

Aux yeux des oulipiens, la littérature fonctionne mieux si on l'oblige à danser un boulet accroché à la cheville. Dans la plupart des cas, les contraintes qu'ils inventent touchent à la forme de l'oeuvre littéraire -qui, dans ce cas, correspondrait à la variable- et équivalent donc à celles que nous décrivions plus haut. Plus qu'à la maximalisation d'une fonction objectif, l'on a ici affaire -passez-moi l'imprécision, délibérée du reste- à une fonction "subjectif", c'est-à-dire à une règle arbitraire -le goût de chacun, la tradition, l'étendue de la pièce- à l'aune de laquelle sera évaluée la qualité de l'oeuvre. De sorte que le problème oulipien type pourrait être posé en ces termes : il s'agit de maximaliser la fonction subjectif, laquelle se trouve soumise à une ou à plusieurs contraintes formelles. Evidemment, cette analogie ne vaut que pour l'analyse des méthodes de Queneau et de ses acolytes, mais elle aide également à repérer les particularités de cette façon de procéder.

Dès le premier abord, le fait qu'il soit plutôt rare qu'un auteur récupère comme sien un problème posé par un autre en essayant de lui trouver de meilleures solutions est surprenant, alors que c'est pratique courante pour un mathématicien lorsqu'il s'agit de cerner les problèmes les plus épineux. Le mode de procédure par itération peut ne sembler utile que dans la phase de recherche individuelle de l'oeuvre ; cependant un effort supplémentaire, basé sur la production d'un collègue, améliorerait sans aucun doute les résultats de la fonction subjectif. Plutôt que d'écrire un deuxième roman reprenant les contraintes, disons, de La vie mode d'emploi -entre autres, celle d'aborder quarante et quelques sujets par chapitre, ou encore de parcourir les appartements de l'immeuble qui est au centre de ce livre en suivant les déplacements du cavalier aux échecs-, un adepte de Pérec pourrait partir de son manuscrit pour essayer de l'"améliorer", tout en continuant de respecter, bien sûr, les conditions imposées par l'auteur (mais s'agit-il bien de lui?). Cette suggestion, absurde s'il était question de tout autre expérience littéraire qui ne soit pas l'Ouvroir de littérature potentielle, signale ce qui constitue, à mes yeux, la principale caractéristique de ce groupe : l'acte créatif le plus important ne réside pas dans l'oeuvre elle-même, mais dans l'ensemble des contraintes qui la font naître.

En ce qui concerne les deux efforts heuristiques implicites dans toute oeuvre d'art -la planification, aussi peu minutieuse soit-elle, et l'exécution, même si celle-ci s'éloigne de sa visée première-, les membres de l'Oulipo font pencher la balance davantage du côté du premier, le deuxième n'étant, dès lors, qu'une démonstration du fait que la région faisable n'est pas vide ; qu'elle est, au contraire, un produit littéraire appréciable. Ce n'est pas peu de chose que d'arriver à montrer que les contraintes mènent au moins à une solution, et pourtant, bien souvent, celle-ci est acceptée avec la même indulgence que les spectateurs d'un numéro d'évasion, qui contemplent les contorsions à la fois angoissées et bouffonnes de l'artiste pour les oublier aussitôt.

Ainsi, si les membres de l'Oulipo organisaient un concours littéraire, on n'y jugerait pas tant les travaux concrets que les manières de se poser un problème donné, en démontrant que la solution peut exister. Personne, pas même Raymond Queneau lui-même, n'a lu ses 100 mille milliards de poèmes ; mais l'existence potentielle de ces poèmes, c'est-à-dire l'énonciation du problème ou, mieux encore, des contraintes qui s'appliquent à ce problème, donne une valeur littéraire à cette idée. Et c'est précisément là le sens ultime de ce projet radical de potentialité littéraire. Située aux antipodes de la notion de littérature "actuelle" - ce par quoi l'on entend tout écrit non utilitaire depuis l'épopée de Gilgamesh-, la littérature potentielle ne fait qu'insinuer, elle est un gène pouvant aboutir aussi bien à une malformation qu'à un prodige, une promesse incertaine de ce qui pourrait arriver. S'il est vrai que les vers les plus beaux sont ceux qui échappent à notre souvenir, il en va de même pour les romans que personne n'écrira, mais qui seraient conformes aux contraintes proposées par un individu ingénieux. La doctrine oulipienne est une célébration du croche-pattes fait à soi-même, non pas pour se faire tomber mais pour entrer dans la danse.

Traduit de l'espagnol (Mexique) par Sophie Gewinner.