En 1982, quelques mois après la publication de l’article de Donald Knuth, «The Concept of a Meta-Font», la revue Visible Language publie une réponse critique à ces propositions, «Meta-Font, Metamathematics, and Metaphysics: Comments on Donald Knuth’s The Concept of a Meta-Font» écrite par Douglas Hofstadter, professeur américain de sciences cognitives. Ses remarques apportent des nuances aux conclusions de Knuth, abordant le problème d’un autre point de vue. Ses recherches en typographie, dans le domaine de l’intelligence artificielle, sont ensuite apparues dans le projet Letter Spirit, où il a essayé de développer un programme capable de développer un alphabet entier à partir de quelques lettres de départ, sur la base d’une grille très grossière. Des années plus tard, alors que se développent les fontes variables, l’usage de l’intelligence artificielle et du deep learning pour concevoir des polices de caractères typographiques, le débat entre les deux personnalités reste d’une grande actualité.

Au mois de juillet 1972, Douglas R. Hofstadter (1945) quitte l’Oregon au volant de sa Mercury Quicksilver 1957. En 1967, il avait décidé d’abandonner ses études de mathématiques à Berkeley pour rejoindre l’Université de l’Oregon, où il poursuivait un doctorat en physique—c’est la discipline de son père, Robert Hofstadter, prix Nobel de physique en 1961. Mais Douglas Hofstadter, élève brillant, polyglotte et polyvalent, se sent trop à l’étroit dans ce cadre: en ce début d’été, il a besoin d’air, et d’espace. Il prend donc la route, et dans ses cartons des copies des travaux de Kurt Gödel, mathématicien du début du XX^e siècle, membre du Cercle de Vienne. Une panne mécanique en Idaho lui donne le temps de s’y plonger, dans la bibliothèque de l’Université, et c’est la révélation. Fasciné de longue date par le théorème de Gödel, Hofstadter lit compulsivement, sous sa tente, et organise ses premières idées dans une lettre à son ami Robert Boeninger. Il n’enverra jamais cette lettre, qui prend des proportions importantes: elle deviendra son premier livre. Après avoir gagné la côte Est au terme de ce road-trip initiatique, Hofstadter retourne en Oregon pour terminer son doctorat, qu’il obtient en 1975. Il s’interdit de poursuivre le projet de ce qu’il nomme son «pamphlet», qui continue cependant à mûrir dans son esprit. Il ne s’y consacre pleinement qu’à son retour à Stanford à partir de 1976. L’ouvrage paraît en 1979 chez Basic Books, et s’intitule Gödel, Escher, Bach: an Eternal Golden Braid. Il obtient, l’année suivante, le prix Pulitzer dans la catégorie «Essai».

De quoi traite GEB? C’est un livre incroyablement riche, inventif dans ses différentes formes narratives et les nombreux domaines qu’il aborde. Il est presque impossible de le résumer: il ne s’agit pas d’une biographie de ces trois personnes, mais des processus à l’œuvre dans leurs créations. Mais aussi de notre façon de penser, du processus créatif et, in fine,d’intelligence artificielle. «GEB est une tentative très personnelle de dire comment il se fait que des êtres animés puissent sortir d’une matière inanimée», résume Hofstadter. En un mot, comment faire réfléchir l’ordinateur.

En 1976, Donald Knuth reçoit les copies de la réédition du deuxième volume de son ouvrage de référence, The Art of Computer Programming, dont il a entrepris la rédaction en 1968, et qu’il poursuit encore aujourd’hui. Et il est horrifié. Son éditeur, Addison-Wesley, a modernisé son outil de production et le résultat n’est pas satisfaisant, aux yeux de Knuth. «I didn’t know what to do. I had spent 15 years writing those books, but if they were going to look awful I didn’t want to write any more. How could I be proud of such a product?» Les premiers volumes, parus en 1968, 1969 et 1973, étaient produits sur des machines Monotype, en composition «à chaud»: sur ces machines mises au point à la fin du XIX^e siècle, les caractères métalliques sont fondus et assemblés pour former les lignes de texte. Un dispositif coûteux et fastidieux, qui tend alors à disparaître au profit de la photocomposition, qui remplace l’impression en relief par l’impression à plat. En photocomposition, les textes sont produits à l’aide de matrices photographiques, puis, dans les dernières générations de photocomposeuses, de manière électronique. Mais Knuth n’est pas convaincu par l’aspect du texte, qu’il juge médiocre, et regrette la qualité des premiers volumes. Ils étaient composés en Monotype Modern 8A: c’est un «Scotch Roman», le caractère typographique de labeur par excellence: axe vertical, contraste modéré, hauteur d’x généreuse et terminaisons accentuées. Des caractéristiques qui le rendent à la fois confortable et très lisible, y compris en petits corps et dans de mauvaises conditions d’impression.

Knuth enseigne à l’Université de Stanford. Il a pris cette année-là un semestre sabatique, pendant lequel il songe partir en voyage. Mais il décide de rester chez lui, et de résoudre le problème qu’il a identifié dans l’impression de son livre. Après tout, les photocomposeuses utilisent désormais des bits et des pixels pour produire les textes : «la métallurgie et le plomb en fusion sont des mystères pour moi; tout autant que les lentilles optiques ou les dispositifs d’alignement mécanique. Mais des lettres formées par de petits points, c’est de l’informatique!». Tout ceci devrait pouvoir se résoudre, en créant le logiciel adéquat. Ses objectifs sont:

• de donner à quiconque la possibilité de produire des livres de haute qualité avec un minimum d’efforts;

• de construire un système qui donne exactement le même résultat, sur n’importe quel ordinateur, à tout moment.

Il se donne 6 mois pour y parvenir, mais ce rabbit hole va le captiver pendant 10 ans. Pour y répondre, il va créer deux outils complémentaires. Un logiciel de composition de textes, appelé TEX, et un langage de description des fontes numériques, METAFONT. L’un est l’autre sont publiés pour la première fois en 1978.

En 1982, Donald Knuth publie dans la célèbre revue Visible Language un article intitulé «The Concept of a Meta-Font», dans lequel il explique le potentiel de cette nouvelle technologie. Une Métafonte ne contient pas les dessins d’un caractère typographique, mais des descriptions abstraites des signes. Un ensemble de paramètres variables peuvent être appliqués, qui vont en déterminer l’aspect: les proportions, la graisse, la chasse, le contraste, le type d’empattements, etc. Le tout décrit dans une syntaxe très pure et remarquablement concise. En somme, avec un nombre suffisant de paramètres, une Métafonte contiendrait, en puissance, toutes les fontes possibles.

Pour éprouver cette nouvelle méthode de description des formes typographiques, Knuth tente de reproduire le Monotype Modern 8A qu’il affectionne. C’est le Computer Modern, la Métafonte la plus complète et la plus complexe, codée par Knuth lui-même. L’article de 1982 est composé dans la première version du Computer Modern, qui compte alors 28 paramètres différents. Il n’aura de cesse de vouloir la perfectionner, avec l’aide de Richard Southall d’abord, puis des typographes Chuck Bigelow, Chris Holmes, Nina Billawala, Matthew Carter et Herman Zapf. La dernière version du Computer Modern compte 64 axes de paramétrage. Sous licence libre, c’est la seule fonte numérique dont le code a été intégralement publiée, en 1986, dans Computer Typesetting, Volume E. Le Computer Modern Roman, ou CMR, est la fonte par-défat de TEX et LATEX (son évolution), et ce caractère est omniprésent dans les publications scientifiques, au point d’en devenir le standard visuel. S’il s’en rapproche de façon assez convaincante, cette fonte numérique est bien plus qu’une adaptation du Monotype Modern 8A. Le nombre de ses paramètres lui permettent de prendre tous les visages: avec ou sans empattements, à chasse unique ou proportionnelle, avec ou sans contraste… Un potentiel vertigineux et pas toujours indispensable. Knuth lui-même, à la fin de son article dans Visible Language, s’interroge: «La capacité de manipuler de nombreux paramètres peut être intéressante et amusante, mais quelqu’un a-t-il vraiment besoin d’une police de caractère de 6 points 1/7^e et se situant à un quart de la distance entre Baskerville et Helvetica?»

Quelques mois plus tard, Visible Language publie une réponse de Douglas Hofstadter à l’article de Knuth: «Metafont, Metamathematics, and Metaphysics: Comments on Donald Knuth’s Article ‹The Concept of a Meta-Font›» Hofstadter y convoque le théorème de Gödel pour critiquer les conclusions de Knuth. Le théorème d’incomplétude, énoncé par Gödel, dit qu’un système ne peut pas être complet et cohérent en même temps. Un autre théorème, plus facile à comprendre, est celui d’un ancien philosophe crétois, Épimenide, qui a déclaré: «Tous les crétois sont des menteurs. Étant lui-même crétois, cette phrase est un paradoxe: si c’est vrai, c’est faux. Et si c’est faux, c’est vrai.»

Dans l’introduction de sa réponse dans Visible Language, Hofstadter déclare que l’article de Knuth donne une vue «faussement optimiste» du problème, qui peut être divisé en deux idées:

Concilier ces deux points, tous les A possibles et rien que des A, reviendrait à concilier complétude et cohérence. Ce que, selon Hofstadter, aucune machine n’est capable de faire.

Hofstadter reprend la question de Knuth sur le besoin d’avoir une fonte «se situant à un quart de la distance entre Baskerville et Helvetica», et s’étonne: «La phrase jetable de Knuth implique implicitement que nous devrions être en mesure d’interpoler toute fraction de chemin entre deux types de caractères arbitraires. Pour que cela soit possible, toute paire de polices de caractères devrait partager exactement le même ensemble de boutons (sinon, comment pouvez-vous régler chaque bouton sur un réglage intermédiaire?)»

Pareille interpolation lui semble impossible, car la variété des formes que revêtent les caractères typographiques est tout simplement trop grande: à titre d’exemple, Hofstatder reproduit une collection de A issus du catalogue Letraset, qui semblent en effet avoir bien peu de choses en commun. «De mon point de vue, dit-il, l’essence platonicienne qui se cache derrière une lettre concrète est composée de« rôles» conceptuels plutôt que de parties géométriques.»

Pour tenter d’y répondre, Hofstadter convoque les travaux de Mikhail Bongard. Dans un ouvrage intitulé Pattern Recognition, en 1967, ce mathématicien russe publie une série de 100 problèmes qui testent notre capacité à reconnaître des motifs. Apparaissent côte-à-côte deux séries de 6 images: il faut trouver ce que chaque série a en commun et ce qui différencie la série de droite de la série de gauche. C’est de plus en plus complexe, et très délicat. Selon Hofstadter, la perception est la clé de l’intelligence et de la créativité. L’intelligence ne se limite pas à l’analyse linéaire d’éléments prédécoupés, mais une activité créative, qui repose sur la capacité d’analogie de l’esprit humain. «Sous cette forme, dit-il, la perception visuelle prend une lumière très différente. Son noyau semble être une analogie—c’est-à-dire l’activité consistant à résumer les caractéristiques importantes de situations complexes (filtrant ainsi ce que l’on considère comme des aspects superficiels) et à rechercher des ressemblances et des différences entre les situations à ce niveau élevé de description. […] Il est clair que dans la solution des problèmes de Bongard, la perception est envahie par l’intelligence et l’intelligence par la perception.»

Devinez quel est le dernier problème de Bongard, le centième, le plus complexe à résoudre? Des lettres. Des lettres cyrilliques, А et Б (mais la démonstration serait la même dans n’importe quel système d’écriture), représentées chacune dans six formes typographiques différentes. Cerner ce qui rapproche et ce qui distingue ces deux séries serait, selon Bongard, l’activité cognitive la plus difficile. En raison de la «diversité insensée», que Hofstadter avait déjà soulignée. L’opération nous est pourtant familière: cette capacité humaine à discriminer des formes dans un environnement complexe ne cesse d’étonner Hofstadter.

Dans Gödel Escher Bach, en 1979, il déclare: «Certains des problèmes de reconnaissance des formes visuelles que nous, êtres humains, semblons avoir complètement ‹aplatis› dans notre inconscient sont assez étonnants. Ils comprennent:

• Reconnaître des visages (invariance des visages sous l’âge, changement d’expression, changement d’éclairage, changement d’angle, etc.);

• Reconnaître des sentiers de randonnée dans les forêts et les montagnes […]

• Lire le texte sans hésiter dans des centaines sinon des milliers de caractères différents.»

Les travaux du neurologue français Stanislas Dehaene ont d’ailleurs mis en lumière que la zone occipito-temporale gauche du cerveau, responsable de l’identification des visages, est celle qui était sollicitée (à la faveur d’une réaffectation, en quelque sorte) pour reconnaître les lettres.

Les jeux de lettres fascinent Hofstadter depuis son enfance. Son œuvre toute entière recèle de jeux de mots et de jeux de traductions, mais aussi de dessins d’alphabets et d’ambigrammes. Passionné par les mécanismes cognitifs qui interviennent dans notre perception des signes, il n’est pas surprenant que, dans son travail de recherche au sein du Fluid Analogies Research Group, Hofstadter se saisisse de typographie. Il définit lui-même la création d’alphabets comme un «micro-domaine» qui lui permet de circonscrire les phénomènes de perception et de création, phénomènes étroitement liés dans sa conception de l’intelligence artificielle.

«Quelque chose a été déclenché en 1979, dit-il, lorsque mon ami Scott Kim et moi-même avons ri de l’idée ridicule d’essayer de faire en sorte qu’un ordinateur se lance dans une exploration de la création d’alphabets. Cela semblait tellement incroyablement difficile!». Plutôt que prétendre recréer de toutes pièces des caractères typographiques «dans toute leur gloire curviligne», Hofstadter se limite aux 26 lettres minuscules et opte pour une grille de construction délibérément réduite: une matrice de 21 points (3×7), qui peuvent être reliés à l’horizontale, à la verticale ou à 45 degrés. La grille obtenue ne permet que 4 cases pour la hauteur d’x, et autant pour les ascendantes et descendantes—et pour chaque case, 6 segments possibles: 2 horizontales, 2 verticales, 2 diagonales.

Le projet Letter Spirit tente de modéliser, sur ordinateur, les aspects centraux de la perception et de la créativité, en se concentrant sur les deux axes de ce graphique. Verticalement, la similitude «catégorique», c’est-à-dire ce qu’ont en commun différentes formes de a, b, c… (Letter). Horizontalement, la similitude «stylistique», c’est-à-dire la cohérence formelle à l’intérieur d’un alphabet entier (Spirit). Les logiciels mis au point par Hofstadter et ses étudiants travaillent à partir de lettres «sources», issues d’abécédaires créés par des humains—près de 1000 alphabets au total, tous conçus sur la même grille. À partir d’une petite sélection, les programmes doivent créer le reste de l’alphabet, en respectant à la fois «l’esprit» et la «lettre». Les opérations sont effectuées par l’«Examiner», qui identifie les catégories de lettres (a, b, c…), l’«Adjudicator» qui détermine les paramètres stylistiques (l’esprit), et le «drafter», qui s’efforce de créer un gabarit correspondant. Ces opérations peuvent être effectuées en boucle, et chaque itération affine le résultat.

Les résultats créés par le programme à partir des quelques lettres sources sont ensuite comparés avec les autres lettres des alphabets «humains»—des expériences ont également été menées sans lettres sources, l’ordinateur concevant des alphabets de manière autonome, en définissant son propre style.

Pour être honnête, le résultat n’est, dans les deux cas, jamais complètement convaincant. Les alphabets humains apparaissent à chaque fois plus cohérents en terme de style.

Mais les enseignements du Letter Spirit sont probablement ailleurs: davantage qu’une boîte magique à créer des alphabets, Hofstadter tente de modéliser les mécanismes humains à l’œuvre dans leur conception. Il tente de repérer, quantifier, articuler les multiples inter-relations qui existent au sein d’un même alphabet.

Malgré l’extrême simplification des formes, la grille mise au point par Hofstadter révèle une étourdissante plasticité, et un nombre vertigineux de possibilités. Au sein de cette «diversité insensée», l’appartenance d’une forme à une catégorie ou un style donné résulte d’un processus complexe. Ce qui fait dire à Hofstadter à propos de Metafont: «C’est une hypothèse audacieuse (et, je le maintiens, absurde) que l’on pourrait obtenir n’importe quel «A» en remplissant un questionnaire éternel et fixe: ‹Quelle est la largeur de sa barre transversale? Quel angle font les deux bras avec la verticale? Quelle est la largeur de ses empattements?› (et ainsi de suite). Il se peut qu’aucun élément identifiable ne joue le rôle de barre transversale ou de gauche. Ou un rôle peut être divisé en deux parties ou plus.»

À la suite de l’article d’Hofstadter, Visible Language reproduit quelques-uns des nombreux courriers reçus à la suite de l’article de Knuth. Parmi eux, de nombreux jugements expéditifs et superficiels, s’offusquant de la piètre qualité des formes présentées. Mais aussi quelques remarques plus constructives, de la part de Chuck Bigelow, Hermann Zapf, Peter Karow, et Gerard Unger. Dans un argumentaire sur les outils à disposition du créateur de caractères, Unger déclare:

Unger reproche à Knuth de laisser une place plus importante aux paramètres du design qu’au design lui-même: prenant pour exemple une critique de Dwiggins à propos des caractères Ionic et Excelsior de Linotype, dont les courbes lui semblaient davantage être l’œuvre d’ingénieurs que de dessinateurs, Unger défend la quintessence du geste du créateur, toujours présent malgré cinq siècles de rationalisation typographique.

Knuth, dans sa brève réponse au courrier des lecteurs, convient modestement que le résultat peut encore être amélioré, et espère que cette nouvelle technologie soit «appréciée, appréhendée, appropriée», et pas seulement «appliquée» par la communauté.

S’agissant du monde du design, on peut dire que son message n’a pas été entendu. Le logiciel Ikarus (mis au point par Peter Karow et URW dès 1972), qui reposait sur une méthode plus intuitive et analogique, en suivant les contours d’un dessin à l’aide d’’une tablette et d’un pointeur, s’est imposé comme le principal outil de digitalisation des fontes numériques dans les années 1980. L’apparition du langage PostScript et la manipulation de courbes de Bézier sur Fontographer (Altsys, 1986) ont fait le reste. Finalement, la création de Métafontes est resté l’apanage des scientifiques, tout comme l’utilisation de TEX puis LATEX comme outil de composition. Les outils de publication assistée par ordinateur se sont développés en analogie avec les technologies précédentes: les interfaces graphiques jouent avec le vocabulaire et les espaces symboliques du bureau, les dessinateurs de caractères délimitent les contours vectoriels des glyphes comme des graveurs de poinçons.

Pendant 30 ans, les fontes numériques sont restées étonnamment statiques, à de rares exceptions. Plusieurs outils se sont inspirés de la conception innovante de METAFONT, en le dotant d’une interface graphique: le projet Metapolator, imaginé par Simon Eggli, et Dave Crossland en 2013, et surtout l’application Prototypo, portée par Yannick Mathey et son équipe entre 2009 et 2020. En 2016, Apple, Adobe, Microsoft et Google ont développé conjointement le format OpenType 1.8, qui ouvre la voie aux «fontes variables», aujourd’hui largement implémentées sur les navigateurs et les logiciels de PAO. Évolution de la technologie TrueType GX, ce format offre à l’utilisateur des possibilités d’interpolation qui n’étaient jusque là exploitées que lors des phases de conception. Mais ces variations restent de simples déplacement de points sur des vecteurs (ou «deltas», à partir de contours statiques de référence). Un spectre bien étroit face à la plasticité des métafontes…

METAFONT n’a certes pas transformé la création typographique, mais l’œuvre de Knuth aura une répercussion beaucoup plus large. TEX puis LATEX sont devenus les outils standards de la publication, et les seuls à pouvoir transcrire des formules complexes. À tel point que, comme un solfège, les mathématiciens échangent leurs formules sous forme de fichier TEX, «qui contient, dans un langage sobre, toutes les instructions nécessaires pour reconstruire les textes et formules dans les moindres détails. Grâce à ce logiciel, dit Cédric Villani, Knuth est probablement la personne qui a le plus changé le quotidien des mathématiciens». Et, au passage, révolutionné le monde de l’édition scientifique.

Avec METAFONT, Knuth tente d’objectiver, par des moyens mathématiques, les dessin des caractères typographiques. Hofstadter, avec le projet Letter Spirit, cherche à en saisir le processus même de création. Tandis qu’Unger l’aborde par la pratique, avec sa subjectivité. Chacun envisage le même sujet selon une perspective différente, depuis les mathématiques, les sciences cognitives, ou le dessin. Comme dans la célèbre image en couverture de Gödel, Escher, Bach: un volume suspendu, éclairé depuis trois points lumineux, qui projette au sol, à droite et à gauche trois ombres différentes. Trois lettres (G, E, B), évidemment.