Pour comprendre l’IA d’aujourd’hui, peut-être faut-il replonger dans son passé

Gödel, Escher, Bach : Les Brins d’une Guirlande Éternelle
par Douglas Hofstadter

Mais qu’est-ce que je viens de lire ?!?

Gödel, Escher, Bach (ou « GEB », pour les initiés) est avant tout un traité de mathématiques. Ou plutôt, c’est une analyse comparée des systèmes formels dans la musique, dans l’art, et dans les sciences. Enfin… on pourrait aussi sans doute le qualifier d’exercice littéraire complexe. Ou de méta-essai traitant de lui-même autant sur la forme que sur le fond. C’est aussi un « gros livre » théorique sur l’Intelligence Artificielle, écrit (en 1979) à une époque ou personne ne connaissait rien à l’IA.

Bref, GEB, c’est tout cela à la fois. C’est un ouvrage majuscule pondu par Douglas Hofstadter (il a d’ailleurs atteint un statut culte dans certains cercles, et obtenu un prix Pulitzer !).

Au coeur du projet de notre universitaire pluridisciplinaire américain, une question majeure : comment pensons-nous ? Quels sont les mécanismes qui nous permettent de traiter des idées et symboles complexes, et de les communiquer dans des situations diverses ? Et comment gérons nous les paradoxes et les structures impossibles ?

Pour tenter d’y répondre, Hofstadter appelle à son secours des « héros » venant de plusieurs disciplines : Gödel, représente les mathématiques, Escher, est le défenseur des arts plastiques, et Bach, le génie de la composition musicale. L’auteur étudie les oeuvres de ces 3 figures tutélaires, et y décortique les éléments communs et les ressemblances structurelles.

Notamment, il explore le concept de récurrence, les notions de preuve et de structure, et une organisation « par niveau » commune pour ces disciplines pourtant très différentes les unes des autres.

Philosophie des mathématiques, questionnements sur le futur des sciences (et notamment de l’IA), liens avec les connaissances alors balbutiantes sur l’ADN… Hofstadter aborde une quantité folle de sujets et tente de les unir dans une histoire commune. C’est franchement réussi : le livre est un tourbillon dans lequel on se perd avec envie et intérêt.

Une théorie unifiée de la conscience et de l’intelligence

Au commencement était le système formel. Hofstadter se concentre sur l’étude de certains systèmes formels récursifs. Notamment sur le fait que la preuve de la non-existence d’un système peut être apportée par les conditions d’existence du système en question. C’est le paradoxe central du livre. Partant de là, l’auteur explore d’autres domaines, identifie d’autres incohérences, et pose de nouvelles questions. Par exemple :

  • Quel est le rapport entre information génotypique et phénotypique ?
  • Les mots et les idées suivent-ils les règles d’un système formel ?
  • Les ressemblances entre neurones et cartes à puce nous donnent-elles des pistes quant au futur de l’Intelligence Artificielle ?

En point d’orgue, « Gödel, Escher, Bach » étudie comment une machine pourrait ou non répliquer l’intelligence humaine. Les prédictions de Hofstadter sont sans doute un peu désuettes, certaines ont été réfutées depuis, alors que d’autres sont toujours valides. Ce qui ressort tout de même est une passion certaine de l’auteur pour ces questions, et pour la recherche de la vérité, que ce soit par les mathématiques ou par l’IA.

Exploration des concepts de Image Recognition par des systèmes d'IA.
Exploration des concepts d’Image Recognition par des systèmes d’IA.

Les concepts traités ici ont été passionnants pour moi. Sans doute basiques pour quelqu’un qui aura étudié le sujet un peu plus en profondeur, j’ai trouvé ici de réelles connaissances de base pour réfléchir à des phrases que l’on entend partout, du style « un système d’IA n’est pas plus intelligent que son créateur« , ou « un système d’IA ne peut pas réfléchir en dehors de son contexte« .

Un livre à la forme intéressante en elle-même

Le format et la structure des chapitres sont étudiés pour expliciter le propos de l’auteur. Ainsi, chaque chapitre est précédé d’un dialogue écrit par Hofstadter. Ces dialogues entre des personnages Carrolliens farfelus (Achille, la tortue, le crabe, etc…) permettent de vulgariser les concepts intellectuels poussés qui seront abordés par la suite.

Tantôt humoristiques, tantôt loufoques, ces scènettes apportent un peu d’air dans un texte qui peut se révéler (très) dense par ailleurs. Elles appellent sans cesse des exemples venant du monde de la musique et de la théorie musicale. Elles proposent des analogies, des jeux d’esprit, et nécessitent tout de même un certain pouvoir d’abstraction. C’est un concept passionnant à lui tout seul.

Nombre d’illustrations viennent également éclaircir les pages. Fournissant des indications salvatrices ou des exemples artistiques de concepts complexes, elles donnent une allure un peu encyclopédique à l’objet. Ce qui en fait un beau livre, que j’ai pris plaisir à feuilleter, même avant ou après la lecture en elle-même. Notamment, certains passages jouent énormément avec la typographie ou la mise en forme générale de la page. J’adore ce genre de choses.

Exemple de jeux de typographie dans Gödel, Escher, Bach
Exemple de jeux de typographie dans Gödel, Escher, Bach, sur une page entière

Le livre lui-même est peut-être le plus grand paradoxe

Alors qu’est-ce qui ne colle pas dans ce livre ? Car si j’ai énormément apprécié certains passages, d’autres m’ont carrément fait tomber le livre des mains…

Sans doute pas mal de passages trop théoriques, surtout sur les discussions mathématiques. Sans avoir de bases vraiment solides, on perd le fil très vite. Hofstadter écrit souvent comme s’il s’agissait d’un manuel scolaire : définition, exemple, exercice, résumé. Et si on rate quelque chose, toutes les pages suivantes perdent de leur sens…

Peut-être plus embêtant, un certain sentiment d’irritation m’a pris à certains moments, notamment des jeux de mots qui font à peine sourire ou des échanges vraiment trop peu subtils. Le style des dialogues est souvent assez emprunté ou ampoulé… Mais on pardonnera à l’auteur de ne pas être un romancier de génie en plus d’un intellectuel accompli.

Les deux mains de Hofstadter : l'une écrit des dialogues, l'autre écrit des essais métamathématiques. M.C.Escher.
Les deux mains de Hofstadter : l’une écrit des dialogues, l’autre écrit des essais métamathématiques. M.C.Escher

Reste que de nombreuses citations me suivront pendant un certain temps après cette lecture.

Sur la récursivité et l’auto-référence :

Hofstadter’s Law : It always takes longer than you expect, even when you take into account Hofstadter’s law.

Sur la différence entre savoir et croyance :

You can’t go on defending your patterns of reasoning for ever; there comes a point where faith takes over.

Sur la prévalence des codes régissant toute communication :

There is no such thing as an uncoded message; there are only messages written in more or less familiar codes.

Sur la dernière frontière de l’intelligence artificielle :

AI is whatever hasn’t been done yet. Once some mental function is programmable, people soon cease to consider it as an essential ingredient of « real thinking. »

Dernier point : on pourra se poser des questions quant à la pertinence de l’analyse de Hofstadter sur les sujets de prospective sur l’IA. Cet article de The Atlantic dresse un portrait de notre chercheur comme d’un mec qui s’est un peu paumé et n’a pas su prendre le virage commercial de l’IA, amorcé il y a une quinzaine d’année. Je recommande pourtant ce livre à toute personne un peu curieuse sur les sujets abordés dans cet article, et qui sait s’accrocher lorsqu’une lecture s’avère un peu difficile. Rien que pour apprécier l’effort pluridisciplinaire ambitieux.

Partage cet article :

Laisser un commentaire