Des topos et des ponts

Suite de notre série d’entretiens sur la contribution de la théorie des topos à une IA frugale, souveraine et locale – objet d’une table ronde programmée dans le cadre d’un séminaire de l’association Aristote, le 21 mai prochain, à EDF Lab, avec, cette fois, le témoignage d’Olivia Caramello, mathématicienne italienne, professeure à l’Université d’Insubria, coordinatrice du Centre pour la théorie des topos et ses applications de l’Institut Grothendieck, chercheure associée à Centrale Supélec et invitée par Mines Paris – PSL pour un séjour scientifique consacrée aux applications de cette théorie.

- Pour commencer, pouvez-vous rappeler les circonstances de votre « rencontre » avec Alexander Grothendieck – je mets le mot rencontre entre guillemets, car vous êtes trop jeune pour l’avoir rencontré avant son retrait dans un village du sud de la France…

Olivia Caramello : J’ai découvert l’existence de Grothendieck de son vivant, en 2005, durant mes années d’études de mathématique à l’Université de Turin – j’étais en 4e année. Je suivais un cours de géométrie algébrique donné par un professeur qui, à la fin de ce cours, quitta la salle en laissant un article sur son bureau. Avec ma curiosité naturelle d’étudiante, je n’ai pu m’empêcher de le parcourir. Cet article, en anglais, s’intitulait « As If Summoned from the Void : The Life of Alexandre Grothendieck » ; son auteur était une certaine Allyn Jackson qui l’avait rédigé pour les Notices de l’American Mathematical Society. Le peu que j’avais commencé à lire m’avait aussitôt intéressée ; l’auteure y traitait à la fois de la figure et des réflexions de Grothendieck tirées principalement de son œuvre Récoltes et semailles. On y trouvait donc des citations très poétiques. Je décidai d’emporter l’article avec moi pour le lire durant mon trajet de retour en train… Ma rencontre avec Grothendieck est partie de là  : de la copie de cet article que le professeur laissa en partant sur son bureau, sans rien dire…

- Aucun autre de vos camarades n’avait manifesté de curiosité ?

O. C. : Non… C’est ce qui m’a décidé à l’emporter. Une fois dans le train, j’en ai poursuivi la lecture. Ma fascination première ne s’en est trouvée que décuplée. Je ressentis comme un coup de foudre ! À l’époque, je me sentais un peu isolée dans mon approche globale des mathématiques. J’étais très intéressée non seulement par une discipline en particulier mais surtout par les liens que l’on pouvait tisser entre différentes branches des mathématiques, en l’occurrence, la logique, la théorie des catégories, la topologie etc. En lisant ce texte, je me suis pleinement retrouvée dans l’approche de la recherche en mathématiques de Grothendieck. Pourtant, à l’époque, je ne connaissais pas encore la théorie des topos. Je me souviens de m’être dit combien il était donc étrange de me sentir si proche d’un mathématicien qui était si éloigné de ma discipline : il était géomètre algébriste alors que, moi, j’étais plutôt logicienne. A priori, nous n’avions donc rien ou presque à nous dire dans la perspective de la suite de mes études et recherches. D’autant moins qu’à l’époque, l’enseignement des mathématiques nous amenait, en tant qu’étudiants, à percevoir les savoirs de façon cloisonnée.  Moi-même pensais que la logique n’avait guère à voir avec la géométrie algébrique. J’ai donc refermé l’article en me satisfaisant du plaisir d’avoir découvert un mathématicien d’une telle envergure. J’avais cependant déjà des références marquantes en mathématiques comme, par exemple, le Britannique Godfrey Harold Hardy [1877-1947], mon premier « héros » mathématicien – ayant fait, au début de mes études, des recherches personnelles en théorie des nombres. J’ajoute que l’article sur Grothendieck évoquait la théorie des topos, mais sans trop l’approfondir. Il portait davantage sur son  parcours de mathématicien, sa biographie.

- Qu’est-ce qui vous aura donc amenée vers la théorie des topos ?

O. C. : Toujours au cours de mes études de 4e année, j’avais rencontré, en plus de la logique, qui devait devenir un de mes premiers centres d’intérêt, la théorie des catégories à travers l’algèbre homologique – un domaine qui a été totalement révolutionné par l’arrivée du point de vue catégorique. J’ai pu ainsi faire l’expérience de la comparaison entre les fondements anciens de l’algèbre homologique et les fondements nouveaux apportés par la théorie des catégories. Particulièrement marquante, cette expérience m’a fait entrevoir la puissance du point de vue catégorique, ce qui m’a littéralement passionnée. Par ailleurs, le cours d’un autre professeur en géométrie algébrique devait m’introduire aux faisceaux. Un autre coup de foudre !

Il reste qu’à la fin de ma 4e année, je me retrouvais avec pas moins de trois passions : la logique, la théorie des catégories et les faisceaux ! Devant choisir une thématique pour les besoins de mon mémoire de fin d’études,  je suis allée voir un professeur de logique pour savoir s’il y en avait une qui me permettrait de combiner les trois. Il me recommanda d’aller voir du côté de la théorie des topos, en reconnaissant toutefois que lui-même n’y comprenait pas grand-chose. Cependant, les lectures sur les topos qu’il m’avait suggérées portaient pas tant sur ceux théorisés par Grothendieck, que les topos dits élémentaires, une notion plus générale, introduite plutôt par des catégoriciens et logiciens – notamment F. W. Lawvere et M. Tierney – que, pour différentes raisons sur lesquelles je ne m’étendrai pas, je  trouve moins intéressante que celle introduite antérieurement par Grothendieck.

Je précise juste que ces catégoriciens et logiciens avaient pour projet la refondation des mathématiques dans le langage des catégories : ils s’étaient à ce titre intéressés aux topos de Grothendieck mais plus d’un point de vue logique, comme des catégories à l’intérieur desquelles on aurait pu développer les mathématiques à peu près comme on le fait dans le cadre ensembliste habituel. Pour cela, ils se sont mis à étudier à la structure interne de ces topos. Un aspect de ces derniers leur posait cependant problème : le fait qu’on n’eût pas d’axiomatisation du premier ordre de la notion de topos de Grothendieck. C’est précisément cela qui les a amenés à introduire une variante de cette notion au prix d’une abstraction accrue. Toujours est-il que c’est par cette voie que j’en suis venue à m’intéresser aux topos élémentaires, avec cependant le sentiment d’un certain manque de profondeur. L’abstraction, c’est bien, mais elle est d’autant plus intéressante et féconde lorsqu’elle peut être reliée à des situations concrètes. Je me suis d’ailleurs toujours considérée avant tout comme une mathématicienne, plutôt que comme une logicienne pure. Lorsque je m’engageais dans la théorie, c’était avec l’idée qu’elle devait ouvrir la voie à des avancées concrètes dans des domaines spécifiques des mathématiques. Or, j’ai vite compris que la notion de topos élémentaire ne permettait pas réellement d’atteindre cet objectif.

Dans la poursuite de mes études, j’ai pu faire une claire distinction entre cette classe de topos élémentaires et les topos de Grothendieck, que je trouvais beaucoup plus intéressants au regard de l’objectif que j’avais en tête, à savoir : unifier des théories mathématiques différentes, créer des passerelles entre les savoirs, établir de nouvelles connexions entre des théories ou des contextes apparemment éloignés. Bref, la notion de topos de Grothendieck avait le niveau de généralité idéal pour permettre de dire quelque chose de profond tout en restant à un niveau de généralité remarquable.

- À quel moment interviennent ces « retrouvailles » avec ce mathématicien ?

O. C. : Dès l’année qui suivit celle de ma lecture du fameux article, en 2005, donc. Avant la fin de mes études universitaires, en 2006, j’avais été définitivement convaincue de l’intérêt de la théorie des topos, telle que définie par Grothendieck. C’est ce qui m’a conduite à entreprendre un doctorat à l’Université de Cambridge, institution de référence dans le domaine, avec une bourse du Trinity College. En 2009, je soutenais mon doctorat. Comme vous l’aurez compris, ma deuxième « rencontre » avec Grothendieck s’est faite de façon inattendue, simplement en me laissant guider par mon gout mathématique.

- Comment avez-vous fait l’articulation entre la théorie des topos et l’IA ?

O. C. : À partir de 2018, j’ai commencé à échanger avec des ingénieurs, en particulier  Jean-Claude Belfiore. Il m’avait sollicitée pour me faire part des questionnements soulevés par ses propres travaux dans le domaine de l’ingénierie des télécommunications, la transmission sans fil. Il avait la conviction sinon l’intuition que la théorie des topos pouvait engendrer une véritable révolution au niveau des fondements de la nouvelle génération des télécommunications – la 6G. Je me suis ainsi retrouvée exposée à des questionnements d’un ingénieur auxquels je n’étais pas habituée mais qui m’intéressait. Le fait que mon interlocuteur, qui n’était pas  mathématicien, manifeste lui-même autant d’intérêt pour la théorie des topos m’a intriguée. Je n’aurais jamais imaginé qu’une théorie si abstraite pouvait intéresser un ingénieur ! Qui plus est, Jean-Claude Belfiore posait de très bonnes questions ! J’ai aussitôt perçu des rapprochements entre les problématiques dont il faisait part, notamment sur la modélisation des réseaux de neurones profonds, avec les problèmes dont je traitais, par exemple, la relativisation de la théorie des topos : depuis un certain nombre d’années, je porte un programme de développement d’une théorie des “topos relatifs”, dans le langage grothendieckien des fibrations. Des concepts qui se révèlent pertinents dans le contexte des travaux de Belfiore. Ces parallèles insoupçonnés qui se révélaient dans nos discussions m’ont encouragée à aller plus loin en reflechissant à la question du developpement de formes d’intelligence artificielle à l’aide des topos. En fait, j’étais déjà intéressée à ce type de questions depuis plusieurs années, car je m’étais aperçue que les topos constituaient une clé fondamentale en mathématique pour l’exploration de divers domaines dans une perspective globale et transdisciplinaire. Au cours de ma thèse de doctorat, j’ai ainsi relevé que les topos possédaient un véritable pouvoir créateur : non seulement celui d’engendrer des résultats, mais aussi d’ouvrir à de points de vue ou de langages nouveaux. En cela, mon expérience des topos n’était pas seulement d’ordre mathématique mais métamathématique, l’aspect qui d’ailleurs me fascinait le plus. Il ne s’agit pas d’un concept mathématique comme les autres, mais d’un concept qui permet de développer une vision de haut des mathématiques, d’aller ainsi à la source des invariants, des constructions fondamentales… Il devenait dès lors naturel de commencer à s’intéresser à des questions touchant aux fondements de l’intelligence artificielle. Idéalement, celle-ci ne devrait pas être disjointe de l’intelligence humaine, laquelle possède des caractéristiques distinctives : la faculté de multiplier les points de vue et les langages sur une réalité donnée ; d’identifier des formes et de saisir qualitativement le réel – ce qui, en mathématiques, se traduit par l’identification des invariants ; de vérifier nos affirmations par des systèmes formels, à travers la logique ; et de déployer nos raisonnements sur plusieurs niveaux d’abstraction. Autant de traits propres à l’intelligence humaine que j’ai retrouvés, sur le plan mathématique, incarnés dans la théorie des topos…

- Au point où nous sommes arrivés dans cet entretien, j’aimerais questionner la conception de l’espace inhérente à la théorie des topos et au regard de l’IA. À trop articuler l’IA à une approche spatiale, ne risque-t-on pas de passer à côté d’une autre caractéristique de l’intelligence humaine, à savoir interagir avec un environnement au point d’engendrer un milieu spécifique à chaque individu. Pour le dire autrement, ne risque-t-on pas de pousser trop loin le parallèle entre l’espace des mathématiques et celui dans lequel baigne en quelque sorte l’intelligence et qui est plus de l’ordre du milieu avec tout ce que cela peut suggérer de dimensions sociale, culturelle, technique, etc. En espérant que mon interrogation, placée sous la signe de la mésologie, fasse sens…

O. C. : Oui, c’est le cas et je vous en remercie. Elle m’offre l’occasion de préciser que l’une des caractéristiques fondamentales de la pensée humaine réside dans sa dimension relationnelle. Le concept de relation, sinon d’interaction, est centrale dans tout processus d’apprentissage. Au niveau des fondements mathématiques, la théorie des catégories et, notamment, la théorie des topos, entièrement écrite en langage catégorique – de sorte qu’on peut voir celle-ci comme une sous branche de la première –, offrent un cadre où l’interaction se formalise naturellement, et cela à différentes échelles. Une possibilité de modéliser ces échelles en théorie des topos consiste en différents « sites » qui présentent un topos donné et qui incarnent diverses granularités dans l’observation d’un même contenu. Mais la théorie des topos ne se limite pas à cette conception abstraite : les topos relatifs permettent de formaliser l’idée de « milieu de départ », ou de « base » au-dessus de laquelle on travaille. Autrement dit, ils permettent de penser un espace non pas isolément, mais en relation avec un autre, qui sert de socle ou de référence. Cela ouvre la possibilité de modéliser des processus de méta-apprentissage, articulés entre plusieurs niveaux d’abstraction distincts, et, plus généralement, d’incarner mathématiquement la vision d’une intelligence située et dynamique, capable d’interagir avec et de transformer son environnement.

- Le fait que nous fassions cet entretien à l’École des Mines, en proximité du Centre de Gestion Scientifique (CSG) n’est pas anodin en ce sens où, sous la houlette de son ancien directeur, Armand Hatchuel, il a entrepris de formaliser les processus de créativité…

O. C. : Tout à fait ! Plus précisément, les dynamiques de préservation créatrice, quelque chose de fondamental dans un domaine comme celui du design, de la modélisation ou de la prédiction. Mes collègues de l’École des Mines ont identifié plusieurs aspects de la théorie des topos qui peuvent être utiles dans leurs recherches ; ils ont engagé une réflexion philosophique sur le sujet depuis plusieurs années. Ils connaissaient mes travaux ; le lien entre nous ne s’en est fait que plus naturellement, l’an dernier.

- Votre profil semble aujourd’hui catalyser l’intérêt de plusieurs entreprises, françaises comme européennes, qui souhaitent investir dans une nouvelle forme d’intelligence artificielle fondée sur les topos. C’est dans ce contexte qu’un consortium industriel et académique est en train de se mettre en place, réunissant chercheurs en recherche fondamentale et représentants du monde économique. L’objectif n’est pas tant d’apporter des solutions immédiates à des problématiques concrètes, que d’ouvrir un champ inédit de recherche…

O. C. : En effet, un tel consortium parait le cadre idéal pour l’exploration de ces nouvelles thématiques. Plusieurs entreprises manifestent leur volonté de contribuer à la création d’une intelligence artificielle qui incarne davantage les caractéristiques fondamentales de l’intelligence humaine, tout en intégrant les techniques dominantes actuelles, fondées principalement sur la statistique et les méthodes d’optimisation numérique. Le défi est considérable : il s’agit de combiner une approche que l’on pourrait qualifier de data driven – aujourd’hui dominante, mais encore fragile faute de structures mathématiques suffisantes – avec une approche qu’on pourrait qualifier de top down, de type structurelle, fondée sur les invariants, l’articulation entre différents niveaux d’abstraction, l’intégration de vocabulaires formels et de systèmes logiques de vérification des raisonnements et des connaissances.

- S’agit-il de parvenir, sur un plan plus sociétal, à une IA plus frugale au plan énergétique ?

O. C. : Oui, bien sûr. Plus on injecte de la structure, moins on a besoin de recourir à la force brute et, donc, à de l’énergie. Aujourd’hui,  les centres de données qui permettent de stocker l’information sont particulièrement énergivores, en plus de demander des investissements colossaux et d’impacter l’environnement – notamment en raison de leur consommation d’eau nécessaire au refroidissement. D’un point de vue mathématique, chaque élément formel de vocabulaire introduit dans un système peut entraîner une réduction significative de l’espace de paramètres à explorer lors du processus d’optimisation. Mais aujourd’hui, ce qui manque cruellement aux systèmes fondés sur le LLM, c’est la possibilité de certifier les résultats – des risques subsistent qui viennent du fait que ces systèmes peuvent dans certains cas halluciner, c’est-à-dire engendrer des connaissances fausses. Ces systèmes sont dépourvus de logique. Or celle-ci est indispensable non seulement pour certifier les résultats mais aussi pour rendre transparent et intelligible le processus de leur engendrement – soit l’enjeu de l’explicabilité.

- Au risque de vous surprendre, j’aimerais savoir ce qu’implique pour la chercheuse que vous êtes le fait d’explorer un champ qui s’apparente à bien des égards à une sorte de terra incognita tout en devant y embarquer des partenaires ingénieurs, qui tout en se montrant intéressés par les perspectives offertes en termes d’applications concrètes reconnaissent que c’est à leur yeux un domaine d’un haut niveau spéculatif dont ils ne saisissent pas tous les tenants et aboutissants – à l’image d’ailleurs de ce que peut encore inspirer la physique ou mécanique quantiques… Quelles sont les qualités requises pour y parvenir ?

O. C. : Il faut d’abord savoir faire preuve d’ouverture d’esprit et de réceptivité, deux vertus cardinales chez Grothendieck, qui rappelait que « découvrir, c’est avant tout, savoir écouter ». Cela vaut autant pour le chercheur que pour l’ingénieur, car il faut être deux pour établir un « pont ». De la part des mathématiciens, il faut avoir la volonté de faire un effort non pas tant en matière de vulgarisation – ce n’est pas une démarche dans laquelle je me retrouve – mais plutôt d’identification des aspects clés au niveau méthodologique qui peuvent trouver une résonance ailleurs qu’en mathématique. Prenez, par exemple, le concept d’invariant : c’est un concept qui trouve une incarnation technique en mathématique sous plusieurs formes – il existe des invariants dans toutes les branches des mathématiques. À la base, il s’agit pourtant d’un concept philosophique de sorte qu’en réalité toutes les sciences reconnaissent des formes d’invariants. Ce sont ces concepts philosophiques, dès lors qu’on les placent au centre du dialogue, qui rendent possibles des passerelles entre les différents savoirs et expertises.

En sens inverse, les ingénieurs, les industriels doivent aussi cultiver l’ouverture d’esprit, avoir une vision à  moyen et long terme – si des applications peuvent être vite trouvées, d’autres, de caractère plus structurel, vont nécessiter plus de temps. Une chose est sûre, il ne faut pas se cantonner à son domaine, avoir au contraire un point de vue global et stratégique, une expertise pluridisciplinaire. Ce que l’on peut trouver au sein de grandes groupes industriels, mais aussi dans des start-up et entreprises innovantes.

- N’y a-t-il pas un enjeu non pas tant de vulgarisation – vous récusez ce terme, ce que je peux tout à fait concevoir – que de traduction ? Un mot qui me vient d’autant plus à l’esprit que vous êtes polyglotte et incarnez ainsi la manière dont le passage d’un savoir ou d’une expertise peut passer par un effort de traduction…

O. C. : Traduction, c’est tout à fait le mot ! Elle est rendue possible précisément par l’existence d’invariants. Les concepts ne se réduisent pas à leurs différentes expressions ou manifestations dans des contingences concrètes; ils jouent le rôle de véritables ponts entre ces diverses formes.

- Le béotien n’en reste pas moins intrigué de constater la nature des mots utilisés en guise de concepts par une théorie aussi abstraite que celle des topos : faisceaux, ponts, sites, invariants… Des mots en usage dans le langage ordinaire. Comment expliquer qu’ils puissent être utiles pour faire des mathématiques pures, en évitant l’écueil de l’analogie avec tous les risques que celle-ci peut faire courir ? De prime abord, un pont, pour ne prendre que cet exemple, réfère à une réalité matérielle on ne peut plus concrète… Comment en user dans le cadre de la théorie des topos sans risquer l’analogie la plus terre à terre ?

O. C. : Détrompez-vous. Un pont, pour s’en tenir à cet exemple, peut être l’objet d’une définition abstraite qui dépasse la simple image matérielle que l’on a spontanément en tête. C’est ce que j’ai essayé de montrer en formalisant l’idée de « pont » en général, au moyen d’un schéma qui ne relève pas directement des mathématiques, mais qui n’en est pas moins rigoureux et formel. Il est possible de vérifier si quelque chose qu’on imagine être un pont l’est vraiment au sens de ma définition…

- Une définition méta en somme ?

O. C. : Oui, exactement. L’idée d’un pont, au sens abstrait, c’est qu’il relie deux réalités différentes. On peut partir de deux entités de départ distinctes et, par des chemins différents, arriver à un même objet. Cet objet est susceptible de jouer le rôle d’un ‘pont’ entre les deux entités dans la mesure où il révèle des invariants, qui permettent de faire dialoguer les structures d’un côté avec celles de l’autre. Ce schéma général se retrouve dans différents domaines de la connaissance. J’ai pu fournir des exemples dans le cadre d’une conférence TEDx que j’ai donnée en 2018, en Italie – la vidéo est toujours disponible en ligne.

- Je ne résiste pas à l’envie de relever à quel point finalement ce travail de formalisation vous rapproche paradoxalement de la littérature voire de la poésie au sens où l’une comme l’autre invite à se déprendre du sens familier des mots…

O. C. : Tout à fait ! L’idée de pont est naturelle et féconde dans de nombreux domaines. En linguistique, par exemple, on a des « ponts » qui relient des langues ou des registres différents, permettant de faire circuler le sens ou d’autres invariants. En droit, un « pont » peut unir des systèmes juridiques distincts, en créant des passerelles entre des règles ou des traditions. Dans chacun de ces cas, un « pont » n’est pas seulement une image concrète : il devient une notion abstraite qui exprime la capacité à relier, à associer, à faire dialoguer des réalités différentes. Encore une fois, la recherche de « ponts » est une manière féconde de penser dans tous les domaines de la connaissance.

- Un mot sur l’écosystème de Paris-Saclay où des chercheurs et ingénieurs sont engagés dans la recherche en IA. En suivez-vous l’actualité ?

O. C. : Oui, bien sûr. Je suis notamment chercheure associée à CentraleSupélec.

- Comme quoi on peut aussi jeter des ponts entre des écosystèmes…

O. C. : Oui, et j’espère y contribuer davantage à travers le consortium qu’on évoquait. Celui-ci a vocation à réunir chercheurs et industriels – en particulier ceux du plateau de Saclay – désireux d’explorer et de développer cette thématique pionnière des topos et de leurs applications interdisciplinaires, notamment dans le domaine de l’IA. Je pense que cela peut enrichir à la fois le dialogue entre académiques et industriels, mais aussi celui entre industriels eux-mêmes

Sylvain Allemand

Journaliste