Quand un expert en IA dialogue avec des béotiens

Il est chercheur à l’Onera et enseignant à l’Université Paris-Saclay. Nous avons déjà eu l’occasion de l’interviewer – sur sa vision de l’IA et ses développements récents. L’écosystème Paris-Saclay nous a donné une autre opportunité de le rencontrer, cette fois, lors de l’édition 2024 du Brainathon de TEDxSaclay qui se déroulait au Centre International de Recherche et innovation Daniel Carasso, de Danone. Édition qui avait pour thème l’IA générative et à laquelle il a pris part. Il témoigne ici à chaud de cette expérience qui a exposé l’expert qu’il est du sujet à brainstormer avec des non spécialistes…

- Vous nous avez récemment accordé un premier entretien sur votre vision de l’IA. Nous vous retrouvons à l’occasion de l’édition 2024 du Brainathon. Un dispositif qui tranche avec les modalités de la recherche académique… Comment vous êtes-vous retrouvé à y participer ? Je pose la question même si je me doute que le thème de cette année, l’IA générative, ne pouvait que vous intéresser…

Aurélien Plyer : Les raisons en sont simples et vous en êtes un peu responsable !

- !?

A.P. : Étant arrivé en avance au rendez-vous que nous nous étions fixé pour l’entretien que vous évoquez, je me suis rendu au café dans lequel vous m’aviez dit avoir des chances de croiser Assya [van Gysel], qui a l’habitude d’y télé-travailler. C’était bien le cas. Nous avons aussitôt abordé la question du Brainathon, auquel elle m’a invité à m’inscrire : travaillant effectivement autour des problématiques de l’IA, j’y avais, m’a-t-elle dit, toute ma place. Voilà comment je me retrouve aujourd’hui au Centre International de Recherche et d’Innovation de Danone où ce Brainathon se déroulait…

- Il me semble que c’est un bel exemple de sérendipité…

A.P. : Oui, au sens où, ce jour-là, je n’avais pas prévu de croiser Assya ! Mais voilà ce qui arrive quand on se ménage un peu de liberté dans son emploi du temps, aussi contraint soit-il : suite à une rencontre fortuite, on se retrouve quelque temps plus tard à vivre une expérience comme celle d’un Brainathon, d’une très grande richesse au plan des échanges : les participants sont d’horizons très différents, tant au plan professionnel que disciplinaire, et je n’en connaissais aucun !

- Il me semble encore que cela correspond bien à votre vision de la recherche, telle que vous l’avez évoquée lors du précédent entretien : une recherche, qui laisse place à des temps d’échanges informels, de préférence en présentiel et en laissant libre cours à son imagination…

A.P. : En effet, dans l’idée que je me fais du métier de chercheur, comme de celui d’enseignant, le rapport humain est essentiel. Ce qui suppose de prendre son temps de discuter de manière informelle. Je dirai même d’apprendre à prendre son temps, car en réalité ce n’est pas ou du moins plus aussi naturel que par le passé, y compris dans le monde de la recherche, où tout pousse à aller vite, à accélérer… Il est vrai que, dans le même temps, les charges administratives se sont accrues, de même que l’incitation à publier… Non plus tant pour contribuer à la diffusion de la connaissance que pour participer à une compétition au sein du monde de la recherche. Résultat : le temps consacré aux échanges informels, à bâton rompu, avec les collègues sur nos sujets de recherche respectifs tend à se réduire.
Il faut donc résister pour continuer à pouvoir prendre le temps d’une discussion qui n’était pas programmée dans son agenda, mais qui peut être décisive dans l’avancement d’un travail de recherche ou tout simplement d’une réflexion. C’est d’autant plus essentiel que c’est précisément cette capacité à des échanges informels qui nous différencie, nous autres humains, qu’on soit d’ailleurs chercheur ou pas, d’un robot ou d’un chatbot. Aussi performants soient-ils, eux n’ont pas l’aptitude de réagir à autre chose que ce pour quoi ils ont été programmés..

- Revenons au Brainathon. Si vous deviez d’abord nous en faire le récit, de la matinée jusqu’à son issue ?

A.P. : Le récit ? Et bien voici… Après une brève séance plénière destinée à présenter le déroulement de la journée, nous avons été répartis en six équipes d’une dizaine de personnes chacune. L’objectif final était de préparer un pitch de trois minutes top chrono autour de l’IA générative « Entre le visible et l’invisible », le thème de l’édition 2024 du TEDxSaclay. Au sein de chaque équipe, nous nous sommes de nouveau répartis par petits groupes de trois/quatre personnes pour phosphorer ensemble avant de circuler d’un groupe à l’autre, de façon à enrichir la réflexion de ceux qui nous avaient précédés.

- Comment avez-vous vécu ces échanges avec des personnes qui ne sont pas forcément spécialistes d’IA générative ?

A. P. : De fait, au sein de mon équipe, comme d’ailleurs des autres, peu savaient comment fonctionne une IA générative, certains n’ayant même jamais utilisé ChatGPT ou un modèle concurrent. D’autres, au contraire, en sont déjà devenus des fans inconditionnels, mais sans en comprendre forcément les principes de fonctionnement ni les enjeux. Comme la plupart des utilisateurs de smartphone, ils l’utilisent mais sans se poser plus de questions que cela.
Très vite une question technique a pourtant été soulevée. J’ai pris alors la parole pour y répondre de la manière la plus pédagogique, en faisant aussi synthétique que possible, le but n’étant pas de faire un cours sur l’IA ! Puis une seconde question technique s’est posée… De nouveau, j’ai pris la parole, spontanément… Ce qui ne m’allait pas, car je me rendais bien compte que j’étais en entrain de prendre une trop grande place en comparaison de mes coéquipiers… Or, ce n’est pas le but de ces sessions collaboratives ; je n’étais pas là pour stériliser le débat. D’autant moins que ce qui m’intéressait, c’était aussi de comprendre à travers mes coéquipiers, ce que mes contemporains non spécialistes d’IA en comprenaient. Et puis, je considère que ce n’est pas parce que vous n’êtes pas expert d’un sujet que vous n’avez pas votre mot à dire, surtout dans un dispositif comme le Brainathon. Je me suis donc mis en mode écoute. Bien m’en a pris car, au cours de la matinée, nous avons pu converger sur un sujet de préoccupation intéressant : qu’est-ce que nous allions transmettre aux générations suivantes ? Cette question m’avait déjà trotté dans la tête, mais je n’avais pas eu l’occasion de la creuser aussi explicitement. Je ne fus pas cependant au bout de mes surprises…

- Expliquez-vous…

A.P. : À la fin de la matinée, nous avons été de nouveau réunis dans l’amphithéâtre, le temps de réseauter via LinkedIn… Or, sur la centaine de personnes, J’étais le seul à ne pas avoir de smartphone, un outil devenu indispensable pour ce genre d’opération comme de tant d’autres. Naturellement, cela n’a pas manqué de surprendre mes voisins… Ce qui me laisse songeur à mon tour : on parle de laisser à chacun le soin d’utiliser les outils de l’IA générative ou pas. Pourquoi alors ne pas lui laisser aussi le choix de vivre avec ou sans l’outil « smartphone » ?
À 14 h, après nous être restaurés (merci à Danone pour son sens de l’accueil !), nous voici de retour dans notre espace de coworking pour une seconde session de travail. Cette fois-ci, il est question de rédiger collectivement le pitch final.

- Et alors, quelle idée avez-vous défendue avec votre équipe ?

A.P. : Nous sommes tombés d’accord sur l’idée d’engager une réflexion en faisant un parallèle entre la révolution numérique, liée à l’IA générative, et la première révolution industrielle, liée au charbon.

- Cela demande quelques mots d’explication…

A.P. : Aujourd’hui, nous ne sommes qu’au début de la révolution de l’IA générative. Or, on début de la révolution industrielle, au tournant du XIXe siècle, quand on a commencé à exploiter plus massivement cette énergie fossile pour accroître la production industrielle, on ignorait l’impact que cela aurait sur le climat. Est-ce qu’on aurait fait le même choix de développer autant notre système de production et de consommation si on avait eu entre les mains les rapports du GIEC ? J’aimerais en douter.
Aujourd’hui, nous nous retrouvons au seuil d’une nouvelle révolution, celle de l’IA générative donc. On peut déjà en mesurer les performances et constater aussi la diffusion rapide. En à peine cinq jours, Open IA est parvenu avec son ChatGPT à convaincre un million d’utilisateurs. Aujourd’hui, dans le domaine de l’ingénierie, rares sont les professionnels qui ne l’utilisent pas pour la rédaction d’un email, d’un rapport ou encore pour créer du code informatique. La question se pose cependant de savoir ce qu’un usage massif de cette IA générative peut avoir comme impact sur l’environnement, la société, l’humanité. Comme nous ne sommes encore qu’au début de cette révolution, autant se poser cette question maintenant, alors que les dépendances à ses outils ne sont pas encore trop fortes.

- Que dites-vous à ceux qui voient a priori dans l’IA générative une réponse aux problématiques environnementales ?

A .P. : C’est justement la vision que mes coéquipiers ont voulu défendre. Ce qui n’est pas sans me surprendre même si ce n’est pas la première fois que je l’entends. Des étudiants qui suivent mes cours en « Apprentissage profond » (un des ingrédients de l’IA générative) me posent souvent la question de savoir comment en faire, qui soit bon pour l’environnement. La réponse que j’ai l’habitude de leur faire est la suivante : « Si vous voulez faire de l’apprentissage profond qui soit bon pour l’environnement, le mieux à faire est… de ne pas en faire ! ». Bon, la réponse est un peu facile, j’en conviens. Mais, elle a au moins le mérite d’alerter sur le risque que ce qu’on prend pour la solution soit en réalité un facteur aggravant du problème.

- En quoi précisément, dans le cas de l’IA générative ?

A.P. : En ceci qu’elle tire ses performances d’une débauche de dépense énergétique. Il faut en effet savoir qu’on consomme beaucoup d’électricité pour apprendre les derniers modèles à la mode.
Pour répondre à leurs besoins, les GAFAM en sont déjà à imaginer la construction de data centers dont le niveau de consommation d’électricité est désormais de l’ordre du gigawatt, soit l’équivalent de la production d’une centrale nucléaire et un facteur d’échelle de mille par rapport aux data centers actuels les plus puissants – ils ne consomment « que » quelques mégawatts, ce qui est déjà le niveau de consommation d’électricité d’une petite ville.
Certes, on peut toujours arguer à cela le fait qu’avec le temps, l’efficacité énergétique des calculateurs s’améliorera, tout comme celle des algorithmes. Ce n’est pas faux, mais pour l’heure, l’optimalité des processeurs croît moins vite que les besoins en calcul. De plus, les processeurs utilisés pour de l’IA tendent à atteindre leur niveau optimal d’efficacité car cela fait près de quarante ans qu’on en améliore la puissance. Dans le même temps, la taille des bases de données nécessaires à l’apprentissage des modèles de langage croît de manière exponentielle – elle a été multipliée par quinze rien qu’entre janvier 2023 et février 2024.
C’est pourquoi j’ai dû mal à voir dans l’IA générative autre chose qu’une atteinte à l’environnement et non une solution aux défis qui se posent sur ce plan. Mais au moins le Brainathon aura-t-il eu le mérite de m’engager dans une réflexion qui prenne le contrepied de mes convictions initiales.

- Comment sortir de cette contradiction ?

A.P. : C’est toute la question ! Certains considèrent que notre planche de salut énergétique résiderait dans le développement de l’énergie nucléaire. Sans vouloir prendre position sur ce sujet, j’aimerais commencer par poser la question de savoir à quoi peut bien servir l’IA générative. Certes, elle permet de rédiger un rapport plus vite, d’enrichir un exposé d’images originales, mais le coût environnemental en vaut-il vraiment la chandelle ? De même que l’énergie la plus écologique reste celle qu’on ne consomme pas, la meilleure IA générative pourrait être celle qu’on évite de solliciter.
Et puis, je me pose la question : pourquoi se croit-on obligé de défendre une vision aussi positive de l’IA générative ? Est-ce pour se rassurer ? Se donner bonne conscience ? Si c’est le cas, mon équipe n’était pas la seule dans cet état d’esprit. Sur les six équipes en compétition, trois autres ont également voulu voir dans l’IA générative une solution au problème du changement climatique. Je ne cacherai donc pas mon scepticisme. D’autant que, dans le même temps, tout en disant vouloir défendre le principe d’un usage raisonné de l’IA générative, des équipes ne se sont pas privées de recourir à une illustration faite par le générateur d’images DALL-E, pour les besoins de leur pitch… À se demander si le vrai métier d’avenir n’est pas celui de psychologue ! Car il va bien falloir apprendre à gérer encore plus de contradictions, comme cet usage excessif de l’IA générative versus la conscience que nous avons de son coût énergétique.
Cela étant dit, celui-ci n’est pas mon seul sujet de préoccupation. Il y en a un autre, qui concerne la question de savoir ce que nous pourrons bien transmettre à nos enfants…

- Précisez s’il vous plaît…

A.P. : De toute évidence, l’IA générative démocratise l’accès à la connaissance et l’information, et c’est l’un de ses aspects positifs. Mais cet accès s’inscrit dans une relation pédagogique non plus entre des humains (un élève, d’une part, ses parents, ses enseignants, d’autre part), mais entre un humain et une machine qui fait office de professeur personnel, capable de se mettre à son niveau pour lui expliquer n’importe quel sujet, de la tectonique des plaques au calcul quantique en passant par une langue étrangère. Pourquoi ne pas le dire, c’est le côté proprement magique de l’IA générative. Se pose cependant la question : qu’est-ce qu’il advient du rôle de l’enseignant classique ? Des parents ? Aucun ne sera a priori aussi performant qu’un modèle de langage qui en plus d’avoir lu l’ensemble des pages de Wikipédia pourra s’adapter à la personnalité de chaque enfant afin d’en optimiser l’apprentissage. Mais que nos enfants apprennent plus depuis un écran que de l’éducation reçue d’autres humains, est-ce vraiment ce que nous voulons ? À force de caresser leur écran tactile, sauront-ils encore ce qu’est un clavier, cet ensemble de petits carrés en plastiques représentant des lettres sur lequel mes contemporains et moi tapons encore pour écrire un message ?
Je ne prétends pas dicter la réponse. En revanche, je crois que ce genre de questions mérite d’être posé. Et que c’est à nous en tant que citoyens de tenter d’y répondre et certainement pas aux GAFAM.

- C’est une vision empreinte de beaucoup de pessimisme que vous défendez là ?

A. P. : Non, je ne fais que formuler des questions pendant qu’il en est encore temps ! Encore une fois, nous ne sommes qu’au début de la révolution de l’IA générative. Profitons-en pour nous poser ces questions afin que, dans vingt ans, on puisse éviter de devoir organiser un GIEC du numérique pour faire le constat d’un lien social en voie d’extinction !
Et puis, je repars aussi du Brainathon avec des motifs de satisfaction. Au sein de mon équipe, nous avons su ne pas esquiver d’autres questions tout aussi majeures comme celle de la fiabilité des outils d’IA générative au regard de la véracité de l’information, par exemple.

- Un mot sur le dispositif même du Brainathon, qui permet aux participants d’échanger de manière somme toute interactive, alors qu’ils ne se connaissaient pas en début de journée…

A.P. : C’est tout l’intérêt de ce genre de dispositif. Si j’avais croisé mes coéquipiers dans la rue, avant de les rencontrer ici, je doute que je les aurais abordés pour échanger autour de l’IA générative ! Il faut saluer le travail des facilitateurs et facilitatrices, qui fixent un cadre, veillent au respect du timing, à la circulation de la parole. Ainsi que tous les bénévoles de l’association TEDxSaclay qui rendent possible l’organisation d’une telle journée.
De cette expérience, je ressors convaincu de l’intérêt pour un expert de se confronter à d’autres points de vue, y compris de non experts de son domaine. Même sans être familières avec l’IA générative, des personnes peuvent soulever de très bonnes questions sur ne serait-ce que son impact sociétal. Quant aux étudiants auxquels je donne des cours, j’ai bon espoir qu’ils deviennent un jour encore plus experts que moi, qu’ils dépassent le maître selon la formule consacrée. Cela suppose de leur laisser la possibilité de s’exprimer, même si dans les premiers temps, c’est au risque de se tromper. Je veille tout au plus à les orienter discrètement vers ce que je considère être les bonnes questions à se poser…

- Votre équipe n’a pas été lauréate. Néanmoins, envisagez-vous une suite ? Comptez-vous prolonger l’échange avec vos coéquipiers ? Creuser le sillon à un titre plus personnel ?

A.P. : Toutes les discussions que j’ai eues aujourd’hui ont été enrichissantes. Elles m’ont permis de cerner les espoirs et inquiétudes placées dans l’IA générative. Donc, oui, bien sûr, je continuerai à pousser la réflexion. D’ailleurs, je compte assister au TEDxSaclay, le 29 juin prochain, pour reprendre la discussion avec les participants du Brainathon.

Sylvain Allemand

Journaliste