Comment s’orienter dans les discussions sur l’Intelligence artificielle ?

Personne n’a échappé à la déferlante médiatique autour de l’Intelligence Artificielle (désormais IA), à la profusion d’articles, de conférences et de livres. Comment y voir clair et raison garder ? D’un côté, il y a des articles, des livres, des conférences, qui s’adressent aux spécialistes¹. De l’autre, une production « grand-public » hélas très souvent superficielle et n’apprenant pas grand-chose. Enfin, il y a une quantité énorme de foutaises, du catastrophisme à l’illumination béate, à l’exemple des prophéties du spécialiste de tout et rien — Laurent Alexandre — qui annonce un jour qu’ « avec l’IA, la marginalisation de l’espèce humaine est absolument inévitable »² et le lendemain que l’IA va nous rendre immortels »³ (à quoi bon en ce cas ?).

L’ACIREPh, cette excellente association de professeurs de philosophie à laquelle j’appartiens, a judicieusement choisi de consacrer deux Journées d’Études en novembre 2024 à l’IA. J’ai voulu en savoir un peu plus sur le sujet. Mais c’était difficile, d’une part, parce que ma culture informatique date des années 80-90 (l’âge des systèmes experts autant dire des dinosaures), d’autre part, parce que les ouvrages solides que j’ai rencontrés sont presque exclusivement en anglais et trop techniques.

Parmi les ouvrages en français, il y a toutefois 4 livres que j’ai trouvé intéressants et bien faits pour comprendre le fonctionnement des systèmes intelligents et éviter de dire trop d’âneries à leur sujet.

1° Une boussole générale : l’Intelligence artificielle. Triomphes et déceptions de Melanie Mitchell

La traduction de L’Intelligence artificielle. Triomphes et déceptions⁴ est tout simplement une bénédiction pour le public francophone. Mais d’abord un mot de son autrice : chercheuse américaine à l’Université de Santa Fe, mathématicienne spécialisée en informatique, Melanie Mitchell est le type d’universitaires que j’aime. D’un côté, la chercheuse pointue, dont les travaux académiques sont reconnus⁵, bref une sommité académique. De l’autre, la remarquable pédagogue à en juger par ce livre, par ses articles et ses conférences où l’on ressent la prudence et l’humilité de la chercheuse, le tact, la gentillesse et l’humour de la pédagogue, toujours alliés à la rigueur.

Quiconque veut se former (pas seulement s’informer) doit impérativement commencer pas ce livre. La connaissance qu’on y acquiert est indispensable pour aborder de façon éclairée et critique les questions relatives à l’IA. Les recherches en IA (proprement dite) ont commencé au milieu des années 50, et comme souvent en science, les intuitions directrices et les grandes bases conceptuelles sont jetées dès le départ. Melanie Mitchell nous permet de suivre cette évolution, avec ses hauts et ses bas, ses espoirs et ses déceptions. Se faisant le lecteur se familiarise en douceur avec les bases théoriques, les aspects techniques et les débats philosophiques qui ont accompagné cette histoire.

C’est un ouvrage généraliste, clair et pédagogique. Il couvre l’histoire de l’IA, de sa naissance dans les années 50, jusqu’en 2019. On découvre les différentes formes de l’apprentissage automatique (machine learning) jusqu’aux développements contemporains de l’apprentissage profond (deep learning) rendu possible par les « réseaux de neurones profonds » (en fait de nouvelle architecture logicielle ou algorithmiques). Les parties théoriques sont accompagnés d’exemples clairs. Enfin, les matheux trouveront quelques explications supplémentaires dans les notes.

Remarque : le livre s’arrête en 2019 (la traduction française est de 2021). On ne trouvera donc rien sur ChatGPT et les IA Génératives de textes apparues en 2022, basées sur ce qu’on appelle les « grands modèles de langage »⁶ (LLMs, ²Large Language Models). Mais cela ne diminue en rien son intérêt. D’abord parce que l’IA désigne un très large domaine de recherche et d’applications trop méconnues du public. Le livre de Melanie Mitchell permet justement de le découvrir. Ensuite, parce que ChatGPT et ses semblables ne désignent qu’une famille particulière de traitement automatique des langues, domaine qui lui-même n’est que l’une des nombreuses applications de l’IA qu’il faut tout de même connaître si on veut y comprendre quelque chose. C’est précisément ce qu’apporte le livre de Melanie Mitchell.

Et si l’on veut comprendre tout de suite les les enjeux des IA génératives ? Je conseille à ceux qui comprennent l’anglais de regarder une conférence de Melanie Mitchell qui traite à la fois du passé de l’IA, de son présent (donc de ChatGPT et consorts) et de son avenir. J’ai trouvé cette présentation très utile et bien faite, et décidé d’en tirer une adaptation écrite (en français), avec l’autorisation grâcieuse de Melanie Mitchell (je l’en remercie chaleureusement). Les articles seront publiés bientôt à la suite de celui-ci.

Et on peut lire immédiatement Intelligence artificielle, intelligence humaine : la double énigme de Daniel Andler qui y consacre un chapitre entier (cf. présentation ci-dessous).

2° Quand la machine apprend. La révolution des neurones artificiels et de l’apprentissage profond de Yann Le Cun⁷.

Autant le dire tout de suite : oui, Yann Le Cun est le chef du département de recherche sur l’IA de META (ex-Facebook). Je le précise car certains ne le supportent pas pour cette raison. Ce qui m’intéresse c’est Yann Le Cun, chercheur français, pionnier des « réseaux de neurones convolutifs » (à une époque où personne n’y croyait) et sur lesquels reposent une bonne partie des développements contemporains de l’IA et de l’apprentissage profond  (deep learning). Professeur à la New-York University, le Collège de France lui a confié sa chaire annuelle « Informatique et sciences numériques » en 2015-2016. En 2018, il a reçu pour ses travaux le prix Turing, l’équivalent pour l’IA du Nobel de physique ou de la médaille Field en mathématiques.

Bref, Yann Le Cun sait de quoi il parle et c’est l’intérêt de son livre. Si l’effort de vulgarisation est l’objectif, certains trouveront peut-être quelques passages trop techniques ou trop mathématiques, ceux où il explique les méthodes (et algorithmes) qui sous-tendent les modèles d’IA. Mais ce n’est pas un problème : d’abord on peut toujours ne pas lire (1^er droit du lecteur rappelle Daniel Pennac), quitte à y revenir plus tard ; mais si on a un peu de curiosité scientifique, on peut aussi s’arrêter, le temps de réviser ou vérifier quelques notions mathématiques oubliées depuis le lycée – et là, l’effort en vaut la peine. Ce sera encore plus facile si on a d’abord lu le livre de Melanie Mitchell.

Yann Le Cun prend soin lui aussi d’expliquer clairement et pédagogiquement les concepts importants. Son livre a aussi une particularité : il mêle l’histoire de l’IA et la sienne, du moins celle de son parcours professionnel. C’est une intéressante leçon sur la vie de chercheur, l’importance des rencontres, de la persévérance, les hasards qui favorisent une recherche. Deux réserves : quand il aborde Facebook (META) et Mark Zuckerberg, Le Cun semble surtout en mission marketing ; on peut comprendre que Le Cun soit reconnaissant de la liberté et des moyens que lui offre le patron de META, mais ce dernier n’est quand même par un chevalier blanc ni sa maison une association de philanthropique. Deuxième réserve, le chapitre 10, final, consacré aux enjeux » : visions simplistes, assertions très approximatives, parfois confuses voire contradictoires⁸. C’est dommage. Mais cela change rien à l’essentiel : le lecteur français dispose de peu d’introduction de ce type à un domaine si complexe.

3° Intelligence artificielle, intelligence humaine : la double énigme de Daniel Andler ⁹

Avec le livre de Daniel Andler, on entre sur un terrain qui sera plus familier aux philosophes. C’est que Daniel Andler est mathématicien et philosophe (il parle leur langue), et spécialiste des sciences cognitives (cf. la somme qu’il a co-dirigée en 2018, La cognition. Du neurone à la société). L’intérêt d’Andler pour l’IA est ancien : il a écrit avec Hubert Dreyfus Intelligence artificielle : Mythes et limites (déjà !) en 1992. Il revient sur le sujet après presque 30 années de recherche, avec son livre Intelligence artificielle, intelligence humaine : la double énigme. C’est un livre généraliste, précis, à la fois dense et pédagogique. De la vulgarisation de haut niveau.

La première partie retrace l’histoire intellectuelle et technique de l’IA, ses productions principales, ses changements de direction et de paradigme (leur conceptualisation est précieuse). Comme chez Mitchell et Le Cun, l’approche historique est indispensable. Dans cette partie, Daniel Andler explique les enjeux philosophique et scientifiques du débat récurrent entre l’IA symbolique (qui repose les symboles et les règles d’inférence de la logique mathématique) et l’IA sub-symbolique, qu’Andler appelle le « neurocalcul », qui préfère essayer de reproduire le fonctionnement du cerveau et qui a débouché sur les « réseaux de neurones ». Tout cela est patiemment expliquée avec une précision conceptuelle qui plaira aux philosophes. Une petite difficulté : le souci (très philosophique) de bien nommer les choses conduit Daniel Andler à noter certaines notions différemment et proposer ses propres acronymes : parlons plutôt d’un système artificiel intelligent que d’un système d’intelligence artificielle, de neurocalcul plutot que d’IA non-symbolique (il est vrai que conceptuellement c’est stupide car dire ce que n’est pas une chose ne renseigne en rien sur ce qu’elle est), d’apprentissage automatique plutôt que d’apprentissage machine, etc. Ce qui exige une petite gymnastique mentale.

Dans la seconde partie, Andler développe une réflexion critique (toujours très documentée) sur la nature de l’intelligence humaine, animale et artificielle au regard des derniers développements de l’IA et des sciences cognitives. C’est de nouveau passionnant pour le lecteur qui accède ainsi à l’état de la recherche sur ces sujets. Il livre ses réflexion sur les notions et projets qui sous-tendent les expressions intelligence « faible », «forte », « intelligence artificielle générale » et « super-intelligence », ce qui permet de distinguer les projets relevant de la science des spéculations hasardeuses qui s’en écartent. Occasion de démêler Enfin, atout du livre, le chapitre consacré aux « modèles massifs de langage » (large language models) qui ont révolutionné le traitement du langage naturel, et dont ChatGPT est un exemple. Il y aborde les forces et faiblesses de l’intelligence artificielle générative (notamment le problème de la « cécité sémantique »).

Le livre de Daniel Andler est une somme et ouvrage de référence. Indispensable.

4° Le Mythe de la singularité : faut-il craindre l’intelligence artificielle ?¹⁰ de Gabriel Ganascia¹¹

L’informaticien et philosophe Jean-Gabriel Ganascia, spécialiste des problèmes éthiques, politiques et anthropologiques liés à l’IA, est lui aussi un spécialiste et excellent pédagogue (sur Youtube on trouve facilement de nombreuses conférences et entretiens, comme celle de l’Agora des savoirs de la ville de Montpellier sur le Mythe de la Singularité, introduction agréable et stimulante à son livre).

Jean-Gabriel Ganascia s’intéresse aux discours des techno-gourous de l’IA à commencer par celui de leur prophète, Ray Kurzweil, informaticien, auteur, entrepreneur, futurologue et chef de projet chez Google. Depuis 1999 (The Age of Spiritual Machines), Kurzweil annonce l’avènement de la « singularité », ce point où l’IA dépassera l’intelligence humaine, deviendra consciente (et dotée de spiritualité), s’auto-améliorera tandis que l’humain fusionnera avec la machine (Kurzweil est aussi transhumaniste) et deviendra immortel en téléchargeant sa conscience sur une bio-machine. En 2005, Kurzweil récidive en publiant La singularité est proche. Comme elle tarde à venir, en juin 2024 il publie La singularité est très proche (nearer, littéralement « plus proche »), ce qui ressemble au gag des prédicateurs de la fin prochaine et assurée du monde mais indéfiniment repoussée pour des raisons techniques, sauf qu’ici le futur est radieux puisque nous atteignons l’immortalité numérique.
Le philosophe Nick Bostrom (formé aux neurosciences et à la physique) annonce lui aussi la création prochaine d’une Super-intelligence (titre de son livre de 2014) qui, méchante et vindicative, entraînera une catastrophe planétaire et l’extinction de l’espèce humaine. Mais rien n’est perdu dit Nick Bostrom, si on sait la rendre gentille, la Super-Intelligence pourra rendre service (ouf!).
La liste des futurologues de la même farine est longue, à commencer par Hans Moravec, roboticien inentif qui dans Robot mere machine to transcendent mind (1998) prédit que les machines atteindront le niveau de l’intelligence humaine d’ici 2040 et la dépasseront en 2050. Ce qui n’est pas grave puisque que nos descendants choisiront de se transformer en « ex-humains » en se téléchargeant sur des ordinateurs avancés. On pourrait aussi mentionner Max More (né Max T. O’Connor) entrepreneur futuriste qui, en prévision de l’immortalité numérique, stocke dans des cuves le cerveau de riches clients espèrant un jour être « uploadés » sur un nouveau support. Dans son livre, Jean-Gabriel Ganascia réfute un à un les arguments centraux (scientifiques, techniques, épistémologiques) du mythe de la  Singularité (voir notamment sa critique des extrapolations à partir de la « loi de Moore »). Cette réfutation méthodique permet de découvrir ce qu’est réellement l’IA par contraste avec l’IA fantasmée plus médiatiques des Bouvard et Pécuchet de l’information (la mort et l’immortalité feront toujours plus vendre que la compréhension d’un perceptron).

Mais Jean-Gabriel Ganascia va plus loin. Il relève que la Silicon Valley et certains de ses grands financiers et entrepreneurs se livrent au même jeu : annonces spectaculaires et refrains catastrophistes. Elon Musk qualifie l’IA de « plus grande menace existentielle pesant sur l’humanité » et met en garde contre le risque d’« ouvrir boîte de Pandore », annonçant dans la même foulée qu’il va immédiatement dépenser 10 millions de dollars pour veiller à ce que l’IA reste amicale¹². Le gérant de fonds spéculatifs Peter Thiel déclare que « les gens passent trop de temps à se préoccuper du changement climatique et pas assez de l’IA »¹³ (il soutient lui aussi Trump). Stephen Hawking se laisse embarquer par le mouvement et prévient : « Réussir à créer une intelligence artificielle serait le plus grand événement dans l’histoire de l’homme. Mais ce pourrait aussi être le dernier » car, si à court terme elle dépend de qui la contrôle », la questions « à long terme, est de savoir si elle peut être tout simplement contrôlée »¹⁴. Bill Gates déclare de son côté : « Je suis d’accord avec Elon Musk et d’autres sur ce point et je ne comprends pas pourquoi certaines personnes ne sentent pas concernées »¹⁵. Jean-Gabriel Ganascia questionne cette soudaine prolifération de discours alarmistes. Pourquoi les GAFAM, champions de l’IA, se précipitent pour sonner le tocsin ? Jean-Gabriel Ganascia montre que c’est un écran de fumée pour masquer la vraie menace :  l’emprise croissante des géants du Web sur la société et l’économie. Leur seul ennemi est l’État régulateur et sa souveraineté qu’ils s’emploient à démanteler en le dépouillant de ses prérogatives régaliennes. Les géants du Web ont déjà investi la sécurité, la défense, la monnaie, la justice, l’éducation, la santé. Pour les peuples la menace est là : perdre leur souveraineté et non pas dans le pouvoir d’une intelligence artificielle fantasmatique soudainement devenue autonome, vivante et incontrôlable.

Voilà pour les 4 livres incontournables.

Pour prolonger le sujet, j’aimerais signaler encore deux livres

Servitudes virtuelles de Gabriel Ganascia¹⁶. Jean-Gabriel Ganascia s’intéresse ici aux contraintes douces qu’impose le numérique à travers une multitude d’usages et d’outils qui finissent par transformer profondément nos vies, nos manières d’êtres et les notions qui forment la trame du tissu social (l’amitié, le partage, la réputation, etc.) ; comment la condition humaine se trouve fortement affectée par cette « réontologisation » du monde.

Pour s’orienter dans redéfinition du monde, Jean-Gabriel Ganascia propose une Rose des vents numérique dont les quatre points cardinaux représentent les nouvelles polarités entre lesquelles se tient désormais notre vie. L’être en ligne » qui envahit d’autant plus notre existence que nous la voulons (rester 3 mois sans connections ?). L’existence « hors ligne » (qui apparaît si lointaine et presque impossible, même quand on choisit de vivre dans la marge), l’existence « en vie » (« on life ») qui renvoie à l’ensemble des transformations de la civilisation, des mœurs, des relations sociales dans un monde hyperconnecté, et le « hors vie » (« out life ») qui renvoie aux discours promettant toutes sortes de fins de l’humanité : une catastrophe finale provoquée par Super-Intelligence incontrôlable, la fusion des humains et des machines, ou le transhumanisme et sa promesse d’une inéluctable « singularité », date au-delà de laquelle l’accélération de l’histoire sera le fait des machines elles-mêmes. En dehors de cette dernière orientation, Ganascia montre comment nous consentons aisément à ces transformations, que le consentement soit extorqué, subtilement contraint, ou résolu et volontaire.

Dans la deuxième partie du livre, Jean-Gabriel Ganascia étudie une réponse à ces problèmes : l’éthique. Il est pour lui illusoire d’attendre quoi que ce soit de ces multiples comités qui espèrent résoudre ces problèmes passant leur temps à élaborer des chartes pleines de grands principes éthiques aussi vagues que confus quand on les examine de près.

On sent Ganascia exaspéré par la superficialité de ces incantations bien pensantes dont il démolit les incohérences « à coup de marteau » en passant au crible les concepts dont ils se réclament (autonomie, dignité, bienveillance, etc.). Ce n’est évidemment pas qu’il serait contre. Il est lui-même membre du comité pilote de l’éthique du numérique du Comité Consultatif National d’Éthique ! Ce qui semble l’agacer est la conjugaison d’amateurisme, d’incompétence, d’ignorance scientifique et technique, et surtout de naïveté devant les logiques économiques ou la manière dont les universités porteuses de programmes de recherche valident sans hésiter les projets éthiquement les plus douteux. Ganascia enterre l’approche déontologique, c’est-à-dire par énonciation de grandes obligationset de droits fondamentaux auxquels chacun ne peut, individuellement, que souscrire.

Parmi ses arguments : 1° il est naïf de croire que les géants du Net (GAFAM et BATX) vont se mettre à limiter les activités sur lesquels se fondent leurs profits à la source de leurs profits ; 2° les grands principes souffrent d’un vice constitutif : ils sont vagues (« protéger la dignité »), souvent confus (le bien-être ?) et consensuels tant qu’on s’abstient d’en préciser le contenu ; 3° ces déclarations ne servent à rien, elles sont sans valeur opératoire (comment l’ingénieur peut-il concrètement coder la dignité dans un réseau de neurones convolutifs ? comment le scientifique peut trouver l’algorithme de la bienveillance, la mettre en équation pour en rendre calculable les degrés par une machine ?) 4° une objection politique : quelle serait la légitimité des décisions de tels comités d’éthiques qui par définition échappe à tout contrôle démocratique (leurs membres ne sont pas des élus) ? on comprend qu’elle séduise les géants du numérique, toujours prêts à constituer un comité d’éthique ad hoc dont les membres se recrutent parmi leurs propres salariés. Le débat est donc ouvert.

Aventures chez les transhumanistes. Cyborgs, techno-utopistes, hackers et tous ceux qui veulent résoudre le modeste problème de la mort de Mark O’Connell¹⁷. C’est un livre léger mais sérieux, informé, cultivé et drôle. Il s’agit d’une enquête chez les transhumanistes de Mark O’Connell, rédacteur pour le Guardian, Slate, le New York Times Magazine, qui a rencontré en personne ses figures les plus connues. Le livre de cet ancien professeur de littérature anglaise alterne la retranscription des entretiens (toujours empathiques), les réflexions érudites, philosophiques et littéraires, et des notes plus personnelles (curiosité, étonnement, doutes).

Le livre se lit comme une nouvelle (on suit les aventures de son auteur dans cette communauté étrange) mais il est sérieux : l’enquête de Mark O’Connell nous permet de rencontrer le philosophe Nick Bostrom, les neuroscientifiques Randal Koene ou Miguel Nicoledis, et une floppée d’acteurs plus ou moins glorieux, les uns adeptes de la « suspension cryonique » (qui congèlent des cadavres en attendant de pouvoir les ressusciter), ceux de « l’émulation complète du cerveau » (par scannage de sa structure pour un téléchargement futur), ou encore des cyborgs (quitte à s’implanter des circuits imprimés bricolés sous la peau dans une cave comme Tim Canon et ses amis).

L’enquête démarre dans le laboratoire de l’ancien bodybuilder, Max More né MacConnor (« More » pour « plus » comme « plus de vie », plus de « santé », « plus de puissance ») animé par le rêve de « l’humain augmenté », qui sait allier « philosophie »¹⁸ et business. Il n’y a en effet que 3 entreprise au monde, dont la sienne (Alcor) à proposer la « cryoconservation » du corps (à peine 200 000 dollars) ou, pour moins cher (80 000 dollars), celle de la tête, solution à laquelle semble croire davantage Mac More (il l’a choisie pour lui-même). Cette kyrielle de bio-hackers et de techno-utopistes a un point commun avec les gourous de la Silicon Valley : leur confiance illimitée dans la capacité technologique à émanciper l’humain de sa triste et minable condition biologique, ce corps faible, vulnérable, soumis à la pesanteur terrestre, qui entrave insupportablement leur pouvoir de se définir eux-mêmes et d’être autres qu’ils ne sont (c’est terrible de vieillir). Cette galerie de portraits frappe par la tonalité messianique de leurs discours promettant la délivrance (du corps), le paradis pour demain (mais ici-bas). Et on se demande si ce mélange de matérialimse simpliste, de fascination pour la technique et de spiritualité revisitée pouvait naître ailleurs qu’aux USA.

Enfin, Mark O’Connell révèle une face plus cachée de ce petit monde.. Le financement de certains de leurs projets à hauteur de milliards de dollars par des géants de la Silicon Valley et l’armée (la Darpa, Defense Advanced Research Projects Agency), très liée à Google et très intéressée par l’utilisation des cyber-machines en temps de guerre. Tous financent des recherches sur les interfaces cerveau-machine, la bio-ingénierie, et les machines intelligentes¹⁹.

Notes