Quelles promesses pour l'IA ?

Le battage médiatique en faveur de l'IA continue de battre son plein, par exemple Joëlle Barral de Google DeepMind explique que L’IA va permettre d’accélérer la recherche scientifique, bien plus qu’on ne peut l’imaginer. Mais la presse, avec ses formats courts, ne fouille pas le sujet aussi profondément que sa complexité l'exige. Un texte sort du lot : un long billet de Dario Amodei, CEO d'Anthropic : Machines of Loving Grace — How AI Could Transform the World for the Better. Le texte a le défaut d'être très long (52 pages A4 !) et en anglais, mais a l'avantage d'être très fouillé. Je vous propose d’en faire un résumé critique (garanti sans IA générative !).

La société Anthropic s’est fixée pour mission de faire de la recherche sur les risques de l'IA. Mais cette fois-ci, le CEO prend la plume pour exprimer sa vision des progrès que l'IA pourrait apporter à l'humanité si tout se passe pour le mieux. L'auteur insiste lourdement sur "si tout se passe pour le mieux", et c'est à mettre à son crédit, car il reconnaît que tout pourrait ne pas bien se passer. Sa vision est celle de l'Intelligence Artificielle Générale (AGI, en anglais), terme qu'il dit ne pas aimer. Il préfère parler de "powerful AI" (IA puissante) ou "Ingénierie et science de niveau expert” ("Expert-Level Science and Engineering"). On pourrait résumer cette situation à une IA qui serait, en substance, l’équivalent d’"un pays rempli de génies, rassemblés dans un centre de données". Il considère que cela pourrait se produire dans les 10 ans à venir, vu les progrès rapides de l'IA.

Rappelons que Dario Amodei est conscient que le déploiement de l'IA a de grandes chances de poser problème. Comme il l'indique dans un billet de 2023, on a déjà pu observer chez les IA actuelles des “traits de caractères” (si on nous passe cet anthropomorphisme) tels que des comportements toxiques, des biais, un manque de fiabilité, de la malhonnêteté, de la flagornerie (flatterie auprès de l’autorité pour se faire bien voir) et une recherche du pouvoir. Au delà de ça, un déploiement rapide de l'IA puissante, pourrait poser ainsi problème :

1. Si l'IA est plus intelligente que les humains, elle peut chercher à se développer dans une direction qui n'est pas à l'avantage de l'humain avec les conséquences dramatiques que l’on imagine. C'est un problème d'alignement.
2. Les progrès de l'IA pourraient être si rapides qu'ils changeraient de façon drastique l'emploi, l'économie et les structures de pouvoir au sein des nations et entre les nations. Cela sèmerait le chaos au niveau social, économique, politique et international.

L’IA pourrait-elle causer la perte de l’humanité ? C’est ce que pense Yohua Bengio, l’un des pères de l’IA moderne, qui disait récemment : “Il n’y a aucune garantie que l’IA ne va pas se retourner contre ses concepteurs. Mais c’est quasiment certain si nous continuons dans la direction que nous avons prise”. C'est-à-dire si l’hypothèse de Dario Amodei est peu probable. Imaginons pourtant qu’elle arrive et pour reprendre ses mots “tout se passe bien”.

Si on avait une nation composée de prix Nobel qui travaillaient ensemble à résoudre les grands problèmes du monde, ça changerait quoi ?

Dario Amodei explore 5 facettes de cette question :

1. Biologie et santé physique

2. Neuroscience et santé mentale

3. Développement économique et pauvreté

4. Paix et gouvernance

5. Travail et sens

1 - Biologie et santé physique

C'est dans ce secteur que les progrès vont être les plus positifs pour l'humanité, et c’est aussi là que Dario Amodei est le plus convaincant dans son argumentaire. Il faut dire que l’actualité lui donne raison : l’IA s’est vue décerner les prix Nobel de physique et de chimie. Cet épisode démontre à quel point l’IA peut accélérer la recherche en biologie. Cela fait dire à l’auteur que des progrès scientifiques qui auraient pris 50 à 100 ans (et qui ont déjà été accélérés par rapport aux siècles précédents) pourraient arriver dans les 5 à 10 ans à venir. À en croire l’auteur, qui documente longuement cette section, de tels progrès en biologie permettraient de radicalement changer la donne pour la santé physique des humains. Ainsi, cela permettrait d'éliminer les maladies infectieuses, de la plupart des cancers, des maladies génétiques, prévention d'Alzheimer, de l'obésité, du diabète, etc, pour faire bonne mesure, de doubler l'espérance de vie. Tout ceci peut donner le tournis, mais le fait est qu’on a envie d’y croire, quiconque a eu des graves problèmes de santé ou s’étant retrouvé à devoir prendre soin d’un proche gravement atteint ne peut que se réjouir de voir la santé humaine s’améliorer à grande échelle.

2 - Neuroscience et santé mentale

Dario Amodei est aussi très enthousiaste sur la santé mentale. Il anticipe une guérison de la plupart des maladies mentales, une prévention des maladies mentales d'origine génétique. Et enfin, une bien meilleure forme mentale au quotidien pour tout le monde ou presque. Nous avons trouvé ce passage plutôt moins convaincant et moins précis que le précédent, mais l’enthousiasme de l’auteur ne faiblit pas, par contre il semble moins certain de son opinion.

3 - Développement économique et pauvreté

Sur ce sujet, Dario Amodei est déjà moins enthousiaste. Comment donner l'accès à l'IA puissante et à ses bénéfices à des populations qui ont accès à une toute petite partie du confort moderne ? Bien sûr, offrir à ces populations une meilleure santé serait déjà fabuleux.

Ensuite, reste la question du développement économique. Dario Amodei est un entrepreneur de la Silicon Valley et donc la croissance — voire l’hyper-croissance — est la solution à tous les maux. Pour lui, il faut résoudre les inégalités, ce qui est louable. Par contre, cela passe par donner à tous le niveau de vie d'un occidental, avec tout ce que ça implique en termes de consommation d'énergie, de ressources et donc de génération de pollution et d'émissions de gaz à effet de serre. Il imagine donc une croissance de 20% par an en Afrique sub-saharienne, ce qui mènerait à un niveau de vie comparable à celui de la Chine, mais sans prévoir de réduction massive des émissions des pays développés.

En ce qui concerne l'alimentation, il imagine une seconde révolution verte (la première était celle des fertilisants, pesticides et de la sélection génétique) qui serait basée sur les aliments génétiquement modifiés et de nouveaux fertilisants. Tout cela permettrait d'augmenter les rendements. On regrettera que l'immense problème de l'effondrement de la biodiversité soit passé sous silence. Nous y reviendrons.

Pour ce qui est du changement climatique, on ne trouve qu'un court paragraphe qui mentionne en vrac la capture du carbone et la viande produite en laboratoire, en compléments d'autres solutions qu'on ne connaît pas encore et qui seront inventées par l'IA pour permettre de protéger le climat tout en augmentant la croissance. Bref, Amodei nous promet la croissance verte 2.0 dopée à l'IA. Le fait que l'IA est un énorme facteur aggravant de la crise climatique n'est tout simplement pas mentionné. Là encore, nous y reviendrons.

4 - Paix et gouvernance

On le voit, à chaque sujet abordé, la confiance de Dario Amodei s'érode un peu plus. Son pari, sur les sujets de politique internationale est qu'un groupe de pays démocratiques dispose avant tout le monde d'une IA puissante, ce qui leur donnerait un avantage par rapport à d'autres pays non démocratiques. Les premiers l'emporteraient économiquement sur les seconds grâce à l'IA. Et peut-être que le bien (la démocratie) l'emporterait. Extrait traduit par mes soins :

Nous aurions un monde où les démocraties sont sur le devant de la scène mondiale, où elles disposent de la force économique et militaire leur permettant d'éviter d'être attaquées, sabotées et conquises par les dictatures, où elles arriveraient à transformer leur avancée en termes d'IA en avantage durable. Cela pourrait, si on reste optimiste à un genre de "1991 éternel", un monde où les démocraties ont l'avantage sur une très longue durée et où la vision de "la fin de l'histoire" de Fukuyama est une réalité.

L'argument semble faible, mais l’auteur en convient lui-même :

Encore une fois, cela sera très difficile à obtenir. En particulier, cela nécessitera une coopération étroite entre les entreprises privées qui font de l'IA et les gouvernements des démocraties, ainsi que des décisions particulièrement intelligentes sur l'équilibre entre la carotte et le bâton (Note du traducteur : allusion aux mécanismes de subventions et de régulation).

L'auteur part ensuite dans un développement sur l'utilisation de l'IA pour rendre la justice qui pourra sembler pour le moins scabreux. Certes, en manipulant de plus grandes quantités de données que les humains, l’IA pourrait aider à une plus grande homogénéité des décisions rendues, mais la perspective de voir la justice des humains (et donc les condamnations associées) rendues par des machines pourra donner des cheveux blancs aux spécialistes de l’éthique et des cauchemars à ceux qui lisent les papiers scientifiques sur le sujet.

5 - Travail et sens

Ici, l'auteur tente de répondre aux questions suivantes :

"C'est super de vivre dans un monde aussi avancé technologiquement, qui est en plus respectueux de l'humain, mais si l'IA fait tout, où les humains vont-ils trouver du sens à leur vie ? En particulier, comment vont-ils survivre d'un point de vue économique ?"

La réponse est beaucoup plus brève que pour les 4 autres sujets. Non pas parce qu'il ne s'intéresse pas au sujet, se défend-il, mais parce qu'il n'a aucune idée claire, aucune certitude.

Quoi qu'il en soit, je pense qu'à long terme l'IA va devenir tellement efficace et tellement bon marché que (l'économie inventée et utilisée par les humains) finira par ne plus fonctionner. Une fois arrivés à cet état, notre fonctionnement économique n'aura plus de sens, il faudra avoir un débat public sur comment nous devrions dorénavant organiser l'économie.

On applaudira le courage de l’auteur d'aborder le sujet avec une telle franchise. On pourra être frustré qu'il n'aille pas plus loin. Mais surtout, reste une question fondamentale : QUID de la prise en compte du contexte environnemental des limites planétaires et de la biodiversité ? En fait, il considère que ces problèmes (changement climatique, effondrement de la biodiversité, etc.) sont isolés. Il ne les intègre pas dans une approche systémique.

On se demandera si l'auteur pense que l'IA sera toujours moins chère et plus répandue dans un monde où l'énergie et les ressources disponibles diminuent et où la biodiversité et le climat sont de plus en plus abîmés, au point de fragiliser le tissu de la société.

Concentration du CO2 dans l’atmosphère au fil des années, avec l’évolution de la température, et les principales conférences mondiales visant à réduire les deux. Sous licence CC-BY

Un contexte ignoré : le dépassement des limites planétaires

La problématique des limites planétaires est présente depuis plus d’un demi-siècle : le changement climatique a commencé avec la révolution industrielle il y a plus de 150 ans. Il est analysé par des groupes de scientifiques depuis 1988 (création du GIEC).

Depuis 1990, premier rapport du GIEC, qui a été confirmé par les 5 rapports qui ont suivi (modulo le fait qu'ils ont tous constaté qu'à chaque fois ils avaient été trop optimistes), les efforts pour corriger la trajectoire sont largement inefficaces. Pas inutiles, non, mais très en dessous de ce qu'il faudrait faire.

Niveau biodiversité, l'effondrement est mesuré depuis 1970 et empire à chaque mesure.

Il me paraît aberrant de mettre de côté ces deux problématiques pour dire "avec beaucoup de chance, l'IA pourrait devenir puissante et nous aider, dans 10 ans au mieux, à résoudre les problèmes qu'on a aujourd'hui". Cela n’est pas sans évoquer scénario de l’ADEME le plus radicalement techno-solutionniste intitulé Pari réparateur de l’ADEME, décrit ainsi :

“le foisonnement de biens consomme beaucoup d’énergie et de matières avec des impacts potentiellement forts sur l’environnement. La société place sa confiance dans la capacité à gérer voire à réparer les systèmes sociaux et écologiques avec plus de ressources matérielles et financières pour conserver un monde vivable. Cet appui exclusif sur les technologies est un pari dans la mesure où certaines d’entre elles ne sont pas matures.

D'autant que ces deux problématiques climat et biodiversité sont aggravées par le déploiement massif de l'IA, qui consomme toujours plus d'énergie, de ressources abiotiques, pollue lors de sa fabrication et contribue à l'artificialisation des sols et à la continuation de l'effondrement de la biodiversité. Rien que sur la consommation d’énergie et la production de gaz à effet de serre, deux récentes annonces font froid dans le dos : 29 % d’augmentation en 3 ans pour Microsoft, 48 % sur 5 ans pour Google.

Ce qu’il faut garder à l’esprit, c’est que pour disposer d’une planète habitable à la fin du siècle, il faut rester au plus près possible de 1,5°C, comme décidé lors de l’accord de Paris, ce qui implique une réduction de 5% par an d’ici 2050. À l’inverse, l’IA nous conduit à une augmentation très importante.

Scénarios de réchauffement climatique d’après le GIEC via OurWorldInData sous licence CC-BY

Un autre oubli : les boucles de rétroaction

Si le GIEC recommande de rester le plus près possible de 1,5°C de réchauffement climatique, c’est qu'au-delà, le climat va s’emballer par un mécanisme de rétroaction. Un exemple tout simple parmi des dizaines : quand le climat se réchauffe, il fait fondre les glaces. Or, la glace, blanche, a tendance à renvoyer les rayons du soleil vers l’espace (ce qu’on appelle le phénomène d’albédo) et ainsi limiter le réchauffement. Or, quand la glace a fondu, elle laisse place à la terre ou à la roche, beaucoup plus sombres, qui absorbent de ce fait beaucoup plus les rayons du soleil et donc contribuent beaucoup plus au réchauffement. Et une fois la glace fondue et ce processus entamé, on ne peut pas revenir en arrière : dans un climat plus chaud, la glace ne reviendra pas. C’est ce qui fait dire aux climatologues que chaque dixième de degrés compte. C’est pour cela qu’on ne peut pas mettre de côté les problèmes de climat et de biodiversité : il est très urgent d’agir car on ne pourra pas réparer ni revenir en arrière.

De la fragilité des infrastructures

Dans un monde où la pauvreté aura augmenté à cause du changement climatique, où il sera plus difficile de se nourrir, où les migrations auront augmenté à cause de la crise climatique qui aura rendu inhabitable des régions de plus en plus grandes, les risques de conflits armés sont une menace plus que probable. Il y aura moins de stabilité et plus de chaos. Au-delà de voir émerger plus de régimes autoritaires, perspective déjà peu réjouissante, on risque de voir la société occidentale moins bien fonctionner et donc devenir moins efficace pour allouer les ressources nécessaires à la modernisation et à l’entretien et à la protection d’infrastructures critiques que sont les réseaux énergétiques et informatiques et de transport.

C’est déjà une réalité dans des pays pourtant dans une situation stable : on a vu dans un passé récent comment quelques attaques ciblées physiques pouvaient paralyser le pays au niveau du réseau TGV, du réseau Internet. De même, des centrales nucléaires ont été mise hors-service par la guerre (Zaporijjia suite à l’invasion russe de l’Ukraine), les catastrophes naturelles (Fukushima au Japon suite à un tsunami, la centrale française de Golfech à cause de la sécheresse) ou les accidents (Three Miles Island aux USA ou Tchernobyl à l’époque en Russie).

Dans un monde chaotique, la haute technologie ne peut plus aussi bien fonctionner.

Refuser de voir les problèmes de climat et de biodiversité et donc de les traiter, comme on le fait depuis des décennies, va fragiliser le contexte dans lequel pourrait advenir — si tout se passe bien — une IA puissante. Pire, et c’est à nouveau une boucle de rétroaction : investir dans l’IA va augmenter la consommation de ressources naturelles et donc faire empirer la situation qu’on néglige de traiter pendant ce temps-là.

À ce titre, l'IA puissante — indéniablement tentante par les possibilités qu’elle offre — risque fort d’être une distraction qui d'une part va détourner les forces humaines des problèmes écologiques à régler, et d’autre part cette distraction va physiquement faire empirer les problèmes. On regardera avec intérêt la conférence de la médecin épidémiologiste Valérie d’Acremont sur le sujet.

Quelles options pour quelles trajectoires ?

Si l’IA est si tentante, pour des tas de raisons, quelles sont les approches qu’on pourrait retenir pour éviter à l’humanité de foncer droit dans le mur des limites planétaires en accélérant avec l’IA ? Nous en voyons trois :

1. Interdire l’IA purement et simplement. Soyons clairs : cela n’arrivera pas, car il faudrait que chaque entreprise, chaque pays renonce à son déploiement. Dans un monde où les entreprises et pays sont en concurrence, le tout sans régulateur mondial, cela ne peut pas arriver. Les tentatives successives de régulation du nucléaire, tant au niveau civil que militaire, sont un bon exemple des problèmes rencontrés depuis la fin de la seconde guerre mondiale. .
2. Essayer de réserver l’IA à des usages critiques et responsables. Il y a des usages, par exemple pour sauver des vies, où le recours à l’IA sera vite décidé dans le débat démocratique que nous devrions avoir. Mais d’autres usages, où le besoin est plus superficiel, poseront problème. Il faut bien dire que ce qu’on fait actuellement, à savoir mobiliser des ressources informatiques énormes qui font tourner des LLM pour écrire des emails ou des posts LinkedIn à notre place, le tout dans un contexte fortement contraint, n’a pas beaucoup de sens. On peut (beaucoup) mieux faire !
3. Inventer l’IA frugale. Ce pourrait être des méthodes de Data Science pour résoudre des problèmes qui se posent à nous, mais qui ne nécessitent pas d’utiliser autant de ressources. Cela pourrait être, à plus long terme, des réseaux de neurones analogiques. L’IA frugale est un sujet sur lequel nos collègues d’OCTO travaillent, et que nous aborderons prochainement dans un futur article.