Un Tsunami déferle sur le monde: l’Intelligence Artificielle

Octobre 2024

La déferlante   La déferlande  

Certains voulaient un “moratoire” sur le développement d’algorithmes (des programmes informatiques) d’Intelligence Artificielle (IA/AI) dès l’an 2023…  Beaucoup ont pensé, à juste titre, qu’il s’agissait de manœuvres mercantiles mises en place et gonflées médiatiquement par Elon Musk pour lui permettre de rattraper, avec des équipes qu’il finance, la start-up qu’il avait contribué à créer il y a 5 ou 6 ans, qui avait réussi à se rendre autonome, et s’était vendue à Google pour des milliards de dollars…!!!
Mustafa Suleyman, ingénieur informaticien d’une famille syrienne de longue date devenue anglaise, qui a lancé Inflation AI puis DeepMind (la start-up qui a créé AlphaGo, le programme qui a battu le champion du monde de GO en 2015) expose très clairement les risques planétaires et humanitaires liés au développement, désormais inéluctable et qu’on ne peut plus “arrêter”, des algorithmes d’Intelligence Artificielle (AI/IA).

Mustafa Suleyman & Michael Baskar, La Déferlante. Intelligence Artificielle, Pouvoir: le dilemme majeur du XXe siècle, Fayard, Paris, octobre 2023, 384 pages, ISBN 978-2-213-72668-7 

PDG et fondateur d’Inflection AI et de Deepmind, start-ups en Intelligence Artificielle, ensuite vendue à Google, Mustafa Suleyman a dirigé durant plusieurs années les départements de développement d’ IA/AI chez Google.

Pour lui, aucun doute: l’humanité est à un tournant de son évolution aussi important que fut la maîtrise du feu, l’invention de la roue ou la maîtrise de l’électricité.
Comment faire et peut-on encore faire quelque chose pour que l’humain, tel que connu depuis quelques millénaires, ne soit pas éliminé par une manipulation insuffisamment maîtrisée d’algorithmes généraux d’Intelligence Artificielle et, notamment si ces algorithmes sont appliqués dans le domaine de la biologie cellulaire (notamment celle de l’ADN humain)?

Un avertissement, une “alerte” qui mérite la plus grande attention!

Le but de cette publication
Pour pouvoir aborder correctement cette vague, endiguer la technologie et veiller à ce qu’elle reste au service de l’humanité, il faut surmonter l’aversion au pessimisme. Cela implique de regarder dans les yeux la réalité de ce qui s’approche.
Ce livre constitue ma tentative en ce sens. Identifier et révéler les contours de la vague à venir. Examiner la possibilité d’un endiguement. Placer les choses dans leur contexte historique et observer le tableau dans son ensemble, en prenant du recul par rapport aux bavardages quotidiens sur la technologie.
…L’aversion au pessimisme est une réaction émotionnelle, un refus instinctif et viscéral d’admettre l’hypothèse de résultats profondément déstabilisants. Elle s’observe le plus souvent chez ceux qui occupent des positions de pouvoir solidement établies et ont une image inébranlable du monde, des gens qui peuvent accepter superficiellement le changement mais sont incapables d’admettre une vraie contestation de l’ordre en place. Beaucoup de ceux que j’accuse d’être empêtrés dans le piège de l’aversion au pessimisme approuvent pleinement les critiques croissantes contre la technologie. Mais ils acquiescent sans passer à l’action pour de bon. On va s’en sortir, on finit toujours par s’en sortir, disent-ils. (pp. 21-22)
Quel est le moteur de l’innovation qui fait gonfler la vague du tsunami?
Bien sûr, les percées technologiques reposent sur des êtres humains. Ceux-ci œuvrent dans des ateliers, des laboratoires et des garages, motivés par l’argent, la gloire et, souvent, par la seule soif de savoir. Les experts de la tech, les innovateurs et les entrepreneurs s’améliorent en travaillant, et, chose essentielle, en copiant. Qu’il s’agisse du rendement supérieur de la charrue de votre ennemi ou des téléphones portables dernier cri, la copie est un moteur crucial de la diffusion. L’imitation stimule la concurrence, et les technologies s’améliorent encore. Les économies d’échelle interviennent et réduisent les coûts. L’appétit de la civilisation pour des technologies utiles et moins chères est insatiable. Et ce sera toujours le cas. (p. 41)
Mais, dans les vagues/tsunami technologiques n’a-t-on pas montré, avec la filière atomique, qu’on pouvait les endiguer?
La première explosion nucléaire a eu lieu à peine douze ans après les découvertes de Leo Szilard. Le 16 juillet 1945, sous les auspices du Manhattan Project, l’armée américaine fait exploser un engin qui porte le nom de code de Trinity dans le désert du Nouveau-Mexique. Quelques semaines plus tard, Enola-Gay, un Boeing-B-28 Superfortress, largue un engin baptisé Little boy contenant 64 kilos d’uranium 235 au-dessus de la ville d’Hiroshima, faisant 140.000 morts. En un instant, le monde vient de basculer. Et pourtant, à l’encontre de la tendance générale de l’histoire, il n’y aura pas de prolifération illimitée des armes nucléaires.
Deux bombes atomiques ont été larguées en temps de guerre, pas plus. À ce jour, seuls neuf pays sont dotés de l’arme nucléaire. L’Afrique du Sud a intégralement renoncé à cette technologie en 1989. À notre connaissance, aucun acteur non étatique n’a acquis d’armes de ce genre et, aujourd’hui, le nombre total d’ogives se situe autour de 10.000, un chiffre effrayant, certes, mais inférieur à ce qu’il a été au plus fort de la guerre froide, où il atteignait plus de 60.000 projectiles” “Que s’est-il passé […] L’endiguement de la technologie nucléaire n’a rien eu d’accidentel ; il s’est agi d’une politique délibérée de non-prolifération de la part des puissances nucléaires, favorisée par la complexité et le coût incroyables de la production de ces armes. (p. 53,54)
Le nouveau danger technologique est plus complexe à endiguer
Si l’IA et la biologie synthétique sont les principales technologies d’usage général de la vague à venir, elles arrivent entourées d’une foule de technologies aux ramifications extraordinairement puissantes comme l’informatique quantique, la robotique, les nanotechnologies et la promesse d’une énergie abondante.
La vague à venir sera plus difficile à endiguer que toutes les précédentes, d’un impact plus profond et d’une portée plus grande. Voilà pourquoi comprendre la vague et ses contours est primordial si nous voulons évaluer avec lucidité de que nous réserve le XXIe siècle. (p. 69)
La technologie est au cœur du modèle historique qui voit notre espèce accumuler une maîtrise croissante des atomes, des bits et des gènes, c’est-à-dire des composantes universelles du monde tel que nous le connaissons. Cette expertise aura une importance cosmique. Relever le défi des technologies de la vague montante impose de les comprendre et de les prendre au sérieux, en commençant par celle à laquelle j’ai consacré ma carrière: l’IA. (p. 71)
Et, en fait, l’IA, principal facteur de cette vague-tsunami hyper-puissante, est déjà là!
“L’IA n’“émerge” plus. Elle est présente dans les produits, services et appareils que vous utilisez quotidiennement. Dans toutes les sphères de l’existence, une série d’applications s’appuient sur des techniques encore inaccessibles il y a dix ans. Elles contribuent à la découverte de nouveaux médicaments permettant de combattre des maladies récalcitrantes à une époque où le coût des traitements monte en flèche. L’apprentissage profond peut déceler des fissures dans les canalisations, fluidifier la circulation routière, modéliser des réactions de fusion pour créer une nouvelle source d’énergie propre, optimiser les routes maritimes et aider à concevoir des matériaux de construction plus durables et plus polyvalents. On s’en sert pour conduire des voitures, des camions et des tracteurs, ce qui pourrait encre des infrastructures de transport plus sûres et plus efficaces. Dans les réseaux d’alimentation électrique et de distribution d’eau, il permet d’exploiter efficacement des ressources limitées dans un contexte de tensions croissantes.
Des système d’IA assurent le fonctionnement de magasins-entrepôts, vous suggèrent comment rédiger vos emails ou quelles chansons pourraient vous plaire, détectent les fraudes, écrivent des histoires, diagnostiquent des maladies rares et simulent les effets du changement climatique. On les trouve dans les magasins, les écoles, les hôpitaux, les bureaux, les tribunaux. Vous interagissez déjà plusieurs fois par jour avec des IA/AI. Bientôt vous le ferez encore plus souvent et, presque partout, l’IA rendra ces expériences plus productives, plus rapides, plus utiles et plus fluides.
L’IA est déjà là. Mais ce n’est qu’un début. (pp. 75-76)
L’économie mondiale est, derrière tout cela, déjà planifiée et gérée par l’IA
Nous en viendrons plus loin aux robots, mais la vérité est que de très nombreuses tâches de l’économie mondiale actuelle ne requièrent qu’un accès à un ordinateur ; l’essentiel du PIB mondial passe d’une manière ou d’une autre par l’intermédiaire d’interfaces sur écran accessibles à une IA. La difficulté consiste à améliorer ce que les développeurs appellent la planification hiérarchique: assembler des objectifs, sous-objectifs et ressources multiples dans un processus uniforme tendant à une seule fin. Lorsque ce sera fait, on aura entre les mains une IA remarquablement compétente, parfaitement adaptée à une organisation ainsi qu’à son histoire personnelle et à ses besoins, capable de faire du lobbying, de vendre, de fabriquer, de louer, de programmer – tout ce qu’une société peut faire, avec juste une petite équipe de directeurs humains pour surveiller, mettre en œuvre et codiriger l’IA. (p. 93)
Au point que n’importe qui pourra avoir en poche une IAC qui l’aidera à réaliser, ou réalisera toute seule, une multitude d’objectifs – préparer et organiser des vacances, construire et concevoir des panneaux solaires plus efficaces, contribuer à une victoire électorale. Il est difficile de prédire avec certitude ce qui se passera quand tout le monde disposera de tels pouvoirs […] L’IA n’est pas seulement une technologie de plus: elle est bien plus puissante que cela. Le risque réside moins dans sa surmédiatisation que dans l’échec à mesurer l’ampleur de la vague à venir. […] Et l’IA est loin d’être la seule composante de la déferlante qui approche. (pp. 94-95)
La biologie associée avec l’IA/AI constitue un domaine des plus explosifs puisque qu’il pourrait permettre de transformer l’ADN humain… et donc l’humain tel qu’il est depuis sa prise de suprématie sur la planète Terre par l’Homo Sapiens!
Des systèmes vivants s’auto-assemblent et s’auto-guérissent; ce sont des structures qui exploitent l’énergie et sont en mesure de se reproduire, de survivre, de prospérer dans une grande diversité d’environnements, à des niveaux de complexité, de précision atomique et de traitement de l’information époustouflants. De même que, de la machine à vapeur au microprocesseur, tout a été alimenté par un intense dialogue entre la physique et l’ingénierie, les décennies à venir seront définies par une convergence entre la biologie et l’ingénierie. Comme l’IA, la biologie synthétique suit une trajectoire abrupt de diminution des coûts et d’accroissement des capacités.
Cette vague repose sur la découverte que l’ADN est de l’information, un système d’encodage et de stockage fruit de l’évolution biologique. Les dernières décennies nous ont apporté une connaissance suffisante de ce système de transmission d’information pour que nous puissions aujourd’hui modifier son codage et diriger son évolution. Il en résultera une transformation et une réinvention de l’alimentation, de la médecine, des matériaux, des processus de fabrication et des biens de consommation. Et des humains eux-mêmes. […] En 1973, alors qu’ils travaillent sur des bactéries, Stanley Cohen et Herbert Boyer inventent une méthode permettant de transplanter le matériau génétique d’un organisme à un autre et démontrent qu’il est possible d’introduire de l’ADN de grenouille dans une bactérie. L’ère du génie génétique est arrivée. Ces recherches conduisent Boyer à fonder Genentech, l’une des premières sociétés de biotechnologie, en 1976. L’entreprise se donne pour mission de manipuler les gènes de micro-organismes afin de produire des médicaments et des traitements, et réussit à présenter moins d’un an plus tard une validation de principe, en modifiant génétiquement des bactéries E.Coli pour produire une hormone, la somatostatine. (pp. 96-97)
Ce qui mène à la technique CRISPR de modification des séquences d’ADN
La technique CRISPR modifie des séquences d’ADN à l’aide de Cas9, une enzyme qui agit comme une paire de ciseaux finement ajustés. Elle peut couper certaines parties d’un brin d’ADN à des fins de correction et de modification précises sur n’importe quel organisme, qu’il s’agisse de modifications précises sur n’importe quel organisme, qu’il s’agisse d’une minuscule bactérie ou de gros mammifères comme les humains. Ces modifications vont de minuscules altérations à des interventions majeures dans le génome, et leurs effets peuvent être considérables: la modification de cellules germinales, par exemple, qui constituent les ovaires et les spermatozoïdes, entraîne des changements dont les répercussions se manifesteront à travers les générations.
Après la publication du premier article consacré à CRISPR, l’application de cette technique fait de rapides progrès; les premiers végétaux génétiquement modifiés sont créés en moins d’une année, les premiers animaux – des souris ‒ encore plus tôt. (p. 99)
Grâce à des techniques en constant progrès, le coût du séquençage du génome humain est passé de un milliard de dollars en 2003 à nettement moins de 1.000 dollars en 2022. (p. 98)
Ce qui mène à la médecine régénérative
Des traitements d’importance vitale comme les vaccins nous ont habitués à l’idée d’intervenir dans nos processus biologiques pour combattre des maladies. Le domaine de la biologie des systèmes s’attache à la compréhension de l’“image d’ensemble” d’une cellule, d’un tissu ou d’un organisme en utilisant la bio-informatique et la biologie computationnelle pour observer le fonctionnement holistique de l’organisme; ces recherches pourraient servir de base à une nouvelle ère, celle de la médecine personnalisée. Bientôt, le principe de soins génériques paraîtra franchement dépassé; tout, depuis le traitement qui nous sera proposé jusqu’aux médicaments qu’on nous prescrira, sera défini en fonction de notre ADN et de nos biomarqueurs individuels. Il n’est même pas exclu que l’on puisse un jour nous reconfigurer pour améliorer nos réactions immunitaires. La vie serait alors ouverte à des expérimentations encore plus ambitieuses portant par exemple sur les technologies régénératives et d’accroissement de la longévité, un champ de recherche déjà en plein développement. (pp. 103-104)
C’est là qu’intervient l’IA/AI
En 2022, alphaFold2 est mis en open source, entraînant une explosion du nombre d’outils d’apprentissage automatique les plus avancés du monde, lesquels sont déployés dans la recherche biologique aussi bien fondamentale qu’appliquée: c’est un tremblement de terre, déclare un chercheur. Au cours des 18 premiers mois qui suivent son lancement, plus d’un million de chercheurs accèdent à cet outil, parmi lesquels presque tous les grands laboratoires mondiaux de biologie; ils se penchent sur des questions allant de la résistance aux antibiotiques aux origines de la vie même, en passant par le traitement des maladies rares. Les expériences antérieures avaient livré à la base de données de l’Institut européen de bio-informatique la structure d’environ 190.000 protéines, soit environ 0,1 des protéines existantes connues. Deepmind met en ligne quelques 200 millions de structures d’un coup, soit la quasi intégralité des protéines connues. Alors qu’autrefois il fallait parfois des semaines, voire des mois, pour que les chercheurs déterminent la forme et la fonction d’une protéine, ce processus peut désormais commencer en quelques secondes. Voilà ce que nous entendons par changement exponentiel. Voilà ce que rend possible la vague à venir.
Ce n’est pourtant que le début de la convergence de ces deux technologies. L’évolution de la bio-révolution accompagne les progrès de l’IA, et, de fait, celle-ci sera à la base de la réalisation d’un grand nombre des phénomènes évoqués dans ce chapitre. Imaginez donc deux vagues qui se rassemblent, formant ainsi non pas une vague, mais une super-vague. Sous un certain angle, intelligence artificielle et biologie synthétique sont presque interchangeables. Jusqu’à ce jour, toute intelligence a découlé de la vie. Donnez-leur le nom d’intelligence synthétique et de vie artificielle, et leur sens reste identique. Ces deux domaines de recherche s’attachent ainsi à recréer, à manipuler des concepts absolument fondamentaux et interconnectés, ces deux attributs centraux de l’humanité; changez d’angle de vue et ils deviennent un seul et unique projet. (pp. 109-110)
Et les “robots”?
Les IA sont les produits de bits et de code [comprendre ce mot à l’anglaise = programmation, algorithme], elles existent à l’intérieur de simulations et de serveurs. Les robots sont leur passerelle, leur interface avec le monde réel. Si l’IA représente l’automatisation de l’information, la robotique est l’automatisation de la matière, les instanciations matérielles de l’IA, un changement radical de ce qu’il est possible de faire. La maîtrise des bits boucle la boucle en reconfigurant les atomes et en redéfinissant les limites non seulement de ce qui peut être pensé, dit ou calculé, mais de ce qui peut être construit au sens le plus matériel du terme. Pourtant ce que la vague à venir a de remarquable, c’est que ce type de manipulation atomique directe n’est rien en comparaison de ce qui se dessine à l’horizon. (p. 118)

Qu’on songe déjà ici à tout ce qui se fait à l’aide d’imprimantes 3D… jusqu’à des constructions de maisons !!!

Le tout va encore s’amplifier et s’accélérer grâce à l’informatique quantique
L’informatique quantique a de profondes implications. Elle pourrait mettre soudain en péril les technologies de chiffrement qui sont à la base de tout notre système, de la sécurité des emails aux cryptomonnaies, lors d’un événement imminent que les gens du milieu appellent le Q-Day. Les solutions de cryptage des données reposent sur l’hypothèse que jamais un attaquant ne disposera d’une puissance de calcul suffisante pour essayer toutes les combinaisons possibles, seul moyen de les violer et de déverrouiller l’accès aux données qu’elles protègent. Avec l’informatique quantique, ce n’est plus le cas. Un déploiement rapide et non endigué de l’informatique quantique pourrait avoir des conséquences catastrophiques pour les banques ou les communications gouvernementales. Ces deux secteurs dépenses déjà des milliards pour prévenir ce risque. (p.119)
En 2016, la Chine met en orbite le premier “satellite quantique” du monde, Micius, dans le cadre d’une nouvelle infrastructure de communication censée être sûre. Mais Micius n’est que le premier volet des recherches pour un Internet quantique inviolable que mène la Chine. Un an plus tard, les Chinois établissent une liaison quantique de près de 2.200 kilomètres entre Shanghai et Pékin pour transmettre des informations financières et militaires en toute sécurité. Ils investissent plus de 10 milliards de dollars dans la création du Laboratoire national d’informatique quantique de Hefei, le plus grand établissement mondial de ce genre. Ils détiennent plusieurs records de liens entre qubits par le biais d’une intrication quantique, une étape majeure sur la voie menant au développement d’ordinateurs quantiques à part entière. Des chercheurs de Hefei ont même affirmé avoir construit un ordinateur quantique 10-exposant14 fois plus rapide que le révolutionnaire Sycamore de Google (2020). (p. 147)

Face à tous ces progrès qui pourraient assez brutalement et rapidement “frapper” toute l’humanité planétaire, l’Auteur tente de rester positif et il explique sa position personnelle de chercheur bien incarné qui perçoit que le système socio-politique des “États-nations” ne semble pas capable d’endiguer la déferlante qu’il décrit. Il veut tenter d’aider des “décideurs” à prendre les mesures nécessaires!

Le cadre humain et socio-politique dans lequel tout cela se joue
Les avancées technologiques nous aideront à relever les défis évoqués dans la partie précédente: cultiver de quoi manger malgré des températures accablantes, détecter à l’avance les risques d’inondations, de séismes et d’incendies, et améliorer le niveau de vie général. À l’heure de la flambée des coûts et de la dégradation des services publics, je vois dans l’IA et dans la biologie synthétique des leviers essentiels pour l’accélération du progrès. Grâce à elles, les services de santé seront à la fois de meilleure qualité et plus abordables. Elles nous aideront à inventer les outils nécessaires à la transition vers une énergie renouvelable et à la lutte contre le changement climatique alors que la politique est en panne. Elles assisteront les enseignants pour accroître l’efficacité de systèmes éducatifs sous-financés. Voilà le vrai potentiel de la déferlante.
C’est ainsi que je me suis lancé dans la technologie, convaincu qu’une nouvelle génération d’outils, beaucoup plus rapides que ceux de la politique traditionnelle, pourrait considérablement amplifier notre capacité d’action. Les mettre en œuvre pour “inventer l’avenir” m’a semblé une excellente cause à laquelle consacrer les années les plus productives de ma vie.
J’évoque mon côté idéaliste pour placer les chapitres à venir dans leur contexte et bien montrer que le tableau souvent très sombre esquissé dans ces pages témoigne, à mes yeux, d’un échec colossal de la technologie et de ceux qui, comme moi, la construisent.
[…] Je suis britannique, je suis né et j’ai grandi à Londres, mais une partie de ma famille est syrienne et a été touchée par la terrible guerre qu’a subie le pays ces dernières années. Je ne sais que trop bien ce qui se passe quand les États échouent, et, pour dire les choses crûment, c’est une horreur pure et simple. Quant à ceux qui pensent que ce qui s’est passé en Syrie ne pourrait jamais se passer “ici”, ils se bercent d’illusions; où qu’ils soient, les hommes sont des hommes. Notre système d’États-nations n’est pas parfait, loin de là. Il n’empêche que nous devons tout faire pour le soutenir et pour le protéger. Ce livre constitue, pour une part, ma tentative pour défendre sa cause.
Rien d’autre – aucun remède miracle – ne surgira à temps pour nous sauver, pour absorber la puissance déstabilisatrice de la vague. Il n’existe tout simplement pas d’autre solution à moyen terme. Même dans les scénarios les plus optimistes, la vague à venir infligera un choc considérable aux systèmes qui gouvernent les sociétés. Avant d’examiner les dangers de cette déferlante, il est utile de s’interroger sur la santé générale des États-nations. Sont-ils en mesure d’affronter les défis qui les attendent? (pp. 179-180)
C’est là qu’avec la “déferlante” on est dans “le politique” et donc la responsabilité des gouvernements, des États-nations
Comme l’affirme l’historien de la technologie Langdon Winner: “dans ses diverses manifestations, la technologie constitue une partie importante du monde humain. Ses structures, les processus et les altérations pénètrent dans les structures, les processus et les altérations de la conscience, de la société et de la politique humaines et en deviennent partie intégrante”. En d’autres termes, la technologie est politique.
Cette réalité est largement négligée par nos dirigeants, mais aussi par ceux qui construisent la technologie elle-même. (p.185)
Des États-nations qui risquent d’être vidés de leurs pouvoirs ou, au contraire, devenir des “techno-dictatures” plus radicales que toutes les dictatures connues à ce jour!
Aussi les risques sont-ils brûlants de part et d’autres. Pour juguler la vague à venir, il faut en effet des États sûrs d’eux, agiles, cohérents, qui rendent des comptes à la population, qui soient puissamment compétents et capables d’équilibrer intérêts et incitations, de réagir avec rapidité et détermination par des mesures législatives et, chose crucial, par une étroite coordination internationale. […] Il faudra, pour réagir efficacement à l’un des événements les plus déterminants et les plus transformateurs de l’histoire, que des gouvernements matures, stables et, surtout dignes de confiance, fassent tout ce qui est en leur pouvoir. Des états prodigieusement efficaces. Voilà ce dont nous aurons besoin pour que la vague à venir apporte les immenses bénéfices qu’elle promet. C’est un défi gigantesque. (p. 189)
Ce bond technologique sera le plus grand et le plus rapide accélérateur de richesse et de prospérité de l’histoire humaine. Ce sera aussi l’un des plus chaotiques. L’accès universel à une plus grande capacité d’action concernera également ceux qui cherchent à faire le mal. La technologie évoluant plus vite que les mesures défensives, les acteurs malveillants, des cartels mexicains de la drogue aux hackers nord-coréens, obtiendront un sacré coup de pouce. La démocratisation de l’accès aux intelligences artificielles s’accompagne inévitablement de la démocratisation du risque. Nous sommes sur le point de franchir un seuil critique dans l’histoire de notre espèce, et il va falloir que l’État-nation prenne ce problème à bras-le-corps au cours des dix prochaines années. (p. 195)
Et le premier lieu de cette apocalypse socio-démocratique se trouve dans une information transformée par l’IA/AI
Attendez-vous à une “infocalypse”, ce moment où une société devient incapable de faire face à un déluge de matériaux douteux et où l’écosystème dans lequel s’enracinent le savoir, la confiance et la cohésion sociale, c’est-à-dire le ciment même de la société, se désagrège. Pour citer un Rapport de Brookings Institution, l’omniprésence de contenus parfaits générés par l’IA a pour conséquence “la déformation du discours démocratique, la manipulations des élections, l’érosion de la confiance dans les institutions, l’affaiblissement du journalisme, l’exacerbation des divisions sociales, l’ébranlement de la sécurité publique et la possibilité d’infliger des dommages difficilement réparables à la réputation d’individus en vue, notamment d’élus et de candidats à des fonctions officielles”. Les facteurs de stress et les maux de notre système d’information ne sont cependant pas tous le fait d’acteurs malveillants. Certains sont le fruit des meilleures intentions du monde. L’origine de l’amplification de ces fragilités est aussi bien accidentelle que délibérée. (p.205)
Et, le travail humain risque une transformation rapide et brutale: une vision optimiste de création de nouvelles activités humaines pour compenser les pertes d’emploi est totalement illusoire!
À mon sens, la réalisation de cette vision optimiste est inconcevable dans les vingt ans à venir; l’automatisation est, sans l’ombre d’un doute, un amplificateur de fragilité supplémentaire. Comme nous l’avons vu au Chapitre 4, le taux d’amélioration de l’IA est nettement plus qu’exponentiel, et semble ne pas connaître de plafond. Les machines se mettent rapidement à imiter toutes sortes de capacités humaines, de la vision au discours en passant par le langage. Même sans progrès fondamental vers une “compréhension profonde”, les nouveaux modèles de langage sont capables de lire, de synthétiser et de produire des textes d’une précision hallucinante et d’une immense utilité. Or il existe littéralement des centaines de postes où cette unique compétence est la principale condition requise et l’IA n’a pas fini de nous surprendre. (p. 213)
Quand l’on met tous ces facteurs ensemble, la “déferlante” se dessine clairement, elle est là!
Les facteurs de stress évoqués dans ce chapitre (qui n’a rien d’exhaustif) – les nouvelles formes d’agression et de vulnérabilité, l’industrialisation de la mésinformation, les armes autonomes létales, les accidents tels que les fuites de laboratoire, et les conséquences de l’automatisation – ne sont que trop familiers à ceux qui travaillent dans les milieux de la technologie, de la politique, et de la sécurité. Pourtant on a trop souvent tendance à les considérer isolément. Et, ce faisant, on perd de vue que toutes ces nouvelles pressions sur nos institutions émanent de la même révolution sous-jacente. On oublie qu’elles s’exerceront toutes ensemble, les facteurs de stress simultanés se recoupant, s’étayant et se stimulant mutuellement. On néglige toute l’étendue de l’amplification de la fragilité de nos systèmes parce qu’on a souvent l’impression que ces effets s’exercent par paliers, dans des compartiments étanches. On se trompe. Ils émanent d’un unique phénomène cohérent et interconnecté qui se manifeste de multiples façons. La réalité est beaucoup plus entremêlée, interconnectée, émergente et chaotique que toute représentation séquentielle ne saurait le traduire. La fragilité de nos systèmes en est nettement amplifiée. L’État-nation, bien affaibli. (p. 215-216)
Comment se prémunir pour surfer sur cette vague plutôt que d’y être englouti?

L’Auteur passe alors à l’analyse et à la proposition de différents “remparts d’endigage” de cette énorme vague déjà engagée, inéluctable et qui pourrait détruire l’humanité telle que nous la connaissons.
Avoir l’œil et l’action en direction de certains Conseils d’Administration qui ont un pouvoir comparable à ceux de la construction et de la main-mise ou domination sur un empire. (p. 221)
Un choix difficile des États-nations entre mesures sécuritaires contraignantes et autoritaires et risque de catastrophes majeurs (comme une “pandémie planifiée”?). La sécurité au prix de la liberté? (p. 243)

Surveiller?
La technologie s’est introduite si profondément dans notre civilisation que la surveiller implique de tout surveiller: chaque laboratoire, chaque unité de fabrication de produits électroniques et chaque usine, chaque serveur, chaque nouvel élément de code (= algorithme), chaque brin d’ADN synthétisé, chaque entreprise et chaque université, chaque biohacker enfermé dans une chambre au fond des bois et chaque immense centre de données anonyme. Prévenir la calamité à venir exige une réaction sans précédent face à la dynamique sans précédant de la déferlante. Il ne faut pas seulement surveiller les produits de l’innovation, mais se réserver la possibilité de les arrêter et de les contrôler, en tout lieu et à tout moment. (p. 254)
Et cela sans arrêter l’indispensable croissance
Ne vous y trompez pas: l’immobilisme appelle le désastre. (p. 260)

On ne peut arrêter le progrès technologique tel qu’il semble se présenter comme une menace, mais il faut absolument l’“endiguer”! Comment?

Endiguer

Dans les Chapitres suivants, l’Auteur tente de rassembler et évaluer les différents moyens que nous aurions pour tenter d’endiguer le tsunami provoqué par la l’IA/AI-Généralisée déjà présente.

Il rend hommage au caractère innovant et intelligent du développement d’instruments juridiques légaux par le Marché Commun Européen. [On peut se demander en lisant cela pourquoi les nouvelles instances européennes se sont séparées du principal artisan de ces législations récentes, Thierry Breton, tout à fait compétent en la matière!]

Il rend hommage, avec des réserves, à l’effort également fait en ces domaines par la Chine, malgré sa une vision plus autoritaire et totalitaire.

Il demande que l’on provoque l’opinion publique pour l’éveiller ou la réveiller sur les urgences en ces domaines (son livre est conçu dans cette perspective).

Si l’on peut, il faut essayer de “gagner du temps”, notamment en contrôlant trois des entreprises les plus indispensables au progrès d’envahissement de l’IA/AI

Dans le domaine de l’IA, la majeure partie des processeurs graphiques les plus avancés, indispensables aux modèles les plus récents, est conçue par une seule entreprise, la société américaine NVIDIA. La plupart de ses puces sont fabriquées par une seule entreprise, TSMC, à Taïwan, et les plus avancées d’entre elles sortent d’un unique bâtiment, l’usine la plus perfectionnée et la plus chère du monde. Les machines qu’utilise TSMC pour fabriquer des puces proviennent d’un seul fournisseur, la société néerlandaise ASML, l’entreprise de tech de loin la plus importante d’Europe et celle qui présente la plus grande valeur. Les machines d’ASML, qui emploient une technique appelée lithographie extrême ultraviolet et fabriquent des puces d’un incroyable niveau de précision atomique, comptent parmi les produits manufacturés les plus complexes de l’histoire. Ces trois entreprises ont la mainmise sur les puces les plus avancées, une technologie soumise à de telles contraintes physiques qu’elles coûtent, a-t-on estimé, jusqu’à 10 milliards de dollars le kilo. (pp. 295-296)

Suivre ces productions fait partie d’une quête de sûreté et d’éthique.

Mais il faut aussi veiller à ce que le “rendement” d’une production quelle qu’elle soit reste lié à des améliorations sociales… sinon, il y a lieu de les contester!

Et c’est là qu’on retrouve la responsabilité des Gouvernements

S’ils s’affirment comme partenaires de plein droit dans la création de la vague à venir, les gouvernements ont de meilleures chances de l’infléchir en fonction de l’intérêt public. Même si le prix est élevé, c’est bien dépenser son argent que de l’utiliser pour disposer de beaucoup plus d’expertise technique interne. (p. 305)
Les organes législatifs commencent à agir. En 2015, il n’y avait pour ainsi dire aucune législation sur l’IA. Or, depuis 2019, ce ne sont pas moins de 72 textes de loi contenant l’expression “intelligence artificielle” qui ont été votés à travers le monde. La base de données de l’Observatoire des politiques de l’IA de l’OCDE a enregistré 800 politiques publiques sur l’IA, provenant de 60 pays. La loi sur l’IA de l’Union Européenne foisonne de problèmes, certes, mais de nombreux aspects de ses dispositions sont tout à fait estimables et force est de reconnaître le bien fondé de sa démarche et de son ambition. (p. 307)
De même qu’on ne peut pas lancer une fusée dans l’espace sans l’approbation de la Federal Aviation Administration, on ne devrait pas pouvoir lancer une IA à la pointe du progrès sans autre formalité. (p. 308)

Ce qui suppose un débat sur “qui peut distribuer de l’IA-généralisée” (pp. 309-317) diplomates, chercheurs scientifiques, sociétés civiles et autres groupements responsables devraient avoir quelque chose à dire. Lourde responsabilité des “chercheurs” dans ces domaines. (p. 318) 

Ainsi, l’Auteur s’oppose à ce que les algorithmes d’IA soit dans “Open source” 

L’open source a représenté une aubaine pour le développement technologique et une stimulation majeure pour le progrès en général. Mais ce n’est pas une philosophie pertinente pour de puissants modèles d’IA et pour des organismes de synthèse; dans ces domaines, on devrait l’interdire. Ces technologies ne devraient pas être partagées, et encore moins déployées ou développées sans procédures officielles rigoureuses. (p. 326)
Revenir à l’humain et au social pour préserver l’avenir “humain”
La vague qui s’annonce va transformer le monde. En définitive, les humains ne seront peut-être plus, comme nous en avions pris l’habitude, les principaux moteurs du développement de la planète. Nous vivrons une époque où la majorité de nos interactions quotidiennes n’impliqueront pas d’autres humains, mais des IA. On peut trouver cette prédiction bizarre, effrayante ou absurde, mais c’est comme ça! Je suppose que vous passez déjà une bonne partie de vos heures de veille devant un écran. En fait, vous consacrez peut-être plus de temps à regarder les écrans qui ont envahi votre vie que n’importe quel être humain, conjoint et enfants inclus. (p. 332)
Les experts de la tech ne devraient pas se concentrer exclusivement sur les menus détails d’ingénierie; ils devraient contribuer à imaginer et à créer un avenir social plus riche, un avenir humain au sens le plus large du terme, une tapisserie complète dont la technologie ne constituerait qu’un fil. La technologie occupe une place centrale dans la manière dont se déroulera l’avenir, elle n’est pas le véritable enjeu. L’enjeu, c’est nous. (p. 334)

Merci Mustafa Suleyman!