Les promesses de l'Intelligence artificielle

Août 2023

Voici l'apport significatif et assez passionnant du livre publié par Kai-Fu Lee et Chen Qiufan, IA 2042. Dix scénarios pour notre futur. Ce que l'Intelligence artificielle va changer, traduit de l'anglais par Sabine Guez et Sylvie Lucas, Les Arènes, Paris, 2022 (octobre), ISBN 979-10-375-0723-5.
Une intéressante réalisation de deux chercheurs chinois: sur chacun des 10 points examinés, Chen Qiufan écrit, avec un maximum de réalisme, une petite “nouvelle” avec des personnages qui vivent la situation d'Intelligence Artificielle que décryptera ensuite, et de façon “critique”, son co-auteur Kai-Fu.

Ce dernier, ancien Président de Google China est cadre supérieur chez Microsoft et vit à Pékin. Son co-auteur préside l'Association chinoise de Science-fiction et écrit des romans de fiction. Il vit aussi entre Pékin et Shangaï.
Le fait déjà qu'une telle réalisation nous vienne de Chine, indique les basculements culturels en cours!
Les dix scénarios décrits et critiqués semblent bien donner un excellent bilan des promesses et des risques des développements en cours dans le domaine de l'Intelligence Artificielle.
Affolant!
Et, donc: un vrai risque de dérapage du fait de la complexité généralisée et planétaire des secteurs et des techniques!
À bon entendeur … Salut!

Introduction

Dans son Introduction (qui fait l'histoire de l'Intelligence artificielle - IA) Kai-fu Lee nous dit clairement

Je ne connais pas une seule personne travaillant dans l'univers de la technologie qui n'ait sa propre opinion sur ces questions fondamentales pour notre époque. Certains nous imaginent dans une bulle spéculative formée autour de l'IA, qui va finir par éclater ou en tout cas se dégonfler. D'autres ont des vues plus radicales et dystopiques, imaginant tantôt que les géants de l'IA “s'empareront de nos esprits” et créeront une race utopique de “cyborgs humains”, tantôt une apocalypse sur fond d'IA. De telles prophéties se nourrissent d'une curiosité authentique ou d'une peur bien compréhensible, mais la plupart des scénarios demeurent approximatifs ou excessifs. Ils voient l'arbre et manquent la forêt tout autour (p. XVII).

Qiu Fu Lee avait écrit un premier livre sur l'IA (IA. La plus grande mutation de l'Histoire, 2018) qui eût un grand succès et qu'il attribua à son caractère très pédagogique (“accessible pour des personnes sans connaissance préalable du sujet”).

1. L'éléphant doré : apprentissage profond, Mégadonnées, Applications de l'IA à l'Internet et aux Finances.

Une “intouchable” repérée qui s'enfonce dans des offres d'assurances qui finissent par régir toute sa vie et celle de ses proches.

On a beau cacher ou changer son nom de famille, nos données forment comme une ombre autour de nous. Et personne ne peut échapper à cette ombre […]
L'intelligence artificielle se fout de nos vieilles coutumes. Ce qui lui importe, c'est de faire baisser les primes au maximum. C'est pour cela que l'assurance Ganesh cherche à nous empêcher d'être ensemble (p.18).

Et, dans les explications critiques

Lorsqu'il s'est fait les dents sur une énorme quantité de données, le deep learning peut être customisé en fonction des habitudes de comportement d'un utilisateur et d'habitudes similaires observées chez d'autres utilisateurs. Par exemple, lorsque vous visitez Amazon, l'IA du site met en avant des produits spécifiques destinés à capter votre attention et maximiser vos dépenses. Sur Facebook, l'IA affiche un contenu personnalisé, conçu pour que vous y demeuriez le plus longtemps possible. L'IA d'Amazon et de Facebook est dite “ciblée”, ces sites affichant des contenus différents pour chaque individu. Le contenu qui y est montré peut très bien fonctionner sur moi, mais vous laissera peut-être complètement indifférent. Ce ciblage de précision est beaucoup plus efficace pour générer des clics et des achats que l'approche passe-partout, sans personnalisation, utilisée par les sites web statiques traditionnels (p. 27).
L'IA d'aujourd'hui vise à optimiser un objectif unique qui est le plus souvent de gagner de l'argent (plus de clics égale plus de publicité égale plus de revenus). Ce processus est mû par l'obsession monomaniaque du profit aux dépens du bien-être des utilisateurs (p. 32).
La formation des ingénieurs en IA devrait inclure le respect de principes déontologiques, sur le modèle du serment d'Hippocrate prêté par les médecins. Les ingénieurs doivent en effet comprendre que des choix éthiques se glissent dans la conception de produits à laquelle ils contribuent, produits qui se traduiront en enjeux parfois vitaux. Ils doivent donc s'engager à protéger les droits des utilisateurs (p. 34).

2. Derrière les masques

Cette nouvelle décrit un avenir dans lequel nous ne pourrons plus nous fier à ce que nous voyons de nos propres yeux. Du moins pas pour discerner une vidéo truquée. Les sites web et les applications auront l'obligation légale d'installer des logiciels anti-trucage (à l'instar des logiciels anti-virus d'aujourd'hui) pour prémunir les utilisateurs contre les deepfakes. Mais ce bras de fer entre fabricants et détecteurs de trucages sera aussi et surtout une course à l'armement informatique. Pour vaincre, il faudra posséder la plus grande puissance de calcul (p. 60).
En attendant la solution de la blockchain [pour protéger et authentifier des données visuelles originales et authentiques] nous devrons apprendre à vivre dans un nouveau monde où nul contenu en ligne, aussi réaliste soit-il, ne peut être pris pour argent comptant (p. 72).

3. Les Jumeaux

Deux jumeaux de tempérament très différents sont éduqués grâces aux technologies personnalisées les plus en pointe. Mais elles ont aussi leurs limites. Et, notamment, selon l'un des ménages pédagogue

L'éducation réelle aurait dû englober tout autant le développement personnel que les connaissances et les aptitudes. Les enfants avaient besoin d'explorer leur conscience de soi à travers l'introspection, l'empathie, la communication et d'autres compétences relationnelles qui les encourageraient à tisser des liens plus étroits entre eux et à accroître leur intelligence émotionnelle. Or l'IA ne prenait pas en compte ces objectifs-là (p. 102).

L'exemple le plus connu (et “discuté”) actuellement de formation scolaire ou universitaire assistée par l'informatique, est GPT-3

Après le travail de Google sur les transformeurs, OpenAI, le laboratoire cofondé par Elon Musk, en a développé une extension mieux connue sortie en 2020, appelée GPT-3 (ou GPT signifie “transformeurs génératifs pré-entraînés”). GPT-3 est un moteur de transduction de séquence géant qui a été rompu à l'analyse du langage naturel à partir d'un modèle si vaste qu'il incluait presque tous les concepts imaginables.Tirant profit de l'un des plus puissants superoridnateurs du monde, GPT-3 a été abreuvé de plus de 45 téraoctets de textes, ce qu'un humain mettrait 500.000 vies à lire. Et ce nombre de 500.000 vies est multiplié par 10 chaque année, renforçant les capacités de GPT-3 à un rythme exponentiel assez incroyable (p. 125).
GPT-3 n'est pas très fort… en matière de raisonnement causal, de pensée abstraite, d'énoncés explicatifs et de créativité (intentionnelle) […] Une machine à fabriquer l'opinion publique construite sur cette base serait autrement dangereuse que Cambridge Analytica… L'examen minutieux de ces faiblesses dans les décennies à venir amènera – je l'espère – à les corriger (p. 128).

L'Auteur ne croit pas qu'en 2042 (dans les 20 ans de sa publication) on aura une Intelligence artificielle en tout point semblable à l'intelligence humaine

Car comment modéliser la créativité, la pensée stratégique, le raisonnement, l'analyse contrefactuelle, les émotions et la conscience? (p.132).

4. L'amour sans contact

Une jeune femme enfermée depuis la pandémie Covid-19 dans le monde artificiel et électronique dans lequel elle vit et travaille, devient amoureuse, mais la rencontre réelle avec son amant ne se fera qu'en milieu hospitalier et en la trompant sur l'état du garçon!!
La question se pose cependant du “réalisme” nécessaire à un vrai amour

Tout le monde a peur du virus. Moi-même je ne suis pas courageux. [dit le garçon]. Mais si on cesse d'aider les gens – de les aimer – parce qu'on a peur, alors qu'est-ce qui nous différencie des machines? (p. 156).

Et, dans l'analyse critique

S'intéresser aux soins de santé intégrant l'IA est particulièrement opportun à l'heure de la numérisation du secteur médical, car cette numérisation entraînera très certainement la production de masses de données dont l'IA a besoin pour bouleverser la médecine. En 2042, quand nous regarderons en arrière, la santé nous apparaîtra sans doute comme le secteur le plus transformé par l'intelligence artificielle (p. 169).
L'expression “médecine de précision” désigne la mise au point de traitements sur mesure pour chaque individu, quand nous avons jusqu'ici privilégié la production de médicaments génériques, identiques pour tous. La médecine de précision deviendra une réalité grâce à l'accès croissant aux données numériques sur les antécédents médicaux de chaque patient, son histoire familiale, le séquençage de son ADN. L'IA est idéalement placée pour aboutir à ce type d’optimisation individualisée des soins (p. 178).
Nous devrions chercher des solutions technologiques pour que centralisation de l'IA puisse rimer avec confidentialité des données […]. Enfin, nous avons besoin de propositions innovantes pour qu'à sa mort, une personne puisse faire don non seulement de ses organes, mais aussi de ses données (p. 179).

Mais tout cela ne va pas sans un bouleversement sociétal, notamment en termes de “travail”

Historiquement, l'automatisation tend à se produire lorsque des difficultés économiques coïncident avec l'arrivée à maturité d'une technologie. Une fois son employé remplacé par un robot et l'efficacité de celui-ci démontrée, une entreprise fait rarement marche arrière. Un robot ne tombe pas malade. Un robot ne fait pas grève. Un robot n'exige pas d'augmentation de salaire parce que le travail est dangereux. Comment remédier au problème des suppressions d'emplois qui va s'exacerber? ([ …voir n° 8] (p. 187).

5. Mon idole fantôme

L'histoire d'un acteur-fétiche qui n'est qu'une fiction numérique dont on peut tomber amoureux et dont on va pleurer le suicide! Le tout grâce à la réalité virtuelle de la XR (réalité étendue).
Et voici la réflexion “critique”

La XR signifie bien plus qu'une simple expansion de l'écran. Selon l'expression du Dr Brennan Spiegel, faire l'expérience de la XR “c'est comme rêver les yeux ouverts”. Ces technologies créent une expérience intense nommée “présence”. Des scènes, des objets et des personnages virtuels revêtent un aspect vivant, presque magique, dans une expérience d'immersion qui s'apparente pour l'utilisateur à une réalité parallèle. Au cours des vingt prochaines années, la XR va révolutionner le divertissement, la formation, la vente au détail, la santé, le sport et les voyages. (pp. 222-223).
Nous devons de toute évidence développer une réglementation qui puisse gouverner la XR et nous préparer à un monde avec beaucoup plus de problèmes de respect de la vie privée qu'il en existe aujourd'hui. Nombreux sont ceux qui pensent que les smartphones et les applis en savent déjà trop sur nous; avec la XR, cela prendra une toute autre envergure.
La XR nous forcera à repenser ce que vivre veut dire. La quête d'immortalité des humains est ancestrale. Grâce à ces technologies, nous pouvons contempler la possibilité d'une “immortalité numérique (pp. 233-234).
Si l'IA transforme les données en intelligence, la XR recueillera auprès des humains une plus grande quantité de données de meilleure qualité, provenant de nos yeux, nos oreilles, nos bras, nos jambes et, à terme, nos cerveaux. Ensemble IA et XR nous permettront de réaliser le rêve de découvrir notre nature profonde et d'amplifier nos capacités. Elles élargiront, ce faisant, le champ des possibles liés à l'expérience humaine. (p. 235)

6. Le pilote sacré

Décrit l'apprentissage et le travail purement “virtuel” d'un jeune pilote/joueur de véhicules autonomes!
Et ce qu'en dit le “critique”

Les circuits parcourus par les véhicules dont les batteries se rechargeront en route, pourront être optimisés en réduisant au minimum le temps à attendre sans rien faire pour les utilisateurs et l'intervalle pendant lequel les VA [véhicules autonomes] d'Uber restent vides. En supprimant les chauffeurs en chair et en os et en éliminant une à une les incertitudes liées à l'humain, la flotte entièrement automatisée et gérée par l'IA bénéficiera d'une bien meilleure utilisation (p. 280).
Ces améliorations créeront une infrastructure où les VA domineront; il finira par devenir dangereux ou illégal de conduire, pour un être humain, qui pourrait alors être considéré comme un danger, à la manière d'un chauffeur en état d'ivresse aujourd'hui (p. 281).
Si l'opinion publique prend peur, ses réticences se traduiront par une réglementation contraignante ou un déploiement frileux, freinant l'acceptation des VA par le plus grand nombre. Élargir la conscience que nous avons de ces questions toutes légitimes et en débattre, est indispensable. […] À long terme, je suis persuadé …que les véhicules autonomes (VA) de niveau 5 [un humain n'est plus du tout nécessaire pour les conduire] seront un immense gain pour l'humanité à de nombreux égards, malgré leurs coûts (p. 285).

7. Apocalypse quantique

L'aventure haletante et internationale d'une quasi fin du monde électronique!
Et le regard du “critique”

Cette histoire mentionne de nombreuses technologies, mais je souhaite m'attarder à deux d'entre elles. La première, l'informatique quantique, a d'après moi 80% de chance de fonctionner en 2042. Si c'est le cas, son impact sur l'humanité pourrait dépasser celui de l'IA. […] Grâce aux calculateurs quantiques … l'informatique quantique peut révolutionner l'apprentissage automatique et résoudre des problèmes jusqu'alors considérés comme insolubles. […] Je m'intéresserai, dans un deuxième temps, aux armes autonomes, dont l'avènement pourrait épargner la vie de nombreux soldats. […] Les armes autonomes pourraient provoquer une nouvelle course aux armements difficilement contrôlable, surtout dans un contexte de terrorisme international. J'espère que les événements relatés dans la “nouvelle” feront l'effet d'un avertissement, incitant chacun à mesurer les potentiels dangers de cette application de l'IA (pp. 338-339).
[…] … une poignée d'optimistes table sur l'arrivée des premiers ordinateurs quantiques d'ici cinq à dix ans (p. 341).
Les armes autonomes sont l'application de l'IA qui entre le plus clairement et profondément en conflit avec nos valeurs et menace la pérennité de l'espèce humaine. Il nous faut mobiliser les experts et les décideurs afin d'évaluer différentes solutions pour prévenir leur prolifération et l'extinction de notre espèce (p. 352).

8. Le Sauveur d'Emplois

J'espère juste que mon travail pourra durer encore quelques années. Vous savez, ils ont commencé à tester des services de consultation en ligne avec des robots. On sera peut-être bientôt mis à la porte. […] La puissance de l'IA ne cessait de s'accroître, et elle menaçait à présent des professions humaines solidement défendues jusqu'alors. Ce n'était qu'une question de temps, sans doute, pour que toutes soient concernées (p. 385-386)

constate le héros de la “nouvelle” liée à ce sujet!

Et, pour le “critique” sous le titre “Les Conséquences des suppressions d'emplois”

L'envol des taux de chômage ne sera qu'une infime partie du problème. Des masses croissantes de chômeurs se disputeront un nombre d'emplois toujours plus limité, entraînant une baisse des salaires. Les inégalités de richesse s'aggraveront. Tandis qu'ils détruiront des millions d'emplois, les algorithmes de l'IA transformeront en un temps record les titans de ces nouvelles technologies en milliardaires. Les mécanismes d'autocorrection du marché vantés par Adam Smith – la notion, par exemple, qu'un taux de chômage élevé fera baisser les salaires puis les prix au point de faire relancer la consommation et remettre l'économie sur les rails – ne fonctionneront pour la plupart plus du tout dans une économie basée sur l'intelligence artificielle. Non maîtrisée, l'IA pourrait engendrer un nouveau système de castes au XXIe siècle, avec, trônant au sommet, une élite ploutocratique associée à l'IA, suivie d'un sous-ensemble assez restreint d'employés occupés à des tâches complexes nécessitant des faisceaux de connaissances étendus et beaucoup de stratégie et de planification. Suivraient ensuite des créatifs (nombre d'entre eux peu rémunérés) et le plus vaste contingent: les masses de travailleurs en difficulté, impuissants” (pp. 391-392).

Avec peut-être un petit espoir?

Voici trois aptitudes qui ne sont pas le fort de l'IA, trois qualités qu'elle peinera probablement à maîtriser même en 2042:
1. La créativité: l'IA ne peut pas créer, conceptualiser ou planifier stratégiquement. […] Sa réflexion ne peut pas non plus croiser plusieurs domaines à la fois, et le bon sens lui échappe.
2. L'empathie: l'IA ne ressent rien et ne saurait interagir avec empathie et compassion. […]
3. La dextérité: l'IA et la robotique ne savent pas accomplir les tâches physiquement complexes qui requièrent de la dextérité et une coordination précise entre le regard et la main (pp. 394-395).

D'où un autre constat et avertissement

Pandémie ou non, les emplois de services centrés sur l'humain, comme les soins infirmiers, vont croître en importance et en nombre à mesure que les richesses et l'espérance de vie augmentent. […] Notre société n'a pas cessé de dévaloriser ces missions vitales de services à la personne, en termes d'image et de rémunération, et il faut y remédier. Ces emplois constitueront le socle de la nouvelle économie de l'IA (p.398).

9. L'île du bonheur

L'île du bonheur s'intéresse à une question et un défi… l'intelligence artificielle peut-elle nous rendre plus heureux? […] Malgré les progrès et les premiers prototypes prometteurs, nul ne saurait dire quand, comment ou même si une réponse positive sera apportée à cette question. (p. 437).

Cela dépend, évidemment de la définition que l'on donne au “bonheur” et comment on le mesure. Cela dépend aussi des données ultra-personnelles que l'on consentirait à communiquer à un programme d'IA et par rapport auquel les RGPD (règlement européen de protection des données) ou autres sont encore trop faibles!

D'où, le critique déduit

Je prédis que dans les vingt prochaines années les pays les plus susceptibles de prendre des décisions majeures en matière d'adoption de technologies [basées sur le développement de l'IA] seront des petits pays gouvernés par des leaders forts qui jouissent du soutien de la population (p. 449).

10. Horizon plénitude

Et tout de suite, la parole au critique

Dans cette dernière nouvelle, les besoins fondamentaux de chacun étant satisfaits, les gens sont libres de consacrer leur vie à des fins nobles. Mais cette société qui semble de prime abord posséder tous les ingrédients d'un paradis utopique se révèle être à l'origine d'autant de problèmes qu'elle n'en résout (p. 476).

Les percées scientifiques encore nécessaire pour arriver à la singularité IA (quand l'IA dépassera réellement l'intelligence humaine) semblent encore assez lointaines

Un jour lointain peut-être, mais non sans peine. Au cours de ses 66 années d'existence, l'IA n'a sans doute connu qu'une seule avancée majeure : le deep learning. Il faudra au moins une douzaine d'autres percées phénoménales de ce type pour accéder à la superintelligence. Peu probable en seulement vingt ans [2042] (p. 493).

Faut-il “résumer” et “assumer”?

Pour arriver à une application massive sur la planète des promesses de développement de l'Intelligence Artificielle (AI), il faut une mise en place de puissants ordinateurs quantiques qui ne semblent pas encore être disponibles selon Kai-Fu Lee.

Mais tout ce qui se développe déjà à des vitesses qui bénéficient déjà d'ordinateurs très puissants, de moyens de stockage de données de plus en plus gigantesques et très énergivores (N.B. : Les Auteurs semblent tenir peu compte de l'aspect “écologique” de tous ces développements!!!), toute ce qui se développe mérite réflexions et actions civiques de grande ampleur pour tenter de réguler : les trop grands écarts entre hyper-riches et masse-de-pauvres, les atteintes accrues au respect de la vie privé, les pertes d'emploi, les dangers d'utilisation politique et militaire de tous ces développements qui semblent inéluctables …même si le rythme et la séquence de leur mise en place restent difficiles à déterminer.

Où trouver les experts et groupes d'action capables de “gouverner” humainement de tels développements? Il y a là urgence …aussi importante que l'urgence “climatique” …et qui, bien gérée pourrait probablement aider aussi à gérer l'urgence climatique!