Sagesse plutôt qu’Intelligence?
Septembre 2024
La philosophie commence à prendre en compte les très grandes limites d’une Intelligence humaine qui se limiterait à une gestion majeure, rapide et rigoureuse de données. Bouée de sauvetage dans un déluge en cours et déjà bien engagé? À chacun d’en juger et de voir comment construire l’Arche adaptée… en devinant que, malheureusement, seul Noé, ses femmes, ses quelques enfants et des éléments de la nature vivante seront “sauvés”!
Bruno Patino, Submersion, Bernard Grasset, Paris, 142 pages, 2023 (novembre), ISBN 978-2-246-83652-0
Bruno Patino (né en 1965 et Président d’Arte depuis 2015) a déjà écrit quelques réflexions à succès sur le monde des médias et de la culture numérique en cours de développement galopant et envahissant.
Ce petit livre peut aider à s’engager dans les voies d’un développement prudent, critique et positif de l’humanité!
Je relève, en exergue, une citation de l’Encyclopédie de Denis Diderot (1755)
Tant que les siècles continueront à se dérouler, le nombre de livres ne cessera de croître et l’on peut prévoir qu’un temps viendra où il sera presque aussi difficile d’apprendre quoi que ce soit des livres que de l’étude directe de l’univers entier. Il sera presque aussi commode de chercher quelque parcelle de vérité cachée dans la nature que de la trouver cachée dans une immense multitude de volumes reliés. (p. 7)
Et voici comment l’Auteur voit la situation mondiale à ce jour
Les pionniers ont cessé de l’être. Certains d’entre eux, dont la légende raconte qu’ils furent plus talentueux et plus visionnaires que les autres, et dont l’analyse ajoute qu’ils furent plus dénués de scrupules et mieux insérés au cœur des réseaux d’investisseurs californiens, ont créé des empires. Ils ont, pour ce faire, centralisé et privatisé ce qui était comme un territoire vierge, le pays connecté et technologique où régneraient l’économie du partage, l’intelligence collective, la démocratie horizontale et l’amorce d’une conscience universelle. Les fronts pionniers n’ont pas été expropriés: nous avons été asservis. Ou plutôt, nous nous sommes auto-asservis avec gourmandise et insouciance, orgueil et témérité. Cet écran de téléphone portable, fenêtre sur la planète, bibliothèque universelle, passeport pour la conversation mondiale, laissez-passer pour les révolutions de toute sorte, mémoire absolue et outil de téléportation planétaire, semblait mettre la divinité à portée de pouce. Nous ignorions que c’était notre maître qui se présentait travesti sous la forme d’une télécommande universelle, d’une baguette magique personnelle. La puissance n’était pas la nôtre. Nous n’étions pas les magiciens de ce conte digital. Nous en étions au mieux les témoins, au pire les produits.
Ainsi que j’ai pu l’écrire dans La civilisation du poisson rouge et Tempête dans le bocal, la connexion permanente a fait de nous des poissons rouges qui tournent en permanence dans le bocal de leurs écrans. (pp. 20-21)
Mais c’est ici que les choses se corsent! Comment se comporter?
Voici venu le temps de la submersion. Voici venu le temps du choix rendu impossible. C’est le sujet de ce livre : retrouver notre liberté dans le trop-plein.
L’abondance était une promesse de la société numérique et le fondement de son économie.
Elle est aujourd’hui devenue un problème. Pour chacun d’entre nous. Le choix facile était notre moyen de naviguer dans ce nouvel océan. Nous avons pris l’eau et sommes menacés de submersion. Nous cherchons un refuge. Et, pour le trouver, il nous faut commencer par comprendre ce qui s’est passé. (pp. 25-26)
Le coupable? Le réseau. […] Le réseau n’est pas une création pensée ex ante. Il ne résulte pas d’un plan, d’une volonté. Il n’a ni concepteur ni architecte: mais une infinité de bâtisseurs, agissant dans leur coin, mus par des intérêts parfois contradictoires, et qui ne regardent pas tous dans la même direction. De ce désordre est né un univers en expansion, à la fois cohérent et chaotique, dont l’histoire est loin d’être achevée.
Son big bang remonte-t-il au 2 septembre 1969, date du premier message envoyé par un ordinateur, émetteur sans récepteur? Ou au 21 novembre de la même année, lorsque Arpanet, réseau militaire appelé à devenir Internet, mit en lien les trois universités californiennes de Stanford, à Palo Alto, UCLA à Los Angeles, et UCSB à Santa Barbara? Ou encore l’adoption du protocole TCP/IP en janvier 1983, en remplacement de l’ancien? Ou, enfin, la création du World Wide Web et de son ensemble de liens hypertextes par Tim Berners-Lee, en mars 1989? Peu importe: les origines sont multiples et les étapes nombreuses. (pp. 27-29)
Les années 2006-2007 marquent le vrai changement de paradigme: l’invention de l’iPhone (donc du smartphone) amorce l’époque de la connexion permanente. Notre lien au réseau n’est plus limité dans l’espace, il n’est donc plus limité dans le temps. L’écran devient omniprésent. Les réseaux sociaux qui se créent au même moment lancent la conversation universelle, le grand mélange de tout et de tous, les sollicitations ininterrompues pour nourrir les liens. Et la montée en puissance du modèle publicitaire fondé sur les données personnelles (la publicité ciblée) fait décoller l’économie de l’attention numérique et encourage le recours à tous les instruments visant à développer notre assuétude aux écrans (la “captologie”). (p. 30)
Et comment a commencé ce tsunami?
Quand ce phénomène a-t-il commencé? Peut-être lorsque Johannes Gutenberg a mis au point son système mécanique d’imprimerie. La circulation du savoir, des textes et de l’information s’amorce, et ne connaîtra plus de ralentissement. Il fallait une année à un moine copiste pour “produire” un livre. Dès 1455, l’atelier de Gutenberg fabrique 180 Bibles par an et cinquante ans plus tard, il y a 15 millions de livres en circulation sur la terre. (p. 32-33)
Pour notre environnement de signes, de textes et d’images, après la période de la mécanisation ouverte par Gutenberg, celle de la copie illimitée et de la propagation exponentielle amorcées par l’Internet, voilà qu’arrive une troisième onde que nous peinons à nommer: un univers où la production infinie s’ajoute à la copie infinie et à sa dissémination illimitée, les trois fonctions étant orchestrées par des machines. Il n’y a plus de limite humaine du côté de ce qui est produit, du côté de l’offre. Mais, nous autres, individus qui allons recevoir tout cela, alors que nous n’avons pas eu encore le temps de nous adapter à la période précédente, comment pourrions-nous être prêts? (pp. 34-35)
L’Auteur esquisse alors une histoire de l’Intelligence Artificielle depuis le Computing Machinery and Intelligence d’Alan Turing durant la guerre de 1940-45, en passant par la fixation de l’expression “Intelligence Artificielle” au Darmouth Summer Research Project de 1956 et la création par le MIT du premier robot conversationnel avec ELIZA en 1963… jusqu’en décembre 2022 avec la mise en ligne par la société OpenAI de ChatGPT. Une histoire qui se prolonge dans la fiction avec les prophéties de “singularité” (quand les IA dépassent et absorbent les intelligences humaines) de Ray Kurzweil pour 2045… et la fiction d’Isaac Asimov dans La Dernière Question qui
envisage l’existence d’un ordinateur surpuissant, MULTIVAC, qui absorbe toutes les données disponibles, puis l’ensemble de la matière et de l’énergie de l’univers pour augmenter ses performances, au point de survivre à l’humanité, puis à l’espace-temps. Et qui, comme ultime protocole, énonce: “que la lumière soit!”. Et, bien sûr, la lumière fut. Il y a dans cette parabole le vertige d’une humanité dont le génie particulier serait de contribuer à sa propre extinction alors même qu’elle construit la puissance divine. La réalité s’inspire de la fiction. Nous créons aujourd’hui notre propre réalité. Tout est programmable. (p. 41)
Face à cette déferlante, sommes-nous en train de perdre cette “liberté” qui semble caractériser l’humain responsable?
Face à l’excès de choix, le risque de la “procrastination infinie” se présente à nous comme l’évoque Renata Salecl dans son livre La tyrannie du choix. Une expérience menée avec des pots de confiture dans un supermarché est à ce titre devenue célèbre. Des clients ont été confrontés à deux situations distinctes. On propose au premier groupe 6 confitures différentes, au second groupe 24 confitures. Chacun peut goûter les confitures à sa guise. Un tiers de ceux qui ont à choisir entre 6 confitures décide d’en acheter une, mais seuls 3 % des clients soumis à une offre de 24 deviennent acheteur.
Le renoncement n’est pas la seule perspective. “L’idéologie de la liberté de choix” agit comme une injonction contradictoire. L’exercer dans tous les domaines, des biens de consommation aux dimensions les plus essentielles de notre vie, de la vie amoureuse à la démarche spirituelle, alimente l’illusion de la toute-puissance. Se trouver dans l’incapacité psychologique de la mener à bien, c’est non seulement faire un aveu d’impuissance, mais constater l’échec de sa réalisation en tant qu’être libre. Comme le souligne Renata Salecl, face à cette terrible culpabilité, l’individu n’aura souvent qu’une hâte “celle de renoncer à sa liberté et de partir en quête d’une autorité qui l’aidera à faire le tri enter toutes les options, à la condition cependant de pouvoir choisir à sa guise ladite autorité”.
À l’heure de l’hyperabondance, le choix même de l’autorité n’est plus aussi aisé: il y a tellement de maîtres possibles… Chacun de nous se retrouve au croisement de trois chemins complémentaires: le renoncement, la délégation ou la fuite. Avec un seul ressenti: la fatigue. (pp. 59-60)
Et très souvent, c’est le “soulagement de la délégation”
Nous avons abandonné la boussole, les étoiles, pour les cartes, et laissé tomber celles-ci pour le GPS intégré à notre portable. Plus besoin de savoir se repérer, nous sommes pris en main par notre navigateur. Au sens de l’orientation s’est substituée la qualité de la connexion. Et nous nous laissons, passivement, guider par les indications de l’outil, dont la voix est devenue notre compagne de voyage. Pourquoi n’en serait-il pas de même pour l’intégralité des choix de notre existence? Déléguer, pour mieux se laisser porter. Une liberté à rebours des Lumières: ne plus avoir à choisir. Allégés du fardeau du choix, nous parcourons l’infini qu’ordonnancent pour nous les formules mathématiques qui veulent nous résumer. L’algorithme mon serviteur. L’algorithme son sauveur. L’algorithme, mon maître. L’algorithme, ma servitude. (pp. 66-67)
Tout est “pré-calculé”, y compris “nos désirs”
Nous déléguons nos décisions à une formule mathématique qui calcule nos préférences à partir de nos données personnelles, qui “prémâche” nos choix pour éviter la fatigue décisionnelle, organise notre environnement comme une grande application de rencontre. L’Intelligence Artificielle nous fait “matcher” avec un livre, un menu, une voiture, un ami, un métier, un appartement, un film, une raison de s’indigner, un choix d’orientation scolaire, une recette de cuisine, une philosophie, un vêtement, une chanson, un choix politique, une paire de chaussures, un amour, une série télé, une information, une divinité. Rencontre immédiate, et plus si affinités, sans lendemain si nécessaire, et, finalement, sans envie.
Une double illusion s’installe. La première, c’est que cette délégation nous libérerait de nos limites; la seconde, c’est de penser qu’elle serait fidèle à ce que nous sommes. (p. 71)
Mais, précisément, “tout n’est pas calculable”!!
Tout n’est pas calculable, “computationnel” en ce monde. Au-delà de la caricature de nous-mêmes, réduire nos comportements à un calcul, aussi précis soit-il, réduit la part d’irréductible humanité que nous portons en chacun de nous, qui nous fait hésiter, nous tromper, ou parfois, commettre un acte gratuit rationnellement absurde. (p. 76)
L’Auteur prend comme exemple celui du conducteur par rapport au robot programmé de la voiture autonome
…la plupart du temps, dans une condition d’accident, nous éviterons à tout prix, y compris celui de notre propre existence, de percuter le piéton qui se présente devant nous. Notre humanité nous poussera à sauver autrui, même si nous sommes dans la force de l’âge et que le piéton en question est un vieillard dont l’espérance de vie est faible et qu’il a traversé sans y être autorisé. Que ce geste d’évitement relève de l’instinct animal, du réflexe conditionné ou de l’altruisme importe finalement peu. Il déjoue, à l’heure du choix décisif, l’idée même de calcul. (pp. 77-78)
Et l’un des problèmes majeurs de ces nouveaux modes de communication qui enveloppent tous les aspects de nos vies est que,
comme le dit Sam Kriss: “L’Internet n’est pas un système de communication. Au lieu de délivrer des messages entre les gens, il simule l’expérience d’être au milieu d’un groupe”! et donc “Ce nouveau régime de l’interaction fait une victime: l’Autre… Si nous passons déjà plus de trois heures par jour à converser avec des autres qui ne sont déjà plus vraiment là, le fait qu’ils existence vraiment n’a plus grande importance. (pp. 90-91)
On accepte donc et on joue avec un monde de fiction
Une récente enquête journalistique réalisée par le consortium de médias Forbidden Stories (qui regroupe 30 médias internationaux), “Story Killers”, a révélé, entre autres choses, qu’une entreprise israélienne utilisait des “avatars profonds” pour mener à bien des entreprises de déstabilisation politique. C’est-à-dire des profils sociaux et comptes Twitter, Instagram, Facebook, You Tube, comptes clients Amazon, Airbnb et autres de personnalités complètement fictives, dont l’historique personnel a été fabriqué avec le même soin que les services secrets emploient quand ils créent les “légendes” de leurs agents. Les faux journalistes, médecins, politiques et témoins dialoguent, conversent, manipulent, répondent au téléphone, et nous débattons, partageons, réagissons à ce qu’ils postent, alors qu’ils ne sont que des fictions. Nous l’ignorons, mais, d’un autre côté, nous ne nous assurons pas vraiment de la réalité de leurs existences. Les faux individus ont de vraies conséquences. Dans le nouveau tumulte, des avatars peuvent mettre le feu à la plaine. Les humains et le logiciel derrière ces créations fictives seront bientôt intégralement remplacés par des Intelligences artificielles, qui produiront des avatars profonds en quantité vertigineuse.
[…] Depuis que l’Intelligence Artificielle s’est invitée dans notre vie quotidienne, les questions affluent: comment allons-nous faire pour vivre avec? Comment allons-nous distinguer la production réelle de la production numérique, le made by human beings du made by AI? Les auteurs auront-ils encore un rôle quelconque, alors qu’une simple requête à un robot permettra d’écrire un roman policier à la façon d’Agatha Christie? Un scénario qui ressemble à un film d’Alfred Hitchcock? (p.94-96)
Dès lors, où et comment organiser une “résistance”… si elle est possible, au moins partiellement?
À l’heure de la submersion, c’est un défi technologique. Et notamment pour les médias, plateformes et institutions culturelles. Comment préparer la rencontre entre un individu et ce qu’on lui propose? Réduire l’amplitude de ce qui lui est proposé offre une première réponse et un premier paradoxe. Contextualiser la démarche, expliquer les alternatives, une deuxième. Être clair sur le temps que demandera la lecture, le visionnage, l’écoute ou l’utilisation de ce que l’on offre constitue une piste supplémentaire, qui éclaire sur les conséquences de choix en termes de temps passé. Le temps est une ressource chaque jour plus précieuse, et il n’est pas étonnant de constater le succès récent des propositions que l’on peut achever sans être automatiquement dirigés vers un autre contenu complémentaire, retrouvant ainsi le plaisir mêlé de soulagement qui était le nôtre en refermant un journal après l’avoir “terminé”. (pp. 110-111)
Mais il faut aussi des outils et procédures pour restaurer et confirmer la “confiance” dans le communicateur de quelque nature qu’il soit s’il n’est pas un être humain en chair et en os en face de nous
Il va nous falloir à nouveau prendre soin de ceux dont le métier est d’orienter, de hiérarchiser, d’éclairer, de trier, de proposer. Enseignants, médias, institutions, associations, organisations, peuvent et doivent rester, devenir ou redevenir des tiers de confiance, dont la tâche est de certifier le réel face au simulacre et chercher la vérité des faits face aux constructions personnelles. Le tiers de confiance dans un monde défiance n’est pas seulement là pour faciliter, à nouveau, l’exercice du libre arbitre. Mais parce que cet exercice doit être éclairé, son rôle consiste aussi à offrir une garantie de réel, une certification sur ce qui existe et ce qui n’existe pas. (pp. 113-114)
Désormais, il faut avancer en tenant compte de tout cet environnement dans lequel l’humanité entière est enserrée volens-nolens
Nous ne pouvons faire abstraction du réseau dans notre réflexion. Il nous faut désormais penser à travers lui et par lui. Et, pour ce faire, opérer un pas de côté, passer de la pensée scientifique à la pensée littéraire, et admettre que le défi de l’humain face au réseau n’est pas de nature technologique mais plutôt de nature philosophique.
[…] Dans son livre de 2022 The Internet Is Not What You Think It Is, Justin E.H. Smith dresse une histoire du réseau qui précède de plusieurs siècles l’invention du Web et de l’Internet. La démarche peut sembler excessive: l’histoire de l’humanité devient sous sa plume une histoire de liens, de connexions, d’interactions et d’itérations, de tentative d’atteindre quelque chose de plus grand que l’individu lui-même par la mise en relation. (pp. 118-120)
Et l’Auteur termine par son “rêve éveillé” au milieu de cette “submersion”
S’allonger sur l’herbe, espérer le dénuement de l’esprit, écouter sa propre respiration et celle des autres, accepter la couleur décevante d’un ciel et de nuages dont l’empreinte sur la rétine n’est plus modifiée par les filtres Instagram, s’émerveiller des changements de formes dues au vent, accueillir les marques des heures et du temps qui passe. Savoir que l’humain et le vivant se nourrissent du réseau et le cultivent, et non l’inverse. Et, enfin, circonscrire le calcul pour redonner de l’espace à la pensée, et quitter le simulacre pour retrouver le rêve. (p. 130)
Un “petit” livre très stimulant, très clair et qui dit l’essentiel. Mais, si nous n’agissons pas là où nous sommes, il ne nous sauvera pas du déluge en cours!
Et c’est encore
face à ce déluge que réagit l’enseignant en philosophie qui signe le livre
suivant
Raphaël Enthoven, L’esprit artificiel, Éditions de l’Observatoire,
Paris, 2024, 192 pages, 2024 (janvier et mars), ISBN 979-10-329-2061-9
Pour cet enseignant
…dans l’enseignement, on ne compte plus les fraudes massives et collectives, ni les crises de paresse (“À quoi bon apprendre puisque j’ai tout sous la main?”) autrement connues sous le nom de “syndrome de Theuth”, du nom du scribe qui, raconte Platon dans le Phèdre, crut sauver la mémoire en inventant l’écriture et à qui Pharaon répondit qu’il avait sauvé l’oubli lui-même – stupéfiante prédiction notamment avérée, au XXIe siècle, par l’atrophie du muscle mémoriel sous l’effet des bibliothèques de photos. (p. 17)
Il se pose donc “une” question
Pourquoi l’exercice de la philosophie est-il inaccessible à l’intelligence artificielle? Ou bien pourquoi l’humanité reste-t-elle un casse-tête pour la machine? C’est la même question. (p. 18)
Qu’apporte de propre la philosophie?
Le professeur de philosophie est le gardien d’un musée vivant dont les portes sont toujours ouvertes, et dont les occupants ont le champ libre à toute heure, pour se rendre visite et partager leurs doutes. Voilà ce qu’une machine ne pourra jamais rattraper. Aucune IA ne peut faire du surplace depuis deux mille cinq cents ans: ça va trop vite pour elle!. (p. 28)
Et la décision gouvernementale d’abandonner la “dissertation philosophique” en fin d’études secondaires sonne le glas d’une vraie formation humaniste et citoyenne
De hussards en charge de notre liberté de conscience, les professeurs de philosophie vont devenir des originaux qui se posent des questions inutiles à l’obtention du bac comme à la conquête d’un métier. Pour des raisons de commodité, pour adapter l’offre du bac à l’élève-client, on a privé l’avenir du plus puissant des antidotes contre la sottise. (p. 46)
Car, où se passe l’“intelligence”?
C’est à l’intérieur qu’on pense, là où les états d’âme se compénètrent d’une façon que seule la polyphonie laisse entendre, là où vient l’inspiration, là où s’attrapent les pensées qu’on note ou les idées dont on n sait encore pourquoi elles trouveront leur place dans le livre à venir, là où chaque instant est pourvu d’imprévus, et où des expériences disparates s’associent sans raison. Tout cela, encore une fois, porte un nom: l’esprit, qui ramasse, à tout instant, en décisions uniques la profusion de nos apprentissages, qui accueille l’entrelac des émotions, la palinodie des pensées et la paix des antipodes. (pp. 75-76)
Mais, malgré ces prises de conscience, l’Auteur n’exclut pas le risque d’un “abêtissement” de l’humanité par la machine
Il n’est pas impossible que nous devenions des moutons, et qu’à force de leur demander d’avoir meilleure mémoire que nous, nous soyons bientôt zombifiés par nos outils, possédés par nos possessions, grégarisés par nos algorithmes et rendus paresseux et asociaux par ces armes hypnotiques. Il suffit de regarder autour de soi (ou de se regarder faire) pour se dire que c’est peut-être déjà le cas, et que nos têtes sont en permanence drainées par l’outil dont on s’abreuve. L’apocalypse cognitive que prédit Gérald Bronner (Apocalypse Cognitive, 2021), c’est-à-dire la capture de nos cerveaux par une information dérégulée qui flatte nos penchants et nous enferme dans nos biais cognitifs, n’est pas une prédiction mais un diagnostic. Nul ne peut en nier la menace. C’est un enjeu de santé publique. (p. 133)