Facebook. La Catastrophe annoncée
Juin 2020
Roger McNamee, Lausanne, Quanto, 2019 (imprimé par CPI: septembre 2019); 368 pp; ISBN: 978-2-88915-313-8
Voici le livre courageux d'un témoin et d'un acteur de l'expansion foudroyante et colossale du leader mondial des “réseaux sociaux”. Ancien mentor de Mark Zuckerberg dont il a co-financé les débuts en Californie, Roger McNamee s'est rendu compte, surtout après 2016, des failles sociétales engendrées par le mode opérationnel et le développement planétaire de Facebook. Il connaît donc de près ces développements qui ont à peine 15 ans; et il se présente comme un grand amateur et connaisseur des nouvelles technologies et des start-ups qu'il a eu plaisir à stimuler financièrement.
Ce qui l'inquiète au plus
haut point ce n'est pas la technologie et
ses développements de plus en plus rapides,
ce sont les conséquences sur la société que
les développeurs de ces technologies n'ont
pas anticipées et dont ils ne semblent pas
vouloir assumer la responsabilité.
Les
interventions, désormais avérées, de groupes
de pression russes dans la campagne
présidentielle américaine de 2016, à travers
les utilisations assez faciles de Facebook
pour créer de la désinformation (fake news)
ont décidé Roger McNamee à réagir et à faire
réagir à tous niveaux en vue de la
préservation de la démocratie, de la santé
publique (surtout les enfants et les ados)
et de la liberté civile (vie privée) par
rapport à des pratiques inadmissibles de
Facebook qui pèsent sur ces domaines. Ces
pratiques sont commandées exclusivement et
consciemment par la volonté d'accroissement
à marche forcée d'une clientèle de plus en
plus captive (qui en moins de 15 ans
approche des 3 milliards d'utilisateurs sur
la planète) et par l'accumulation de
l'énorme richesse que procurent ces
accroissements rapides!
Où se trouvent les erreurs du système mis en place par Mark Zuckerberg (aujourd'hui très efficacement secondé par Sherryl Sanberg) – deux CEO qui ont pu créer, en leur faveur personnelle, un pouvoir souverain majoritaire et presque intangible dans la structure actuelle de la société Facebook?
Le principe de base des algorithmes développés par l'équipe payée par Zuckerberg est d'accumuler les données concernant les utilisateurs du système afin de pouvoir garder ces utilisateurs le plus longtemps possible “en ligne” pour les solliciter par des publicités et des appels qui: a) font fonctionner la publicité – principale source de revenus de la société; b) rendent les utilisateurs addicts (I like – pouce en l'air à tous les écrans) en les enfermant dans des Bulles de confort mental (“je suis avec les gens que j'aime bien et dont je partage les goûts et les idées” - y compris si elles sont racistes, extrême droitière ou gauchiste, etc…).
Mais Mark Zuckerberg, adulé et sûr de lui, se limite à faire des excuses en public quand une réalité humaine ou sociale a mal tourné (“grâce” ou “à cause” de son système de réseau). Il ne fait jamais changer fondamentalement son modèle informatique et commercial pour en faire un outil qui respecte vraiment les personnes et les libertés démocratiques.
Selon Roger
McNamee, après qu'il ait tenté de faire
changer Zuckerberg par des contacts amicaux
et directs, la seule façon de l'obliger à
faire évoluer son modèle de réseau social,
serait une révision et une mise à jour, tant
aux USA qu'au plan international, des lois
anti-trust qui avaient réussi, dans les
années 1990ss, à faire modifier le modèle
économique trop monopolistique de Microsoft.
“Les utilisateurs objectifs et mesurés ont
une valeur relativement faible pour
Facebook, qui fait son possible pour activer
le cerveau reptilien… Au début, la
plateforme donne aux utilisateurs “ ce
qu'ils désirent ”, mais ses algorithmes sont
entraînés à orienter leur attention vers ce
que veut Facebook… L'attention dirigée
des utilisateurs de Facebook est ce que
Facebook appelle l'engagement, mais
l'objectif reste de rendre les contenus
publicitaires plus profitables, en modifiant
les comportements des abonnés. … Au moment
où j'écris ces lignes, Facebook est, malgré
ses 15 printemps, la quatrième société
américaine sur le plan de la valorisation
boursière, et sa valeur résulte de sa
maîtrise de la surveillance et de la
modification des comportements” (pp.20-21).
En fait, Facebook utilise, avec des outils
de plus en plus performants en termes de
communication, des techniques déjà mises au
point par tous les systèmes de
“propagande” qui ont été adaptés et
monnayés – avec quelques restrictions
légales tardivement et partiellement
appliquées – par tous les gourous de la
publicité et du marketing!
Mais, comme
l'observe R. McNamee: “Quand des fortunes
peuvent être constituées du jour au
lendemain, rares sont ceux qui s'arrêtent
pour se poser des questions ou pour
envisager les effets secondaires d'une telle
dynamique!” (p. 58).
Il faut agir !
Le constat qui va faire bouger R. McNamee est le suivant: “Pour Zuck et l'équipe de direction de Facebook, l'objectif de connecter le monde était bien évidemment louable. La philosophie “Avancez vite, cassez les codes” autorisait un grand nombre d'erreurs, et Facebook a embrassé ce processus: à chaque faux pas, il a opéré des ajustements puis repris ses activités. L'entreprise s'est concentrée avec une précision chirurgicale sur les priorités de Zuck et n'a jamais envisagé la possibilité que cette approche ait des failles, même quand les preuves de ces dernières sont devenues accablantes. Selon toute apparence, Zuck et son équipe de direction n'ont pas anticipé le fait que les membres de Facebook l'utiliseraient d'une manière différente de celle imaginée par Zuck, que rassembler deux milliards de personnes sur le même réseau mènerait au tribalisme, que les groupes Facebook renforceraient ce phénomène, et que des acteurs malveillants en profiteraient pour nuire à des personnes innocentes. Ils n'ont pas su imaginer les conséquences involontaires d'un modèle publicitaire basé sur la modification des comportements. Ils ont ignoré les critiques. Ils ont manqué l'occasion d'endosser leurs responsabilités au moment où cela aurait simplement égratigné leur réputation. Lorsqu'ils ont été appelés à comparaître, ils ont protégé leur modèle commercial et leurs prérogatives, n'apportant que des modifications mineures aux pratiques de l'entreprise. Cette trajectoire vaut la peine d'être analysée en profondeur” (p.71).
Le reste du livre déploie cette analyse qui mène McNamee de plus en plus vers les responsables juridiques et politiques des États-Unis pour tenter de leur faire prendre conscience du problème et mettre en œuvre des procédures qui permettraient d'en écarter les effets nocifs pour les personnes et la société!
Les failles du modèle Facebook
“J'ai essayé Connect sur quelques sites d'information, mais je l'ai vite abandonné quand je me suis rendu compte de ce que son utilisation impliquait pour ma vie privée. Les données que Facebook collectait au moyen de Connect ont débouché sur de gigantesques améliorations du ciblage publicitaire, mais elles allaient aussi aggraver des catastrophes comme l'ingérence russe dans l'élection présidentielle de 2016. Les autres utilisateurs ont dû remarquer que Facebook savait des choses surprenantes sur eux, mais se sont peut-être dit que l’utilité de Connect valait bien la perte d'intimité” (p.84).
Voici
comment McNamee a pu prendre conscience
d'une des principales distorsion des
algorithmes mis en œuvre par Facebook et qui
seront désormais désignées comme la création
de “bulles de filtres” imposant à
l'utilisateur, sans qu'il s'en aperçoive,
une certaine vision des choses: “Cette
année-là [2011], le temps fort a été pour
moi une présentation de neuf minutes donnée
par Eli Pariser, le président du Conseil
d'Administration de MoveOn.org. Eli avait
découvert que les fils d'actualité Facebook
et Google n'étaient plus neutres. …Les
plateformes prétendaient être neutres, mais
elles filtraient les contenus d'une manière
invisible aux utilisateurs. …Les
algorithmes n'agissaient pas d'eux-mêmes de
manière socialement responsable. Les
utilisateurs pensaient qu'ils étaient en
train de voir un contenu équilibré, alors
qu'en réalité ils étaient piégés dans ce
qu'Eli a appelé une “bulle de filtres”
créée et imposée par des algorithmes. Il
émettait l'hypothèse que le fait de donner
aux algorithmes un pouvoir de contrôle sans
exiger d'eux une forme de responsabilité
civique en contrepartie aurait des
conséquences négatives et imprévisibles”
(pp. 88-89).
“Toutes les données
[collectées] nourrissent l'intelligence
artificielle de Facebook (ou celle de
Google) et peuvent être utilisées par les
annonceurs afin d'exploiter les émotions des
utilisateurs de façon à accroître la
probabilité qu'ils achètent un modèle
spécifique de voiture ou qu’ils votent d'une
certaine manière. Comme le futurologue des
technologies Jaron Lanier l'a souligné, la
publicité sur les réseaux sociaux est
devenue une forme de manipulation.” (p.
92).
“Les bulles de filtres et les
bulles de préférences minent la démocratie
en détruisant les derniers vestiges du socle
commun parmi un nombre gigantesque
d'Américains. Seule la tribu compte et tout
ce qui la fait progresser est légitime …Facebook ne crée pas des bulles de
préférences, mais il en est l'incubateur
idéal. Les algorithmes font en sorte que les
utilisateurs qui ont “aimé” une fausse
information soient, par la suite, davantage
abreuvés de désinformation ”(pp. 120-121).
La difficulté de faire modifier ces façons de procéder est déjà inscrite dans la façon dont Facebook protège ses réalisations: “Ce n'est pas un hasard si les conditions générales d'utilisation (CGU) et les paramètres de confidentialité de Facebook, comme ceux de la plupart des plateformes internet, sont difficiles à trouver et presque impossible à comprendre. Facebook place un bouton sur la page d'accueil pour donner aux utilisateur accès aux CGU, mais ils sont peu nombreux à cliquer dessus. Le bouton est positionné de telle manière que pratiquement personne ne le repère. Ceux qui le voient ont été conditionnés depuis les premiers jours d'internet à partir du principe que les CGU sont longues et incompréhensibles, et ils ne cliquent pas non plus sur le lien. Les CGU de Facebook ont un seul et unique objectif: préserver l'entreprise de toute responsabilité légale. En utilisant la plateforme, nous donnons à Facebook la permission de faire à peu près tout ce qu'il veut” (pp. 123-124).
D'où le terrible constat: “Pour faire fonctionner leur modèle publicitaire, les plateformes internet comme Facebook et YouTube ont inversé la relation traditionnelle entre la technologie et les être humains. La technologie n'est plus un outil au service de l'humanité; ce sont les êtres humains qui sont au service de la technologie”( p. 132).
Revoir le modèle sociétal et économique de développement des réseaux sociaux
Il faut donc questionner le modèle économique et sociétal qui se trouve derrière ces plateformes. Deux chercheurs de l'université de Columbia “ont argué qu'Amazon, Google et Facebook possèdent tous trois un pouvoir monopolistique auquel nul n'aurait eu droit durant la majeure partie du XXIe siècle, et qu'ils en usent pour entraver la concurrence et désavantager les utilisateurs” (p.170). Mais les lois anti-trust américaines ont été depuis lors affaiblies par la théorie économique de l’École de Chicago (adoptée quasiment de façon publique depuis l’administration Reagan) selon laquelle, si les prix au consommateur ne sont pas à la hausse, on ne peut contester l'utilité économique des concentrations de pouvoir économique (p. 171). Mais selon McNamee (et d'autres) cette vision tue la création d'entreprises nouvelles (et donc novatrices) et accentue toutes les inégalités salariales.
McNamee, dans la suite expose les
fondements de sa vision des relations entre
les développements technologiques et le
développement de l'humanité: “Les produits
technologiques ne devraient pas être
dangereux. Ils ne devraient pas nous induire
en erreur ou nous abrutir. Les nouvelles
technologies devraient, au contraire,
contribuer à l'autonomie et à l'amélioration
des conditions de vie des utilisateurs. Le
modèle actuel n'est pas viable, mais sa
disparition ne doit pas pour autant
entraîner le déclin du secteur
technologique. Comme dans le domaine des
énergies renouvelables (où le solaire et
l'éolien ont fini par s'imposer à grande
échelle), la technologie centrée sur
l'humain pourrait supplanter une vision
dépassée et transformer un problème créé par
l'homme en une formidable opportunité
commerciale. Nous voulons que la technologie
contribue à la création d'un monde meilleur.
La technologie centrée sur l'humain est la
clé pour y parvenir.
Ce concept recouvre
la volonté de revenir à une technologie qui
renforce l'intelligence humaine au sens de
la métaphore du “ vélo pour l'esprit ”
forgée par Steve Jobs. Les produits centrés
sur l'humain ne se repaisse pas de nos
faiblesses. Ils compensent les déficiences
et démultiplient les forces des
utilisateurs. Cette approche implique de
prendre des mesures préventives contre la
dépendance, et, lorsqu'elles ne suffisent
pas, d'en atténuer les retombées négatives.
Les dispositifs technologiques devraient
être utiles sans induire une dépendance. Les
applications et les plateformes devraient
être conçues dans le respect de
l'utilisateur, circonscrire les effets des
bulles filtres existantes et limiter
l'apparition de nouvelles bulles.” (pp.
193-194).
Et de dénoncer l'une des grandes faiblesse de Facebook, légèrement corrigée suite à la preuve de l'utilisation de données de cette plateforme par des activistes russes au cours de la campagne présidentielle de 2016, qui est le vol ou détournement possible de données (comme ce fut le cas avec le scandale de Cambridge Analytica) dont on ne peut pas savoir qui les détient ensuite et comment il va s'en servir!
Cette influence négative
est massive et sert des causes injustes:
“Avec 2,2 milliards d'utilisateurs actifs,
Facebook rivalise avec les plus grandes
religions du monde. Il exerce une influence
considérable dans tous les pays où il est
actif. Dans certains États, comme le
Myanmar, il constitue pratiquement tout
l'internet. La persécution de la minorité
rohingya se poursuit dans le pays, et
Facebook a été cité par les enquêteurs des
Nations Unies comme un catalyseur de
'nettoyage ethnique'”(pp. 254-255).
Ou encore: ”Personne n'a élu les employés
de Facebook; pourtant leurs actions peuvent
avoir un impact décisif sur notre
démocratie. En effet, dans presque tous les
États démocratiques, Facebook est devenu une
force d'influence imprévisible sur les
élections. Pour les régimes autoritaires, il
est désormais un outils idéal de contrôle de
la population.” (p.255).
De nouvelles régulations nationales et internationalesne sont nécessaires
Il en découle une recherche de responsabilisation des entrepreneurs de ces plateformes, et notamment par de nouvelles régulations et contrôles citoyens: “À l'instar des avocats et médecins, les entreprises qui exploitent à grande échelle des informations sensibles de tous types devraient être juridiquement tenues de protéger les données personnelles de leurs utilisateurs. Pour le moment, elles agissent comme des prêtres qui trahiraient le secret de la confession pour leur seul profit. En cas d'extension de la règle fiduciaire, les utilisateurs gagneraient le droit de porter plainte lorsque leurs données sont compromises ” (p. 305). “L'audit d'algorithmes par des tiers, dans la lignée de ce qui se fait actuellement dans le domaine financier, assurerait la transparence nécessaire pour modérer les conséquences indésirables. Il faudrait par ailleurs imposer des limites aux types de données qui peuvent être récoltées, de telle manière que les utilisateurs puissent réduire le nombre d'informations collectées ou opter pour une meilleure protection de leur vie privé.” (p. 309).
Tout en encourageant l'action collective pour faire bouger les choses dans la bonne direction (une technologie vraiment au service de l'humain), l'Auteur résume en une page la façon dont il s'est “discipliné” lui-même pour limiter les effets néfastes de l'utilisation des plateformes des réseaux sociaux (et plus particulièrement celles qui sont liées à Facebook): “Pour changer les choses, il faut avant tout revoir notre relation aux plateformes internet. C'est ce que j'ai fait, en particulier pour Facebook et Google. J'utilise toujours Facebook et Twitter, mais plus de la même manière. Je ne permets plus à Facebook de jouer de mes faiblesses émotionnelles. J'aimerais que ce ne soit pas nécessaire, mais je ne publie plus rien de politique et je ne réagis plus à aucun contenu de ce genre. Après six mois d'efforts, mon fil d'actualité n'affiche plus que des morceaux de musique, des rappels d'anniversaires et des photos de chiots. Cela pourrait aussi fonctionner pour vous. J'ai en outre supprimé la majorité de mon historique Facebook. La plateforme semble favoriser automatiquement la désinformation et les fake news; je suis donc très prudent à l'égard des sources d'information sur Facebook et partout ailleurs sur le web. Pour protéger ma vie privée, je n'utilise plus Facebook Connect pour m'identifier sur d'autres sites, et je ne clique plus sur les boutons “J'aime” disséminés sur le web. Je n'utilise ni Instagram ni WhatsApp parce que j'ai peur de l'avenir que Facebook leur réserve. J'évite d'utiliser Google autant que possible en raison de ses politiques de collecte de données. Ce n'est pas pratique, donc j'aborde cette privation comme un jeu. J'utilise DuckDuckGo comme moteur de recherche parce qu'il n'enregistre pas d'informations sur les requêtes. J'envoie des messages avec Signal. J'ai renoncé à Gmail et à Google Maps. J'utilise Ghostery, un bloqueur de mouchards et de cookies qui empêche Facebook, Google et consorts de surveiller mes activités en ligne. Je suis loin d'être invisible sur le web, mais mon ombre est moins étendue qu'auparavant” (pp. 316-317).
Roger McNamee est également soucieux de santé publique, notamment par rapport à l'impact des technologies sur les enfants et les ados: “L'Académie américaine de pédiatrie suggère aux parents d'interdire toute exposition aux écrans aux enfants de moins de deux ans. De plus en plus d'études indiquent que les parents devraient limiter le temps d'écran des enfants de moins de 12 ans bien plus qu'ils ne le font en moyenne actuellement. Les arguments en faveur d'une exposition précoce – la préparation à la vie numérique – ont été démontés par des recherche prouvant que le temps d'écran entrave sérieusement le développement de l'enfant ” (p. 319).
Enfin, McNamee a aidé le financier George Soros à préparer l'intervention qu'il ferait au Forum internationale de Davos en janvier 2018 et dont une large part dénonçait les dérives en cours des réseaux sociaux. Il donne cette intervention en Annexe… et on peut y lire notamment: “La rentabilité exceptionnelle de ces entreprises [Amazon, Google, Facebook] dépend largement de leur refus d'endosser leurs responsabilités envers les contenus publiés sur leur plateforme – et de payer pour ces contenus. Elles prétendent jouer un simple rôle de distributeur d'information, mais le fait qu'elles détiennent presque le monopole de la distribution en fait des plateformes d’utilité publique, qui devraient donc être soumises à des réglementations plus strictes pour préserver la concurrence, l'innovation, et un accès équitable et universel”(p.351) ou encore: ”L'attention humaine à l'ère numérique est touchée par un phénomène très préjudiciable et peut-être irréversible. Il ne s'agit pas simplement de distraction ou de dépendance; les sociétés de médias sociaux poussent les gens à abandonner leur autonomie. Le pouvoir de manipuler l'attention est de plus en plus concentré entre les mains d'une poignée d'entreprises. Il faut fournir un effort réel pour faire valoir et pour défendre ce que John Stuart Mill appelait la “ liberté d'esprit ”. Il est possible qu'une fois perdue, elle soit difficile à regagner pour ceux qui auront grandi à l'ère numérique. Ceci pourrait avoir des conséquences politiques considérables. Les personnes privées de liberté d'esprit sont aisément manipulables. Il ne s'agit pas seulement d'un danger planant sur nous, mais d'un phénomène qui a déjà joué un rôle important dans l'élection présidentielle américaine de 2016” (p. 352).
Le livre se termine par une très intéressante “bibliographie sélective” commentée par l'Auteur. Sur les développements des technologies, spécialement à l'époque du boom des micro-ordinateurs dans la Silicone Valley, il recommande (“c'est le meilleur ouvrage que je connaisse”) le livre de Paul Freiberger et Michael Swaine, Fire in the Valley: The Making of the Personnal Computer ou sous un autre titre dans la seconde édition: Fire in the Valley: the Birth and Death of Personnal Computer …que je recommande toujours également!
À signaler, car cela montre l'importance sociétale de l'apport de Roger McNamee, le Time magazine du 15 juin 2020 donne, sur 2 pages, la parole à McNamee sous le titre Facebook cannot fix itself: il y réagit aux velléités mal placées du Président Trump par rapport aux tweets censurés pour incitations à la violence qu'il avait lancés! Les solutions sont à trouver dans une nouvelle volonté démocratique de responsabilisation des plateformes de réseaux sociaux et un type nouveau de contrôle démocratique de leurs façons d'agir.
Le cas Facebook devient un enjeu citoyen et donc politique!
R.F. Poswick
P.S.: L'absence de lien du présent site vers Facebook veut appuyer les constats et les actions de Roger McNamee. Un billet futur reviendra sur ce choix.