Le capitalisme de surveillance

Creato: 03 Maggio 2021 Ultima modifica: 03 Maggio 2021
Scritto da Antonio Noviello Visite: 110

Adapté de D-M-D'16 [IT][EN][Ce texte a été traduit automatiquement par deepl.com]

Welcome to the machine

Welcome my son
Welcome to the machine
Where have you been?
It's alright we know where you've been

You've been in the pipeline
Filling in time
Provided with toys and scouting for boys
You brought a guitar to punish your ma

And you didn't like school
And you know you're nobody's fool
So welcome to the machine

Pink Floyd[i]

Résumé : Dans ce court essai, nous discuterons du livre The Capitalism of Surveillance du professeur Shoshana Zuboff[ii], chercheur à la Harvard Business School. Le livre a pour sous-titre : l'avenir de l'humanité à l'ère des nouvelles puissances. L'auteur se propose d'étudier en profondeur le scénario du nouvel ordre économique, résultant de l'exploitation des données produites consciemment et inconsciemment par les pratiques humaines associées aux nouvelles technologies. En effet, malgré l'accent mis sur la définition d'un nouvel ordre économique du capitalisme, nous observerons comment dans les pratiques de production et d'exploitation massive de la technologie et des données et les inégalités et concentrations de pouvoir indubitables, nous n'obtiendrons rien d'autre que le capitalisme de tous les temps, à savoir celui de l'exploitation de l'homme sur l'homme, de l'atomisation de l'individu et de l'appropriation et de la concentration maximales de la plus-value produite.

Les fondements du capitalisme de surveillance

Commençons par une définition que Zuboff utilise pour introduire le paradigme du capitalisme de surveillance. En réalité, elle en fournit plusieurs[iii], mais les deux premiers semblent significatifs :

  • Un "nouvel ordre économique" qui exploite l'expérience humaine comme matière première pour des pratiques commerciales secrètes d'extraction, de prédiction et de vente ;
  • Une "logique économique parasitaire" dans laquelle la production de biens et de services est subordonnée à une nouvelle architecture mondiale visant à modifier le comportement (humain).

Une combinaison d'accumulations de connaissances technologiques, de technologies de pointe et de groupes de recherche, le tout combiné à un nouveau marché dont le produit est l'information totale sur la personne, ses goûts, ses manies, ses habitudes, ses pratiques commerciales, et tout cela est mis à la disposition de ces néo-capitalistes qui ont grandi à la fin du siècle dernier, à savoir les PDG, les cadres supérieurs, des nouvelles multinationales de la connaissance mondialisée : Google, Facebook, Samsung, Apple, Tik Tok, Alibaba, etc.

Dans le capitalisme en général, la forme marchande rend les relations sociales nécessairement manifestes en tant que relations entre les choses produites. La production est la tâche des travailleurs qui, en échange d'un salaire, offrent une force de travail. Le capitaliste achète la force de travail de la marchandise et l'applique dans ses usines d'une manière et à un moment qu'il décide. Théoriquement, l'exploitation du capitaliste se résoudrait donc dans les temps de travail que le travailleur doit donner par contrat. Avec le capitalisme de surveillance, en revanche, les gens eux-mêmes, sans distinction, sont à la fois la matière première et la cible du marché à atteindre.

Il est dit : "nous passons de plus en plus de temps connectés à l'internet". Les pratiques humaines actuelles prévoient la valorisation du capital [iv]24 heures sur 24 et 7 jours sur 7, qu'il provienne de la production de biens, parasitaires ou financiers, ou des nouveaux paradigmes du capitalisme de surveillance comme le suggère très précisément Zuboff. Bien que nous ne soyons pas directement employés sur la chaîne de montage, nous sommes toujours connectés au monde, même pendant les heures de repos : à trois heures du matin, il peut facilement arriver que nous devions répondre à un courriel de travail, ou à un message urgent de WhatsApp concernant des problèmes de travail, ou encore que nous laissions un commentaire sur Facebook ou consultions une carte électronique. En bref, une chaîne de montage virtuelle qui s'étend au-delà des heures de travail canoniques. Zuboff nous le dit :

Nous assistons à une nouvelle version du pacte de Faust... L'internet est devenu essentiel pour vivre une vie sociale, mais l'internet est également saturé de publicité, et la publicité est subordonnée au capitalisme de surveillance[v].

Mais il ne s'agit pas seulement de savoir comment placer au mieux les biens dans le monde réel. Nous ne pouvons pas réduire l'Internet à une nouvelle télévision commerciale élargie. Nous sommes confrontés à des géants formés au cours des vingt dernières années, des géants comme Google, qui stocke nos histoires et les catalogue dans d'énormes bases de données. Données recueillies lors de l'utilisation quotidienne des pages de recherche ou d'autres services offerts. Nous tous, sans distinction, utilisons le moteur pour trouver quoi que ce soit. Et cette pratique devient alors une chaîne de données collée à notre personne, qui est "profilée" avec des étiquettes qui parlent de nos goûts, de nos tendances, etc. Toute la valeur de l'information est entre les mains des multinationales.

La technologie n'est pas une entité divine, c'est un produit humain, et les capitalistes en ont le contrôle total, ils la dirigent, ils organisent son "bon" fonctionnement. Objectif : la recherche continue et obsessionnelle de parts de plus-value. L'ADN de la technologie est donc marqué à l'origine, son étoile est l'orientation vers le profit. Dans cette hypothèse, Zuboff nous soutient :

Le capitalisme de surveillance utilise de nombreuses technologies, mais il ne peut être assimilé à une seule technologie. Ses opérations utilisent des plates-formes, mais ses plates-formes ne coïncident pas. Elle utilise l'intelligence artificielle, mais elle ne peut être réduite à de telles machines. Elle produit et exploite des algorithmes, mais ne coïncide pas avec eux. Les impératifs économiques du capitalisme de surveillance sont les marionnettistes qui se cachent dans les coulisses [vi].

Cela dit, passons au livre, en essayant de mettre en évidence ses concepts clés. Zuboff consacre de nombreuses pages à la description des paraboles des multinationales, comme Apple, Google, Facebook, etc., une histoire que nous éviterons d'aborder ici. Soulignons essentiellement le point de départ commun : l'essor, au milieu des années 90, de l'Internet, qui est le support infrastructurel fondamental, sans lequel aucun moteur de recherche, ou réseau social, n'a de chance d'exister. Il est clair que chaque société multinationale a eu sa propre histoire successive, ses propres chiffres, ses propres revenus, mais comme nous le verrons, toutes ont en commun le processus classique d'accumulation capitaliste. Zuboff a le mérite d'approfondir ses recherches et de synthétiser les concepts qui, de temps en temps, ressortent de son enquête. La référence du chercheur aux paradigmes de Henry Ford concernant la consommation de masse et la production automobile à Detroit semble digne d'intérêt : en payant à ses travailleurs des salaires plus élevés que ce que l'on aurait pu imaginer, il a démontré que la production de masse avait besoin d'une population florissante de consommateurs de masse[vii]. Des concepts de base qui sont le corollaire de l'enquête de l'écrivain. Tout aussi intéressante est la référence aux crises historiques du capitalisme, en particulier deux : celle des années 70, point de départ de la métamorphose néolibérale et financière du marché qui allait devenir mondial, et la crise suivante, celle de la décennie (2007) du nouveau siècle. Ce dernier a donné une impulsion décisive à la recherche de l'Intelligence Artificielle, et surtout d'une technologie capable de remplacer massivement les travailleurs dans la production de biens.

La similitude frappante du livre est celle entre la Ford Motor Company et Google. Le moteur de recherche le plus utilisé au monde est le pionnier de ce qui deviendra la production en masse de données collectées et le profilage mondial - l'attribution à chaque utilisateur d'un identifiant et d'un ensemble de caractéristiques - de chaque personne connectée. En jargon technique strict, le profil est l'information sur le profil de l'utilisateur : UPI. Au début, Google était perçu, surtout par les initiés, comme une "force libératrice" capable de plaire à quiconque s'approchait du nouveau monde décrit par le WWW (World Wide Web).

En fait, les fondateurs Larry Page et Sergey Brin sont issus du monde de l'informatique universitaire. Le développement des premières plates-formes impliquait la production de données supplémentaires pour accompagner la recherche brutale, comme la ponctuation dans la requête, l'orthographe, les termes de recherche, les occurrences, etc., données qui étaient sauvegardées mais n'avaient toujours pas d'utilité prédéfinie. Déjà dans la première version du moteur de recherche, les boucles de rétroaction renvoyaient des informations supplémentaires qui étaient bientôt mâchées par l'algorithme, pour s'affiner progressivement et affiner de plus en plus les résultats. Une croissance exponentielle et puissante qui a permis à Google de s'imposer face à la concurrence. En 1999, le laboratoire d'origine a été transféré dans la Silicon Valley pour une valeur marchande de 25 millions de dollars. La plateforme Google a traité sept millions de demandes. Mais comme l'a bien dit Zuboff, le saut décisif a eu lieu avec le profilage de l'utilisateur et l'utilisation de données comportementales pour anticiper la recherche avec des mots suggérés, et la saisie de la publicité, par exemple par le biais de bannières : les "annonces".

Il s'agit d'une publicité de plus en plus adaptée à l'utilisateur. Tout d'un coup, toutes les données comportementales supplémentaires sont devenues précieuses et ont été collectées en quantités toujours plus importantes, soumises en entrée à des algorithmes de plus en plus sophistiqués, traitées puis rattachées à l'utilisateur lors de l'utilisation des produits de la plateforme. C'était l'étape décisive pour prévoir les intérêts de l'utilisateur, lui présenter les annonces les plus adaptées à son profil, bref, les bonnes annonces pour tous.

Dans le four, des cookies ("petits biscuits" de données) étaient cuits. Pour ce faire, des services supplémentaires sont créés qui sont essentiels pour la collecte d'informations, tels que les courriels, les cartes, la géolocalisation, etc. ; bien entendu, les services qui nécessitent un accès avec des profils spécialement créés.

Tout comme dans les guerres industrielles entre capitalistes, la concurrence acharnée et les secrets des techniques de production sont un sujet de discorde, dans le capitalisme de surveillance, la même chose se produit, mais avec des données et des algorithmes. Eric Emerson Schmidt - dirigeant de Google - a imposé un couvre-feu sur les algorithmes d'extraction des données des surplus comportementaux des utilisateurs : ces surplus devaient être dissimulés et les pratiques d'obtention devaient être tenues secrètes.

Google s'imposait résolument à l'avant-garde, par rapport aux autres multinationales du secteur, aucun concept de confidentialité des informations personnelles ne pouvait résister à la puissance d'extraction de Google : il décidait arbitrairement de la manière de disposer des données sensibles, c'est-à-dire avec l'expropriation brutale des informations. Le concept cher à Marx du "péché originel de vol", exprimé dans le premier livre du Capital[viii] concernant l'accumulation originelle, nous le trouvons applicable pari-pari dans les pratiques du moteur de recherche le plus utilisé. Un processus, celui du vol, inhérent à la nature du capitalisme, sans doute. C'est ainsi que Zuboff résume à juste titre :

Le capitalisme industriel transforme les matières premières en produits ; de même, le capitalisme de surveillance s'approprie la nature humaine pour produire ses biens [ix].

Cette accumulation d'informations massives permet à Google d'atteindre en 2017 une valeur marchande de 650 milliards de dollars[x], avec une utilisation quotidienne dans le monde entier égale à 3 trillions de recherches ! 89% des revenus sont générés par l'ADS, la publicité donc. Cette croissance a été rendue possible grâce à des algorithmes perfectionnés rétroactivement par la pratique humaine quotidienne, un processus informatique qui a mis en déroute toute la concurrence et a permis à Google d'occuper de nouveaux espaces et des domaines toujours différents, et pas seulement dans la "recherche" classique.

Google a ensuite repris, toujours en avance sur son temps, le secteur de la téléphonie et des appareils sans fil en général. Il a fourni un système d'exploitation gratuitement, de sorte qu'Android a été installé sur des millions d'appareils. Et c'est grâce à cette colonisation indolore et silencieuse qu'une avalanche de nouvelles données s'est déversée dans les cavernes secrètes des bases de données de Google. Comme pour les applications précédentes, les applications Android lançaient en arrière-plan (c'est-à-dire à l'insu de l'utilisateur) d'autres applications permettant de suivre et de glaner des informations, qu'il n'était manifestement pas possible d'obtenir officiellement. En fait, en 2017 également, une organisation française à but non lucratif, Exodus Privacy, a enregistré la prolifération d'applications de suivi massives. Exodus a identifié 44 applications de traçage dans plus de 300 applications Android, toutes avec le consentement (involontaire) des utilisateurs qui utilisaient manifestement ces applications à d'autres fins.

Un exemple de tout cela, également cher à Zuboff, est l'application Street View. L'objectif de l'application, du moins officiellement, est de représenter virtuellement le monde qui nous entoure par le biais de Google Maps[xi]. Le responsable du projet est John Hanke, fondateur de la société Keyhole pour la cartographie par satellite, financée par la CIA. Avec une voiture banale harnachée sympathiquement et équipée d'une caméra sur le toit, toutes les images capturées ont été transmises à d'énormes bases de données, puis traitées pour alimenter le contenu de l'application. Mais les informations n'étaient pas que des images. En 2010, la Commission fédérale allemande de protection des données a statué que les opérations Street View de Google collectaient secrètement des données non cryptées à partir de Wi-Fi privés. Après les protestations initiales du monde civil inoffensif, Google a fait porter le chapeau à son ingénieur en chef, mais les données sont restées bien préservées et, surtout, ont continué à être collectées, y compris les données Wi-Fi ! Voici juste un exemple de la façon dont la vie privée est un concept labile par rapport aux intérêts massifs des multinationales.

A côté de Google, d'autres sociétés de surveillance n'étaient pas restées inactives, et nous trouvons Facebook ajoutant différents niveaux de suivi et de traçage des données des utilisateurs. Le bouton "Like" avait une importance explosive car il donnait à Zuckerberg le matériel nécessaire pour approcher les secrets de l'expropriation des données informatiques. L'accès d'applications tierces aux données des utilisateurs, la fuite de toute information, les faux modules logiciels "vérifiés" où rien n'a été vérifié, l'autorisation donnée aux annonceurs d'accéder à des données de toute sorte, et aussi la suppression fictive de comptes d'utilisateurs, maintenus en réalité actifs et bien gérés. Cela, et bien d'autres choses encore, ont permis à Facebook de gagner des médailles d'or en peu de temps dans les cercles des capitalistes de la surveillance. Les revenus pour le jeune Zuckerberg ont été, comme pour Google, stellaires : en 2017 le Financial Times a encensé la croissance du social avec une valeur atteignant 500 milliards de dollars, avec une moyenne de deux milliards ( !) d'utilisateurs actifs par mois[xii]. Et le Guardian a affirmé que Google et Facebook ont absorbé un cinquième de la publicité mondiale[xiii].

Les capitalistes de la surveillance sont entrés dans les forêts infinies d'informations, ils ont entouré de clôtures et de fils barbelés électrifiés tout ce qui appartenait à tout le monde. Ils ont depuis forcé les forêts à payer elles-mêmes pour l'oxygène qu'elles produisent !

L'avancée du capitalisme de surveillance

 

Les débuts de la parabole de Google, ou celle de Facebook, ou de Microsoft, ou d'autres, et plus encore leur développement, ne sont pas analogues : certains ont été rapides et soudains, d'autres plus lents mais constants. Les multinationales de l'informatique ont suivi leur propre voie interne, elles ont eu leurs propres projets, leurs propres applications, logiciels, algorithmes, leurs propres interprétations du monde. Mais une fois qu'ils ont grandi, qu'ils sont devenus adultes, ces mondes - d'abord dans une chambre hermétique - ont commencé à se chevaucher, à partager, à se partager les mêmes parts de marché, à échanger des données. En bref, le capitalisme de surveillance a commencé à fonctionner comme un tout cohérent et synchrone. Les capitalistes ne sont plus intéressés par des utilisateurs obéissants et dociles, mais par l'imposition d'un comportement fiable qui donne des résultats assez sûrs. Et pour atteindre ces résultats, ils avaient besoin d'outils qui pouvaient modifier ou orienter le comportement des utilisateurs. Le premier outil complexe dont les capitalistes se sont dotés était l'intelligence artificielle. La nécessité d'examiner des scénarios à 360 degrés et donc de reconstruire l'avenir afin de le prévoir, a donné naissance au concept d'informatique omniprésente : "L'informatique omniprésente vient de l'idée d'une technologie conçue pour être littéralement partout (omniprésente)", a déclaré Khai Truong, professeur d'informatique à l'université de Toronto, lors d'une conférence. Ainsi, des systèmes et des objets sont développés, même pour un usage quotidien, qui peuvent nous envelopper et nous aider dans chaque mouvement, besoin, pensée. Un four, par exemple, n'est plus seulement un objet utile pour la cuisson des poulets, mais un complexe technologique hyper-connecté, équipé de capteurs, capable d'interagir avec le contexte et surtout de prendre des initiatives selon nos désirs. Une technologie intelligente enveloppante, programmée pour projeter l'utilisateur à chaque instant dans le monde de ses désirs induits plus ou moins inconsciemment.

Ces nouveaux outils réorientent toutes les situations et actions dans le monde vers un flux comportemental, et surtout ils produisent des données, des données et encore des données. Une information qui englobe notre vie, sans laisser une seconde de notre existence non cataloguée. Zuboff décrit ce processus de façon magnifique :

Pour le capitalisme de la surveillance et ses impératifs économiques, le moi et le corps sont réduits au statut permanent d'objet, et disparaissent dans le flux d'une nouvelle conception totalitaire du marché. La machine à laver, la pédale, la flore intestinale, tout est écrasé dans une dimension unique où tout est mis sur le même plan sous forme de biens d'information qui peuvent être décomposés, reconstruits, indexés, navigués, manipulés, analysés, prévus, vendus, emballés, achetés : partout, à tout moment[xiv] .

Comme pour le mantra du néolibéralisme, les capitalistes de surveillance - membres de la classe dirigeante - produisent leur propre idéologie dominante. Les dirigeants de Google, Schmidt et Cohen, en 2013 dans leur livre "The New Digital Age", parlent en ces termes de leur idée d'inévitabilité technologique : "le bénéfice collectif donné par le partage des connaissances et la créativité croît à un rythme exponentiel. À l'avenir, les technologies de l'information seront partout, comme l'électricité... Beaucoup des changements dont nous parlons sont inévitables. Et ils arrivent".

L'omniscience numérique est considérée comme allant de soi, un paradis tombé du ciel, doté d'une force propre et, surtout, certaine car les hommes seront et doivent être de plus en plus connectés. Nous savons très bien que la connaissance et la technologie sont entre les mains de la classe dirigeante et qu'elle les utilise de la manière qui convient le mieux à ses intérêts dominants. Il n'y a pas de technologie dans la nature. C'est le résultat du développement que la classe - bourgeoise - a imposé de temps en temps à l'humanité en s'appropriant des découvertes, ou en finançant des groupes de recherche dans leurs laboratoires. C'est pourquoi l'avenir n'est pas du tout tracé, il doit être construit. Celui qui le donne comme a priori définitif, c'est le même qui a intérêt à l'imaginer ainsi. Dans le capitalisme de surveillance, la technologie est conçue pour accumuler les données comportementales de l'utilisateur. Dès que l'on s'approche d'une interface numérique, le suivi commence immédiatement de manière unilatérale, éhontée et vorace. La technologie actuelle est également conçue à ces fins. Autre que l'inévitable ! Notre corps est réinterprété comme un objet dont les comportements doivent être suivis et traités. Il suffit de penser au téléphone portable et à toutes les applications qui nécessitent une géolocalisation même si cela ne serait pas nécessaire, mais seulement parce que ce type de données est extrêmement rentable. Ce sont des systèmes très évolués, leur première conception a presque toujours été stimulée par des objectifs militaires. Google est toujours à l'avant-garde, par exemple, en matière de suivi basé sur la géolocalisation. En fait, le système d'exploitation de Google pour les téléphones mobiles/ordinateurs de poche combine les données des antennes, du Wi-Fi, des photos, des vidéos et bien d'autres choses encore, de manière à pouvoir déterminer à quelques mètres près de tolérance notre véritable position. Il n'y a pas que les applications de Google qui traquent et découpent des données de toutes sortes.

La télévision intelligente de Samsung est allée encore plus loin. En installant des dispositifs de reconnaissance vocale à l'intérieur des téléviseurs de dernière génération (qui sont également connectés à Internet), toutes les conversations à proximité de l'appareil sont enregistrées : passez-moi le sel, s'il vous plaît ; nous n'avons plus de détergent ; je suis enceinte ; achetons une nouvelle voiture ; allons au cinéma ; je veux divorcer ; je vous aime... et après quelques secondes, une rafale de bips annonçant des propositions commerciales telles que voitures, avocats de mariage, fleurs, multiplex, détergent, apparaissent sur le téléphone portable ou le profil Facebook. Afin de regagner des parts de marché, Mattel, la multinationale du jouet, a pensé à des produits innovants : les nouvelles poupées Barbie interactives avec reconnaissance vocale intégrée, toutes belles, mais ces mignons jouets ne sont rien d'autre qu'un énorme enregistreur et un outil de surveillance illégal. [xv]

Les milliards de profils Facebook sont une mine inépuisable de surplus comportementaux pour le capitalisme de surveillance. En 2010, après des recherches approfondies, un point fixe a été atteint : les profils Facebook ne sont pas des profils idéaux ou, en tout cas, des autoportraits embellis, mais reflètent les véritables caractéristiques de l'utilisateur ; en d'autres termes, ils sont fiables et réels, et donc utilisables, ou plutôt, pillables. Les pépites par excellence sont les métadonnées, des agrégats d'informations en ronde sur les données elles-mêmes. C'est à partir de cette richesse libre et illimitée que Facebook a construit sa forteresse, et pas seulement. De nombreuses sociétés informatiques disposant d'équipes de chercheurs et de programmeurs très agressifs ont puisé dans ces stocks de surplus pour faire du ciblage agressif de nature politique. L'exemple le plus flagrant, qui a fait la une des journaux, est celui de Cambridge Analytica[xvi], une société capable d'influencer les choix politiques par l'étude de la personnalité de certains profils Facebook, en particulier des "indécis", et de les orienter ensuite vers des choix cibles tels que l'élection de Trump ou le vote en faveur de Brexit, et plus, en petit mais selon le même schéma, l'affirmation de Salvini en Italie. Cette affaire peut être considérée comme un "manuel" pour comprendre non seulement où sont passés les capitalistes de la surveillance, mais surtout le niveau de sophistication atteint dans le contrôle des aspects les plus profonds de la personnalité des utilisateurs.

Le pouvoir d'instrumentalisation de la troisième modernité

 

Les gens, en tant que groupe, continuent à faire les mêmes erreurs. Il en résulte que des centaines de milliers de personnes dans le monde entier meurent chaque année dans des accidents de voiture. Lorsqu'une voiture autonome fait une erreur, tous les véhicules similaires peuvent l'utiliser pour apprendre. Ces nouvelles voitures sont déjà nées avec toutes les compétences de leurs prédécesseurs et de leurs pairs. Collectivement, ces voitures sont donc capables d'apprendre plus vite que les gens. C'est pourquoi il ne faudra pas longtemps pour que les voitures autonomes rejoignent celles conduites par les humains, en continuant à apprendre des erreurs du groupe [...] Des outils d'intelligence artificielle très sophistiqués nous permettront d'apprendre des expériences des autres. [xvii]

À la fin des années 1910, les gourous des multinationales du capitalisme de surveillance ont défini de nouveaux bonds en avant, passant d'un monde basé sur les technologies mobiles[xviii] dans le nuage à un monde, toujours dans le nuage, mais basé sur les nouveaux paradigmes de l'intelligence artificielle. L'IA permet aux machines, grâce à des algorithmes sophistiqués capables d'auto-muter avec un processus incrémental et rétroactif (s'améliorant pas à pas en fonction de la réponse obtenue), d'apprendre de manière autonome et d'interagir avec le monde physique. L'ampleur du saut est insensée ! Si nous le relions au concept plus étendu de réseau, nous allons définir un cerveau mondial automatique, où chaque neurone est une machine et les synapses sont les connexions du réseau au niveau planétaire. Une puissance non seulement de simple calcul, mais un véritable esprit défini par Zuboff comme un esprit de ruche[xix] capable d'évoluer et de travailler à l'unisson : 25 milliards d'appareils peuvent être mobilisés pour nourrir cet esprit. Dans le capitalisme de surveillance basé maintenant sur l'IA, les gens et leurs relations dans leur totalité deviennent des objets, de la nourriture pour l'esprit de la ruche. Si auparavant, derrière les données, comme nous l'avons vu, les humains cataloguaient, saisissaient, filtraient, etc. ; aujourd'hui, le processus est défini selon les paradigmes de l'intelligence artificielle : ce sont les machines elles-mêmes qui recueillent les informations, puis les traitent selon d'obscurs algorithmes incrémentaux. Nadella, le PDG de Microsoft, s'est taillé une aura particulière dans ce domaine, en tant que prêtre de l'IA. Mais ce nouveau niveau représente l'évolution naturelle vers la soumission totale de l'être humain et non sa libération, comme le prêche à tort le clergé de la surveillance.

Zuboff emprunte la théorie de la société instrumentée de Pentland à travers son ouvrage de 2014, Social Physics [xx]. Le principe cardinal de cette théorie affirme que "les phénomènes sociaux ne sont que l'agrégation de milliards de petites transactions entre individus [...] Les grandes données nous permettent de voir toute la complexité de la société, à travers des millions de réseaux d'échanges entre individus. Si nous pouvions nous équiper du regard omniprésent de Dieu, nous pourrions théoriquement arriver à une réelle compréhension de la société et travailler à résoudre ses problèmes".[xxi] Comme on peut le voir, cette théorie alimente les prodromes de l'intelligence artificielle. La réduction de l'être humain à un centre pulsant de transactions génériques, et ce réseau de machines d'auto-apprentissage capable de remplacer toute expérience humaine, tire précisément son fondement idéologique de la théorie de Pentland. En fait, pour la société instrumentalisée, l'individualité est une menace, un obstacle problématique qui détourne l'énergie de la "collaboration", de l'"harmonie", de l'"intégration". Pentland exprime le concept encore plus clairement : "notre société est régie par une intelligence collective dérivée des courants d'exemples et d'idées environnants, et non par la rationalité individuelle [...] Il est temps de se débarrasser de l'idée fausse selon laquelle les individus sont l'unité de la rationalité, en reconnaissant que celle-ci est plutôt déterminée principalement par le tissu social"[xxii]. Tous ces concepts ont été rappelés avec passion lors d'une conférence organisée par Google, où le Pentland, accueilli par des applaudissements nourris, a rappelé que le monde numérique est fortement enclin à accepter l'obsolescence de l'individu. Comme par le passé, lorsque les nouveaux moyens de production industrielle étaient utilisés pour façonner la société dans son ensemble, le capitalisme de surveillance définit de nouveaux modèles de comportement social, tout en modifiant les comportements collectifs et individuels contrôlés par une petite oligarchie de spécialistes de la surveillance. Toujours selon M. Pentland, Facebook est le prototype idéal dans lequel ses récentes théories sociales prennent forme.

Facebook, Instagram, TikTok et d'autres médias sociaux exercent une attraction magnétique sur les jeunes, les poussant à des comportements mécaniques et involontaires. Beaucoup d'entre eux ont même un comportement compulsif. Le modèle qui a réellement inspiré les créateurs de Facebook est le jeu de casino. La modélisation de nouvelles machines à sous, au design attrayant et à l'ergonomie avancée, a fait de l'industrie du jeu une véritable affaire de milliards de dollars. Des machines à sous conçues pour l'immersion totale du joueur, et pour son implication totale. Les résultats ont immédiatement été observés avec des manifestations d'addiction ou des maladies répandues dans le domaine du jeu. Facebook a été modelé pour être similaire à la dernière génération de machines à sous. En fait, les médias sociaux devaient créer une dépendance, être immédiatement stimulants, aliénants et automatisants et, comme l'un de ses fondateurs, Sean Parker, a dû dire : "Facebook a été conçu pour détourner ses utilisateurs le plus de temps possible, il doit surtout fournir un peu de dopamine de temps en temps, afin de garder les utilisateurs collés" [xxiii].

La manifestation la plus concrète de ce principe est l'apparition du bouton LIKE, le bouton I like est devenu l'un des meilleurs vecteurs pour obtenir des informations prédictives, comportementales et de profilage des utilisateurs. La portée sociale de ce simple bouton a été écrasante. Vivre toujours sous le regard d'autrui, être suivi par des centaines de milliers d'yeux, être alimenté par des capteurs, des faisceaux, des ondes qui enregistrent tout, est un phénomène totalement nouveau. Le rythme incessant, l'intensité et la portée de ces regards créent un flux continu d'évaluations qui font monter et descendre la valeur sociale d'une personne d'un simple clic ! Facebook, en plus d'être une grande multinationale du capitalisme de surveillance, est la plus grande expérience sociale conçue pour modifier et orienter le comportement des masses, à tel point qu'elle conditionne le comportement des individus dans la vie réelle en fonction des préférences qu'ils reçoivent. Derrière tout cela, il y a un algorithme intelligent appelé FBLearnerFlow, un moteur prédictif capable de traiter et de cataloguer des milliards de données comportementales et de décrire le prochain comportement de millions, de milliards d'utilisateurs.

Des politiques commerciales entières, même des programmes à long terme d'États comme la Chine, sont définies sur la base d'informations comportementales traitées par l'intelligence artificielle avec des algorithmes d'auto-apprentissage. La vision du gouvernement chinois semble animée par une ambition impossible, mais en réalité bien réalisée, surtout maintenant, à l'ère Covid19 : le grand rêve d'une connaissance totale et d'une certitude irréprochable, médiatisé par des algorithmes qui filtrent un flux perpétuel de données, provenant de sources publiques et privées, telles que des expériences en ligne, hors ligne et de toutes sortes, puis rebondissant dans la vie quotidienne de milliards de personnes, grâce à l'automatisation des comportements sociaux gérés par des algorithmes. Même dans les relations internationales, surtout lorsque les protagonistes sont des blocs comme la Chine et les États-Unis d'Amérique, les sociétés de surveillance multinationales peuvent devenir une source de friction. Et ce ne sont certainement pas des questions de droits d'auteur sur les données. La plateforme chinoise TikTok, un réseau social avec un fort contenu photo et vidéo et des millions d'utilisateurs dans le monde, a été accusée par Trump d'espionner et d'accumuler des données américaines sensibles. Mais derrière elle se cache une guerre de contrôle des données, et plus généralement de l'information, de millions d'utilisateurs américains, il en serait évidemment de même pour Google, Facebook, Apple, Microsoft, etc. opérant sur le sol chinois. En bref, les données permettent de définir les nouvelles frontières des guerres impérialistes. Il en va de même pour le réseau 5G, la cinquième génération de systèmes de transmission de données ; appareil fondamental pour l'évolution de l'intelligence artificielle, ce n'est pas un hasard, en effet, le chinois Huawei, qui fabrique ces systèmes, a été interdit par Trump. Il semble évident que celui qui contrôle les voies de transmission des données a un avantage décisif sur tous les autres, et les appareils de Huawei s'emparent de tous les points névralgiques de la transmission des réseaux mobiles. Huawei est en avance sur toutes les autres multinationales du secteur, telles que Nokia ou Ericsson. Et de nombreux États se dotent de ce type d'infrastructure technologique. En bref, une nouvelle tranchée dans la guerre entre la Chine et les États-Unis.

 

 

Conclusions (binaire)

Les livres, souvent, ont leurs graines dans les conclusions. L'œuvre de Zuboff n'échappe pas à cette règle non écrite. Alors, à quel genre de conclusions arrivons-nous après environ 600 pages ? Nous les trouvons limpides, sûrs, implacables dans le paragraphe : "Surveillance du capitalisme et de la démocratie". En fait, on lit :

le pouvoir d'instrumentalisation a tiré sa force en ignorant l'humanité entière autant que la démocratie. Aucune loi ne peut nous protéger de ce qui est sans précédent, et les sociétés démocratiques sont sans défense face à ce nouveau pouvoir [...] la démocratie est peut-être assiégée, mais nous ne pouvons pas laisser ses blessures nous détourner de nos devoirs envers elle. C'est précisément en réponse à ce dilemme que Piketty refuse de s'avouer vaincu, arguant que même les dynamiques d'accumulation de pouvoir les plus "anormales" ont été et peuvent encore être atténuées par des institutions démocratiques capables d'élaborer des contre-mesures durables et efficaces... [xxiv]

Shoshana Zuboff, dans son travail, cite souvent Thomas Piketty, en fait, pour les deux c'est le capitalisme (industriel, financier, de surveillance) qui est en train de couler la démocratie. Les dernières considérations du livre s'articulent autour de ces concepts. L'écrivain américain s'indigne parce que l'essence même du capitalisme de surveillance avilit la dignité humaine. L'humanité (en général) devrait donc redécouvrir l'indignation et le sentiment de deuil pour ce que le capitalisme nous "vole". Avant de mettre le point final, le tonnerre :

Le mur de Berlin est tombé pour de nombreuses raisons, mais surtout parce que les citoyens de Berlin-Est ont dit "assez". Nous aussi, nous pouvons apporter de grandes et belles choses nouvelles qui nous permettent de revendiquer l'avenir numérique comme une maison pour l'humanité. Assez ! Ce doit être notre déclaration. [xxv]

Et avec cette dernière exhortation, le livre se termine.

Il nous arrive souvent de lire des ouvrages bien développés qui apportent objectivement des informations et des considérations intéressantes. Malheureusement, beaucoup de ces travaux, face à des analyses précises sur les nombreuses failles du capitalisme dénoncées, se cachent derrière des concepts devenus obsolètes et peu concrets, comme la "démocratie", ou des concepts génériques comme la "liberté". Le livre de Zuboff n'échappe pas à cette règle. La nature même du capitalisme de surveillance démontre - plastiquement - le manque de fiabilité des institutions démocratiques "blessées" et collusoires. Un contexte capitaliste, le contexte actuel, où la synergie entre la branche industrielle, la branche financière spéculative et la branche de surveillance représente trois têtes de noeud d'un même corps, celui du Capital et de ses lois. Le développement de la technologie suit des impulsions antagonistes à la baisse du taux de profit. Et leur développement, sous la forme connue jusqu'à présent, n'est pas un fait fortuit, ni même divin, il prend cette forme parce que la classe capitaliste (et la bourgeoisie de surveillance) décide de sa direction, en gardant le contrôle des moyens de production, de la connaissance technologique, et de l'imposition de l'idéologie dominée au prolétariat mondial. Si les instruments de surveillance, tels que décrits par Zuboff, sont devenus aussi sophistiqués et totalisants dans le contrôle de la société, c'est parce que le prolétariat est devenu une masse étendue à l'échelle mondiale, et que son contrôle dans les plus petits interstices est fondamental pour la classe bourgeoise. Il suffit de regarder les conditions actuelles des travailleurs chinois, qui sont devenus le "fourrage des machines"[xxvi] sur la chaîne de montage, et les conditions dans lesquelles le reste du prolétariat chinois travaille. Nous savons que le but de ce livre n'est pas d'analyser le capitalisme dans son ensemble, mais de se concentrer sur une tête du monstre, celle de la surveillance. Mais pour nous, communistes révolutionnaires, qui faisons historiquement des aspects du Capital dans son ensemble une raison d'étude et d'approfondissement, nous ne pouvons pas pour cette raison considérer le capitalisme de surveillance comme un processus à part et détaché du processus plus général de l'accumulation. Peu importe que M. Zuckerberg ait commencé avec un petit capital initial et ait créé une plateforme à partir de rien, de nombreux capitalistes des XIXe et XXe siècles ont suivi cette voie initiale, ce qui importe pour nous, c'est la dynamique générale dans laquelle s'inscrit Facebook et la façon dont cet outil est nécessaire à la classe bourgeoise précisément dans les formes et le fond décrits par Zuboff. L'atomisation de la personne et son isolement est une nécessité économique et un contrôle social. La réorganisation générale du travail, à l'échelle mondiale, fragmentée en tâches, distribuée et robotisée, nécessite des infrastructures fortement connectées et capables de travailler en synergie d'un bout à l'autre du globe. Mais plus que cela, avec l'intelligence artificielle, nous avons des machines qui peuvent prendre des décisions et penser : de la chaîne de montage aux entrepôts d'Amazon, de la caissière de supermarché à la conduite sans conducteur. Beaucoup de travail a été réorganisé, même au milieu de la pandémie toujours en cours. En fait, de nombreuses personnes travaillent à domicile[xxvii] grâce au télétravail ou au "travail intelligent"[xxviii]. Tous ces outils de surveillance s'inscrivent donc dans un contexte plus large qui est celui de la réorganisation continue et globale du travail. Mais aussi les exploités dans le secteur de la circulation des marchandises, de la livraison, de l'acheminement des colis ou des aliments, sont contrôlés par des machines à intelligence artificielle, par des algorithmes qui décident au centième de seconde des heures et des lieux de livraison.

Le "capitalisme de surveillance" représente la dernière étape d'un processus qui a certainement commencé en Angleterre à la fin du XVIIIe siècle et qui se poursuivra indéfiniment pendant longtemps, dégradant encore plus l'humanité, à moins que n'intervienne celui qui, historiquement, devrait faire faire le saut à l'humanité, c'est-à-dire le prolétariat avec la révolution communiste. Nous sommes conscients que le chemin devient de plus en plus difficile et en même temps contraignant et nécessaire, mais nous ne voyons pas d'autre voie.

[i]      Welcome to the Machine est une chanson de Pink Floyd, qui figure sur l'album Wish You Were Here de 1975.

[ii]     Shoshana Zuboff, Capitalisme de surveillance. L'avenir de l'humanité à l'ère des nouvelles puissances. Année Première édition Octobre 2019, édition Luiss University Press, traducteur Paolo Bassotti, Pages : 622 p., Broché.

[iii]   Zuboff propose huit définitions du capitalisme de surveillance. Ils sont énoncés au début du livre, avant l'introduction.

[iv]    Jonathan Crary, Le capitalisme à l'assaut du sommeil, 24 heures sur 24, 7 jours sur 7. Année 2013, édition Einaudi "The Mavericks".

[v]     Référence livre cité page 21

[vi]    Référence livre cité page 26

[vii]  Référence livre cité page 42

[viii] La relation capitaliste a pour présupposé la séparation entre les travailleurs et la propriété des conditions dans lesquelles le travail est effectué. Une fois autonome, la production capitaliste non seulement maintient cette séparation, mais la reproduit à une échelle toujours plus grande. Le processus qui crée la relation capitaliste ne peut donc être autre chose que le processus de séparation de la propriété de ses propres conditions de travail, un processus qui, d'une part, transforme les moyens sociaux de subsistance et de production en capital et, d'autre part, transforme les producteurs directs en travailleurs salariés. Par conséquent, la soi-disant accumulation originale n'est rien d'autre que le processus historique de séparation du producteur des moyens de production. Elle apparaît "originale" parce qu'elle constitue la préhistoire du capital et du mode de production qui lui correspond. K. Marx, "Capital", I, section VII, chap. 24, édition Editori Riuniti, octobre 1997.

[ix]    Référence livre cité page 105.

[x]            "Les plus grandes entreprises selon le marché des flics aujourd'hui", Les chiens du Dow 2017.

[xi]           "Qu'est-ce que Street View ?", www.google.it/streetview/ .

[xii]  Hunter, Zaman, Liu, "Global top 100 companies by Market Capitalization", Financial Times.

[xiii] Julia Kollewe, "Google et Facebook rapportent un cinquième des recettes publicitaires mondiales", The Guardian.

[xiv] Référence du livre page 226.

[xv]   En Allemagne, en 2017, l'Agence fédérale des réseaux a interdit la vente de la poupée et a exhorté les parents en sa possession à la détruire !

[xvi] À cet égard, l'épisode de "Presa Diretta" du journaliste de la Rai Riccardo Iacona, diffusé le 10 février 2020, intitulé Tutti spiati ? Un autre documentaire diffusé sur la plateforme payante Netflix, intitulé The Great Hack - Privacy Violated (The Great Hack) 2019, parle plus en détail du scandale Facebook-Cambridge Analytica.

[xvii] Eric Schmidt e Sebastian Thrun, "Let's stop Freaking Out About Artificial Intelligence" Fortune, 28 giugno 2016.

[xviii]       Le nuage, en italien "nuvola", est un agrégat étendu de données et de services toujours actifs et accessibles de n'importe quel endroit. Grâce aux nuages, de nombreuses entreprises peuvent utiliser des services et des programmes par le biais de connexions, et bénéficier d'applications qui, autrement, coûteraient des ressources économiques considérables. Ces services, données, programmes sont distribués sur des serveurs et la puissance de ceux-ci dans le réseau est utilisée principalement pour des applications et des capacités importantes. Les nuages sont à la base du développement de l'intelligence artificielle.

[xix] Référence du livre au chapitre 14.

[xx]   Pentland, Physique sociale.

[xxi] Ivi, cité, p. 10-11, 12

[xxii] Pentland, "The Death of Individuality", cit.

[xxiii]       Alex Hern, "Why Social Media Bosses Dont'Use Social Media", The Guardian 23 janvier 2018

[xxiv]       Référence du livre p. 531, 533.

[xxv] Référence du livre page 539.

[xxvi]       Alimentation par machine, Institut Onorato Damen.

[xxvii]      Laura Ruocco, Qui est le plus intelligent, le travailleur ou le capital ? DMD' Special Issue #15 "La crise n'est pas virale, c'est celle du capital".

[xxviii]    Un travail intelligent, un travail littéralement agile. Mode de relation de travail caractérisé par l'absence de contraintes de temps, de cycles préétablis, de lieux de travail et de contrats permanents ou à durée indéterminée.