L'ère du capitalisme de surveillance, Shoshana Zuboff (revue de web 2/3)

Les listes à puces sont des citations des articles.

Définitions du capitalisme de surveillance, Christophe Masutti, 15 nov 2018

"Notre quotidien est enregistré, mesuré, considéré comme une somme de procédures dont la surveillance consiste à transformer l’apparent chaos (et notre diversité) en ordre. Tous les acteurs économiques et institutionnels y ont un intérêt. Pour beaucoup, c’est d’un nouveau capitalisme qu’il s’agit : le capitalisme de surveillance. Mais peut-on lui donner une définition claire ? Je vais essayer…"

•     Nick Srnicek se penche sur les changements des modèles capitalistes dans leurs rapports aux technologies. Pour N. Srnicek, les technologies de l’information ne sont pas uniquement des leviers d’augmentation de productivité, mais elle conditionnent aussi une économie de plateformes rendue possible par l’essor des infrastructures numériques des années 1990, combinée à une baisse de rendement de l’industrie manufacturière. 


•     B. Foster et R. W. McChesney, initiateurs du concept de capitalisme de surveillance :
•     Le capitalisme de surveillance est une résurgence hégémonique de l’esprit de la politique nord-américaine sur les trois axes : militaire (maintenir des états de guerre pour le contrôle des pays), financier (les clés de l’économie mondiale) et marketing (assurer la propagande).

•     S. Zuboff s’intéresse aux pratiques et propose une conception systémique du capitalisme de surveillance à partir de ses manifestations économiques et sociales. Pour cela, elle propose un point de vue holistique et une définition qui est en même temps un programme d’analyse et un questionnement sur l’économie de nos jours. 

•     Capitalisme de surveillance :

1. un nouvel ordre économique qui revendique le vécu humain comme matière première gratuite pour des pratiques commerciales occultes d’extraction, de prévision et de vente ;
2. une logique économique parasitaire dans laquelle la production de biens et de services est subordonnée à une nouvelle architecture globale de modification des comportements ;
3. un type de capitalisme malhonnête, sans précédent dans l’histoire humaine, caractérisé par une concentration des richesses, des connaissances et du pouvoir ;
4. le cadre fondateur d’une économie de surveillance ;
5. une menace aussi grave pour la nature humaine au XXIe siècle que le capitalisme industriel des XIXe et XXe siècles l’était pour le monde naturel ;
6. la source d’un nouveau pouvoir instrumental qui affirme sa domination sur la société et impose des défis déconcertants à la démocratie de marché ;
7. un mouvement qui vise à imposer un nouvel ordre collectif qui repose sur une certitude absolue ;
8. une spoliation des droits humains essentiels, que l’on peut comprendre au mieux comme un putsch venu d’en haut, un renversement de la souveraineté populaire.

•     Je pose ainsi que les pratiques de surveillance sont :
•     les procédés techniques les plus automatisés possible qui consistent à récolter et stocker, à partir des individus, de leurs comportements et de leurs environnements, des données individuelles ou collectives à des fins d’analyse, d’inférence, de quantification, de prévision et d’influence.
•     L’histoire du capitalisme de surveillance est celle des transformations sociales que l’informatisation a rendu possibles depuis les années 1960 à nos jours en créant des modèles économiques basés sur le traitement et la valorisation des données personnelles. La prégnance de ces modèles ajoutée à une croissance de l’industrie et des services informatiques a fini par créer un marché hégémonique de la surveillance. Cette hégémonie associée à une culture consumériste se traduit dans plusieurs contextes : l’influence des consommateurs par le marketing, l’automatisation de la décision, la réduction de la vie privée, la segmentation sociale, un affaiblissement des politiques, un assujettissement du droit, une tendance idéologique au solutionnisme technologique. Il fait entrer en crise les institutions et le contrat social.
•      Du point de vue de ses mécanismes, le capitalisme de surveillance mobilise les pratiques d’appropriation et de capitalisation des informations pour mettre en œuvre le régime disciplinaire de son développement industriel (surveillance des travailleurs) et l’ordonnancement de la consommation (surveillance et influence des consommateurs). Des bases de données d’hier aux big datas d’aujourd’hui, il permet la concentration de l’information, des capitaux financiers et des technologies par un petit nombre d’acteurs tout en procédant à l’expropriation mercantile de la vie privée du plus grand nombre d’individus et de leurs savoirs

Google, nouvel avatar du capitalisme, celui de la surveillance, Shoshana Zuboff, Framablog. 28 mars 2017.

"le capitalisme de surveillance dépasse les États ou toute forme de centralisation du pouvoir. Il est informel et pourtant systémique. Shoshana Zuboff nous donne les clés pour appréhender ces processus globaux, partagé par certaines firmes, où l’appropriation de l’information sur les individus est si totale qu’elle en vient à déposséder l’individu de l’information qu’il a sur lui-même, et même du sens de ses actions."

•     Avec la fin du XXe siècle, nous avons aussi vu la fin du (néo)libéralisme dans ce qu’il avait d’utopique, à savoir l’idée (plus ou moins vérifiée) qu’en situation d’abondance, chacun pouvait avoir la chance de produire et capitaliser. Cet égalitarisme, sur lequel s’appuient en réalité bien des ressorts démocratiques, est mis à mal par une nouvelle forme de capitalisme : un capitalisme submergé par des monopoles capables d’utiliser les technologies de l’information de manière à effacer la « libre concurrence » et modéliser les marchés à leurs convenances. La maîtrise de la production ne suffit plus : l’enjeu réside dans la connaissance des comportements.
•     « (Big Other) est un régime institutionnel, omniprésent, qui enregistre, modifie, commercialise l’expérience quotidienne, du grille-pain au corps biologique, de la communication à la pensée, de manière à établir de nouveaux chemins vers les bénéfices et les profits. Big Other est la puissance souveraine d’un futur proche qui annihile la liberté que l’on gagne avec les règles et les lois. »
•     Le capital, ce n’est plus le bien ou le stock (d’argent, de produits, de main-d’oeuvre etc.), c’est le comportement et la manière de le renseigner, c’est à dire l’information qu’une firme comme Google peut s’approprier.

•     « Le but de tout ce que nous faisons est de modifier le comportement des gens à grand échelle. Lorsque les gens utilisent notre application, nous pouvons cerner leurs comportements, identifier les bons et les mauvais comportements, et développer des moyens de récompenser les bons et punir les mauvais. Nous pouvons tester à quel point nos indices sont fiables pour eux et rentables pour nous. »
•     Le capitalisme de surveillance est une mutation économique nouvelle, issue de l’accouplement clandestin entre l’énorme pouvoir du numérique avec l’indifférence radicale et le narcissisme intrinsèque du capitalisme financier, et la vision néolibérale qui a dominé le commerce depuis au moins trois décennies, en particulier dans les économies anglo-saxonnes. C’est une forme de marché sans précédent dont les racines se développent dans un espace de non-droit.
•     Google est le vaisseau amiral et le prototype d’une nouvelle logique économique basée sur la prédiction et sa vente, un métier ancien et éternellement lucratif qui a exploité la confrontation de l’être humain avec l’incertitude depuis le début de l’histoire humaine.

•     La certitude de l’incertitude est à la fois une source durable d’anxiété et une de nos expériences les plus fructueuses. Elle a produit le besoin universel de confiance et de cohésion sociale, des systèmes d’organisation, de liaison familiale, et d’autorité légitime, du contrat comme reconnaissance formelle des droits et obligations réciproques, la théorie et la pratique de ce que nous appelons « le libre arbitre ».
•     Les utilisateurs ne sont plus une fin en soi. Au contraire, ils sont devenus une source de profit d’un nouveau type de marché dans lequel ils ne sont ni des acheteurs ni des vendeurs ni des produits. Les utilisateurs sont la source de matière première gratuite qui alimente un nouveau type de processus de fabrication.
•     Voici comment dans nos propres vies nous observons le capitalisme se déplacer sous nos yeux : au départ, les bénéfices provenaient de produits et services, puis de la spéculation, et maintenant de la surveillance. Cette dernière mutation peut aider à expliquer pourquoi l’explosion du numérique a échoué, jusqu’à présent, à avoir un impact décisif sur la croissance économique, étant donné que ses capacités sont détournées vers une forme de profit fondamentalement parasite.
•     Exiger le droit à la vie privée à des capitalistes de la surveillance ou faire du lobbying pour mettre fin à la surveillance commerciale sur l’Internet c’est comme demander à Henry Ford de faire chaque modèle T à la main.
•     Ces exigences sont des menaces existentielles qui violent les mécanismes de base de la survie de l’entité. Comment pouvons-nous nous espérer que des entreprises dont l’existence économique dépend du surplus du comportement cessent volontairement la saisie des données du comportement ?
•     Nous avons besoin de nouvelles interventions qui interrompent, interdisent ou réglementent : 1) la capture initiale du surplus du comportement, 2) l’utilisation du surplus du comportement comme matière première gratuite, 3) des concentrations excessives et exclusives des nouveaux moyens de production, 4) la fabrication de produits de prévision, 5) la vente de produits de prévision, 6) l’utilisation des produits de prévision par des tiers pour des opérations de modification, d’influence et de contrôle, et 5) la monétisation des résultats de ces opérations. Tout cela est nécessaire pour la société, pour les personnes, pour l’avenir, et c’est également nécessaire pour rétablir une saine évolution du capitalisme lui-même.
•     Le capitalisme de surveillance évoque un pouvoir profondément anti-démocratique que l’on peut qualifier de coup d’en haut : pas un coup d’état, mais plutôt un coup contre les gens, un renversement de la souveraineté du peuple. Il défie les principes et les pratiques de l’autodétermination – dans la vie psychique et dans les relations sociales, le politique et la gouvernance –

Un capitalisme de surveillance, Shoshana Zuboff, Le Monde diplomatique, janv 2019

"L’industrie numérique prospère grâce à un principe presque enfantin : extraire les données personnelles et vendre aux annonceurs des prédictions sur le comportement des utilisateurs. Mais, pour que les profits croissent, le pronostic doit se changer en certitude. Pour cela, il ne suffit plus de prévoir : il s’agit désormais de modifier à grande échelle les conduites humaines."

•     La logique d’accumulation qui assurera la réussite de Google apparaît clairement dans un brevet déposé en 2003 par trois de ses meilleurs informaticiens, intitulé : « Générer des informations utilisateur à des fins de publicité ciblée ». La présente invention, expliquent-ils, vise « à établir les informations de profils d’utilisateurs et à utiliser ces dernières pour la diffusion d’annonces publicitaires  ». En d’autres termes, Google ne se contente plus d’extraire des données comportementales afin d’améliorer les services. Il s’agit désormais de lire dans les pensées des utilisateurs afin de faire correspondre des publicités avec leurs intérêts. Lesquels seront déduits des traces collatérales de leur comportement en ligne. La collecte de nouveaux jeux de données appelés « profil utilisateur »  va considérablement améliorer la précision de ces prédictions.
•     D’où proviennent ces informations ? Pour reprendre les mots des détenteurs du brevet, elles « pourront être déduites ». Leurs nouveaux outils permettent de créer des profils par l’intégration et l’analyse des habitudes de recherche d’un internaute, des documents qu’il demande ainsi que d’une myriade d’autres signaux de comportement en ligne, même lorsqu’il ne fournit pas directement ces renseignements. Un profil, préviennent les auteurs, « peut être créé (ou mis à jour, ou élargi) même lorsque aucune information explicite n’est donnée au système ». Ainsi manifestent-ils leur volonté de surmonter les éventuelles frictions liées aux droits de décision de l’utilisateur, ainsi que leur capacité à le faire.
•     L’invention de Google met au jour de nouvelles possibilités de déduire les pensées, les sentiments, les intentions et les intérêts des individus et des groupes au moyen d’une architecture d’extraction automatisée qui fonctionne comme un miroir sans tain, faisant fi de la conscience et du consentement des concernés. Cet impératif d’extraction permet de réaliser des économies d’échelle qui procurent un avantage concurrentiel unique au monde sur un marché où les pronostics sur les comportements individuels représentent une valeur qui s’achète et se vend. Mais surtout, le miroir sans tain symbolise les relations sociales de surveillance particulières fondées sur une formidable asymétrie de savoir et de pouvoir.
•     L’économie de surveillance repose sur un principe de subordination et de hiérarchie. L’ancienne réciprocité entre les entreprises et les utilisateurs s’efface derrière le projet consistant à extraire une plus-value de nos agissements à des fins conçues par d’autres — vendre de la publicité. Nous ne sommes plus les sujets de la réalisation de la valeur. Nous ne sommes pas non plus, comme d’aucuns l’ont affirmé, le « produit » que vend Google. Nous sommes les objets dont la matière est extraite, expropriée, puis injectée dans les usines d’intelligence artificielle de Google qui fabriquent les produits prédictifs vendus aux clients réels : les entreprises qui paient pour jouer sur les nouveaux marchés comportementaux.
•     « Si nous avions une catégorie, méditait M. Larry Page, cofondateur de l’entreprise, ce serait les informations personnelles (…). Les endroits qu’on a vus. Nos communications (…). Les capteurs ne coûtent rien (…). Le stockage ne coûte rien. Les appareils photographiques ne coûtent rien. Les gens vont générer d’énormes quantités de données (…). Tout ce que vous aurez entendu, vu ou éprouvé deviendra consultable. Votre vie entière deviendra consultable.  »

•     La vision de M. Page offre un fidèle reflet de l’histoire du capitalisme, qui consiste à capter des choses extérieures à la sphère commerciale pour les changer en marchandises. Dans son essai La Grande Transformation, publié en 1944, l’économiste Karl Polanyi décrit l’avènement d’une économie de marché autorégulatrice à travers l’invention de trois « marchandises fictives ». Premièrement, la vie humaine subordonnée aux dynamiques de marché et qui renaît sous la forme d’un « travail » vendu et acheté. Deuxièmement, la nature convertie en marché, qui renaît comme « propriété foncière ». Troisièmement, l’échange devenu marchand et ressuscité comme « argent ».
•     Les détenteurs actuels du capital de surveillance ont créé une quatrième marchandise fictive, extorquée à la réalité expérimentale d’êtres humains dont les corps, les pensées et les sentiments sont aussi intacts et innocents que l’étaient les prairies et forêts dont regorgeait la nature avant son absorption par le marché. Conformément à cette logique, l’expérience humaine se trouve marchandisée par le capitalisme de surveillance pour renaître sous forme de « comportements ». Traduits en données, ces derniers prennent place dans l’interminable file destinée à alimenter les machines conçues pour en faire des prédictions qui s’achètent et se vendent.
•     La première vague de produits prédictifs fut portée par l’excédent de données extraites à grande échelle sur Internet afin de produire des annonces en ligne « pertinentes ». À l’étape suivante, il fut question de la qualité des prédictions. Dans la course à la certitude maximale, il apparut clairement que les meilleures prédictions devraient s’approcher le plus possible de l’observation. À l’impératif d’extraction s’ajouta une deuxième exigence économique : l’impératif de prédiction.
•     L’excédent de données comportementales doit être non seulement abondant, mais également varié. Obtenir cette variété impliquait d’étendre les opérations d’extraction du monde virtuel au monde réel, là où nous menons notre « vraie » vie. Les capitalistes de surveillance comprenaient que leur richesse future passait par le développement de nouvelles chaînes d’approvisionnement sur les routes, au milieu des arbres, à travers les villes. Ils tenteraient d’accéder à votre système sanguin, à votre lit, à vos conversations matinales, à vos trajets, à votre footing, à votre réfrigérateur, à votre place de parking, à votre salon.
•     Pour obtenir des prédictions comportementales très précises et donc très lucratives, il faut sonder nos particularités les plus intimes. Ces opérations d’approvisionnement visent notre personnalité, nos humeurs, nos émotions, nos mensonges et nos fragilités. Tous les niveaux de notre vie personnelle sont automatiquement captés et comprimés en un flux de données à destination des chaînes de montage qui produisent de la certitude. Accomplie sous couvert de « personnalisation », une bonne part de ce travail consiste en une extraction intrusive des aspects les plus intimes de notre quotidien.
•     Nos maisons sont dans la ligne de mire du capitalisme de surveillance. Des entreprises spécialisées se disputaient en 2017 un marché de 14,7 milliards de dollars pour des appareils ménagers connectés, contre 6,8 milliards l’année précédente. À ce rythme-là, le montant atteindra 101 milliards de dollars en 2021.
•     Le moyen le plus sûr de prédire le comportement reste d’intervenir à la source : en le façonnant. J’appelle « économies de l’action » ces processus inventés pour y parvenir : des logiciels configurés pour intervenir dans des situations réelles sur des personnes et des choses réelles. Toute l’architecture numérique de connexion et de communication est désormais mobilisée au service de ce nouvel objectif. Ces interventions visent à augmenter la certitude en influençant certaines attitudes : elles ajustent, adaptent, manipulent, enrôlent par effet de groupe, donnent un coup de pouce. Elles infléchissent nos conduites dans des directions particulières, par exemple en insérant une phrase précise dans notre fil d’actualités, en programmant l’apparition au moment opportun d’un bouton « achat » sur notre téléphone, en coupant le moteur de notre voiture si le paiement de l’assurance tarde trop
•     « Nous apprenons à écrire la musique, explique un concepteur de logiciels. Ensuite, nous laissons la musique les faire danser. Nous pouvons mettre au point le contexte qui entoure un comportement particulier afin d’imposer un changement... Nous pouvons dire au réfrigérateur : “Verrouille-toi parce qu’il ne devrait pas manger”, ou ordonner à la télé de s’éteindre pour que vous vous couchiez plus tôt. »
•     Les fournisseurs de biens ou de services dans des secteurs bien établis, loin de la Silicon Valley, salivent à leur tour à l’idée des profits issus de la surveillance. En particulier les assureurs automobiles, impatients de mettre en place la télématique — les systèmes de navigation et de contrôle des véhicules. Ils savent depuis longtemps que les risques d’accident sont étroitement corrélés au comportement et à la personnalité du conducteur, mais, jusqu’ici, ils n’y pouvaient pas grand-chose. Un rapport des services financiers du cabinet de conseil Deloitte recommande désormais la « minimisation du risque » (un euphémisme qui, chez un assureur, désigne la nécessité de garantir les profits) à travers le suivi et la sanction de l’assuré en temps réel — une approche baptisée « assurance au comportement ». D’après le rapport de Deloitte, « les assureurs peuvent suivre le comportement de l’assuré en direct, en enregistrant les heures, les lieux et les conditions de circulation durant ses trajets, en observant s’il accélère rapidement ou s’il conduit à une vitesse élevée, voire excessive, s’il freine ou tourne brusquement, s’il met son clignotant ».
•     Les outils télématiques ne visent pas seulement à savoir, mais aussi à agir. L’assurance au comportement promet ainsi de réduire les risques à travers des mécanismes conçus pour modifier les conduites et accroître les gains. Cela passe par des sanctions, comme des hausses de taux d’intérêt en temps réel, des malus, des blocages de moteur, ou par des récompenses, comme des réductions, des bonus ou des bons points à utiliser pour des prestations futures.
•     Spireon, qui se décrit comme la « plus grande entreprise de télématique » dans son domaine, suit et surveille des véhicules et des conducteurs pour les agences de location, les assureurs et les propriétaires de parcs automobiles. Son « système de gestion des dommages collatéraux liés à la location » déclenche des alertes chez les conducteurs qui ont un retard de paiement, bloque le véhicule à distance quand le problème se prolonge au-delà d’une certaine période et le localise en vue de sa récupération.
•     La télématique inaugure une ère nouvelle, celle du contrôle comportemental. Aux assureurs de fixer les paramètres de conduite : ceinture de sécurité, vitesse, temps de pause, accélération ou freinage brusque, durée de conduite excessive, conduite en dehors de la zone de validité du permis, pénétration dans une zone d’accès restreint. Gavés de ces informations, des algorithmes surveillent, évaluent et classent les conducteurs, et ajustent les primes en temps réel. Comme rien ne se perd, les « traits de caractère » établis par le système sont également traduits en produits prédictifs vendus aux publicitaires, lesquels cibleront les assurés par des publicités envoyées sur leur téléphone.

•     Pokémon Go est devenue en une semaine l’application la plus téléchargée et la plus lucrative aux États-Unis, atteignant vite autant d’utilisateurs actifs sur Android que Twitter.
•     TechCrunch, un site spécialisé dans l’actualité des start-up et des nouvelles technologies, exprimait des inquiétudes similaires au sujet de la « longue liste d’autorisations requises par l’application ».
•     En plus des paiements pour des options supplémentaires du jeu, « le modèle économique de Niantic contient une seconde composante, à savoir le concept de lieux sponsorisés »
•     les entreprises « paieront Niantic pour figurer parmi les sites du terrain de jeu virtuel, compte tenu du fait que cette présence favorise la fréquentation ».
•     Les composantes et les dynamiques du jeu, associées à la technologie de pointe de la réalité augmentée, incitent les gens à se rassembler dans des lieux du monde réel pour dépenser de l’argent bien réel dans des commerces du monde réel appartenant aux marchés de la prédiction comportementale de Niantic.
•     L’apogée de Pokémon Go, à l’été 2016, signait l’accomplissement du rêve porté par le capitalisme de surveillance : un laboratoire vivant de la modification comportementale qui conjuguait avec aisance échelle, gamme et action. L’astuce de Pokémon Go consistait à transformer un simple divertissement en un jeu d’un ordre très différent : celui du capitalisme de surveillance — un jeu dans le jeu. Tous ceux qui, rôdant dans les parcs et les pizzerias, ont investi la ville comme un terrain d’amusement servaient inconsciemment de pions sur ce second échiquier bien plus important. Les enthousiastes de cet autre jeu bien réel ne comptaient pas au nombre des agités qui brandissaient leurs portables devant la pelouse de David. Ce sont les véritables clients de Niantic : les entités qui paient pour jouer dans le monde réel, bercées par la promesse de revenus juteux. Dans ce second jeu permanent, on se dispute l’argent que laisse derrière lui chaque membre souriant du troupeau.
•     Les nouveaux instruments internationaux de modification comportementale inaugurent une ère réactionnaire où le capital est autonome et les individus hétéronomes ; la possibilité même d’un épanouissement démocratique et humain exigerait le contraire. Ce sinistre paradoxe est au cœur du capitalisme de surveillance : une économie d’un nouveau genre qui nous réinvente au prisme de son propre pouvoir.