L'ère du capitalisme de surveillance (revue de web 3/3)

Les listes à puces sont des extraits des articles.

L’Age du capitalisme de surveillance, Clément Jeanneau, Signaux Faibles, 9 fév. 2019

 "2019 n’a commencé que depuis quelques semaines mais certains estiment que nous tenons déjà l’un des livres les plus importants de l’année. L’ouvrage en question s’intitule « L’Age du capitalisme de surveillance » et a été écrit par Shoshana Zuboff, professeure émérite à la Harvard Business School. De quel problème s’agit-il ? De l’avènement d’une nouvelle ère du capitalisme, celle de la surveillance, d’abord ouverte par le secteur numérique et en passe de s’étendre largement au-delà. Zuboff porte une vision très noire sur ce basculement, qui menace jusqu’à la démocratie, estime-t-elle."

• Si les idées de Zuboff ne sont pas fondamentalement nouvelles, elle met les mots sur une réalité perçue de façon souvent incomplète voire superficielle. Sa thèse, qui suscitera certainement des critiques tant elle est orientée (voire caricaturale dans sa démonstration, jugeront certains), force néanmoins chacun à se poser des questions clefs et pourtant souvent trop vite évacuées. Comme l’écrit le Wall Street Journal : « l’apport majeur de ce livre est de mettre des mots sur le phénomène en cours, de le replacer dans une perspective culturelle et historique, et de nous inviter à prendre le temps de réfléchir au futur ».
• Après la production de masse, le capitalisme managérial, l’économie des services, le capitalisme financier, nous serions entrés dans une nouvelle ère du capitalisme, fondée sur l’exploitation des prédictions comportementales issues de la surveillance des utilisateurs. En ce sens, The Guardian situe son livre dans « la continuation » des analyses sur le capitalisme produites « par Adam Smith, Max Weber, Karl Polanyi et Karl Marx ».
• Le capitalisme de surveillance s’approprie l’expérience humaine comme matière première gratuite et la traduit en données comportementales.
• intégré dans des processus de « machine intelligence » avancés puis transformés en produits prédictifs qui anticipent ce que vous voudrez faire maintenant, bientôt et plus tard.
• Ainsi, le fameux adage « si c’est gratuit, c’est que vous êtes le produit » est incorrect pour Zuboff.  Au lieu d’être le produit, l’utilisateur est un rouage du véritable produit : les prédictions sur son futur, vendu au plus offrant.
• le capitalisme de surveillance a commencé au début du XXIe siècle avec la publicité en ligne, mais s’étend désormais bien au-delà. Rapidement devenu le modèle par défaut des entreprises de la Silicon Valley, le capitalisme de surveillance n’est aujourd’hui plus limité au secteur numérique, puisqu’il touche, explique Zuboff, de multiples secteurs : assurance, distribution, soins, finance, divertissement, éducation, transports…
• Analyser les données pour prédire les comportements n’était qu’une première étape : la frontière ultime, pour Zuboff, repose sur « les systèmes conçus pour modifier les comportements, afin d’orienter ceux-ci vers des résultats commerciaux désirés ». Elle cite notamment deux exemples en ce sens :
  -les tests de Facebook pour influencer les émotions de leurs utilisateurs en manipulant leurs fils d’actualité
• -le jeu de réalité augmentée Pokémon Go où des joueurs étaient amenés sans en avoir conscience à devoir se rendre dans des magasins (du monde physique) pour capturer des Pokémon. Les concepteurs du jeu avaient créé un système d’enchères destiné aux marques, permettant de guider les joueurs vers celles prêtes à payer le plus cher.
• « Il ne suffit plus d’automatiser les flux d’informations nous concernant ; l’objectif est maintenant de nous automatiser » assène-t-elle, en soulignant les stratégies mises en place pour éviter le consentement des utilisateurs : « ces processus sont méticuleusement conçus pour produire de l’ignorance en contournant la prise de conscience individuelle et en éliminant toute possibilité de libre-arbitre »
• Ce pouvoir d’influencer nos comportements « n’a aucun fondement démocratique ni légitimité morale », juge-t-elle, « puisqu’il usurpe nos droits décisionnels et érode notre autonomie individuelle, pourtant essentielle dans une société démocratique ».
• Par « droits décisionnels », Zuboff entend notre capacité à défendre nos propres futurs, qui se retrouvent aujourd’hui manipulés par les systèmes prédictifs. Enutilisant les services du capitalisme de surveillance, les individus acceptent bien plus que la seule perte de contrôle sur leurs données : ils placent la trajectoire de leur vie, la détermination de leur voie, sous le contrôle du marché
• « La démocratie s’est endormie pendant que les capitalistes de la surveillance ont accumulé une concentration inédite de connaissances et de pouvoir. (…) Nous entrons dans le XXIe siècle marqués par cette profonde inégalité dans la division des apprentissages : ils en savent plus sur nous que nous en savons sur nous-mêmes ou que nous en savons à leur sujet. Ces nouvelles formes d’inégalité sociale sont par nature antidémocratiques. »
• Les conséquences sur la démocratie sont profondes car l’asymétrie de savoir se traduit en asymétrie de pouvoir. Mais là où la plupart des sociétés démocratiques ont un minimum de contrôle sur la surveillance exercée par l’Etat, nous n’avons aujourd’hui pas de contrôle réglementaire sur la surveillance des entreprises privées.
• De multiples questions de fond sont ouvertes par cet ouvrage (qui pèche cependant sur la forme par son style ampoulé, son ton hyperbolique à l’excès, et ses nombreuses répétitions).
• La thèse et les arguments de Zuboff sont évidemment très orientés : le portrait noir qui est dressé des usages des données mériterait de faire valoir un point de vue différent, capable de souligner les aspects plus positifs de ce qui constitue effectivement un changement de paradigme
• Zuboff n’est pas une critique ordinaire du modèle des géants du numérique. Par le passé, elle a par exemple été éditorialiste pour des revues comme Fast Company et Businessweek, « deux bastions du techno-optimisme pas vraiment connus pour leur sentiment anticapitaliste »
• Le basculement de Zuboff en une décennie est tout sauf anecdotique. Il est le signe, ou plutôt la confirmation, que la contestation des géants du numérique n’est plus l’apanage de sphères réfractaires aux innovations technologiques. Que des médias très pro-business comme le Wall Street Journal ou le Financial Times en viennent aujourd’hui à recommander cet ouvrage en dit long.
• Elle juge que le GDPR [règlement sur les protections des données pour tous les citoyens européens mis en place en 2018] est « un bon début », mais réfute l’idée que des politiques antitrust sévères, qui démantèleraient des géants technologiques, puissent régler les causes profondes du problème
• demander aux géants technologiques de protéger notre vie privée serait « comme demander à Henry Ford de fabriquer chaque modèle de Ford T à la main ». Autrement dit, l’autorégulation est un non-sens.

Surveiller et prédire, La Vie des idées, 7 mars 2019

"À propos de : Shoshana Zuboff, The Age of Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power, Public Affairs"

•     Né dans le monde numérique, le « capitalisme de surveillance » s’étend aussi au monde « réel ». À mesure que les individus sont géo-localisés, que leurs processus physiologiques sont mesurés, que leurs émotions sont inférées, que les villes se parent de milliers de capteurs et que les maisons se peuplent d’ « objets intelligents », la totalité du monde est transformée en données.
•     À partir de cette histoire des vingt années écoulées, S. Zuboff propose une théorie générale du « capitalisme de surveillance ». Tout part de la transformation de l’expérience humaine en « données comportementales », grâce aux technologies numériques. Pour l’auteur, il y a là un acte originaire de dépossession : les acteurs du « capitalisme de surveillance » s’approprient notre expérience en l’extrayant des « espaces non-marchands de la vie quotidienne » (p. 139)
•     Le « capitalisme de surveillance » est ainsi le processus qui transforme nos comportements présents en prédictions monnayées de nos comportements futurs.
•     La valeur marchande des produits prédictifs est étroitement corrélée à leur degré de certitude. Pour l’acheteur de ces produits, plus la certitude est élevée, plus le profit est assuré. L’assurance qu’un utilisateur cliquera sur une publicité est préférable à une probabilité élevée, elle-même préférable à une probabilité faible, etc. La logique d’accumulation du « capitalisme de surveillance » tend ainsi vers la recherche de la certitude. Or le moyen le plus sûr de prédire l’avenir reste de le fabriquer, en modelant le comportement des individus. Insensiblement, la fabrication de « produits prédictifs » se mue ainsi en construction de dispositifs de modification comportementale, comme dans Pokémon Go où les joueurs sont poussés à se rendre dans des endroits précis. Le destin du « capitalisme de surveillance » est donc de se transformer en un capitalisme de modification des comportements, bien au-delà des frontières de l’économie numérique.
•     L’auteur insiste ainsi sur la manière dont le « capitalisme de surveillance » met en péril les différentes conquêtes associées à l’émergence historique de l’individu : le respect de l’intériorité, la vie privée, mais aussi la volonté libre, l’auto-détermination et le droit à décider de notre avenir. Le « capitalisme de surveillance » apparaît finalement comme une nouvelle forme de « tyrannie » (p. 513), qui oblitère la délibération politique et détruit l’autonomie individuelle par la manipulation et l’instrumentalisation de nos comportements.
•     le « capitalisme de surveillance » est fondé sur la dépossession de l’expérience
•     Obnubilée par sa volonté de démontrer que le « capitalisme de surveillance » est une perversion du capitalisme, S. Zuboff ne voit pas qu’il en est avant tout une incarnation.
•     Plus que le risque d’une disparition complète de l’individu auto-déterminé, il faudrait alors étudier la précarisation du travail, les nouveaux effets de stratification sociale [5] et les injustices économiques propres à la situation actuelle. C’est ce que S. Zuboff ne fait pas

Jusqu’où sommes-nous épiés ? Sylvie Gendreau, 14 mars 2019

•     Le capitalisme de surveillance doit son existence à un réseau généralisé et mondialisé de transactions effectuées à partir de téléphones, de tablettes et d’ordinateurs.
•     Il est constitué d’innombrables dispositifs d’extractions de données, de marchandisation et de contrôle qui ont pour effet d’objectiver un individu, modélisant son comportement actuel et prévoyant son comportement futur.
•     une technologie n’est pas neutre. Elle se développe et évolue selon une logique institutionnelle.
•     Actuellement, les technologies numériques transactionnelles se développent dans le but (pas toujours avoué) de connaître, contrôler et modifier le comportement des utilisateurs afin de mettre en marché de nouveaux produits et services, de monétiser et de contrôler.
•     Google et ses pairs font tout ce qu’ils peuvent pour rendre leurs pratiques les moins transparentes possible. Si on tente de leur barrer la route, les entreprises déploient des ressources considérables pour défendre les territoires qu’elles ont déjà conquis.
•     Le capitalisme de surveillance a pris racine en opérant rapidement, espérant demeurer indétectable le plus longtemps possible. Il existe actuellement une forte asymétrie de connaissances et de droits – les droits réels, c’est-à-dire ceux que l’on peut espérer faire valoir devant une cour de justice avec le service d’avocats expérimentés, mais dont les honoraires sont trop élevés pour que la majorité des citoyens puissent y avoir recours.
•     l’utilisateur a développé une dépendance très forte aux nouvelles technologies numériques, devenues au fil des ans des instruments indispensables de participation sociale et économique.
•     Le capitalisme de surveillance a des répercussions sociales et politiques considérables :
•     La démocratie, considérée comme étant un facteur de prospérité, est perçue, au contraire, comme une menace, risquant de compromettre les revenus provenant de la surveillance.
•     La frontière entre les agences gouvernementales chargées de la sécurité et les grandes entreprises du capitalisme de surveillance devient de plus en plus poreuse.
•     Impossible d’imaginer notre vie sans Facebook sans avoir le sentiment de manquer quelque chose d’important. Les journalistes, en cherchant des solutions à l’emprise des entreprises privées sur notre liberté d’expression, affirmaient également que se retirer des médias sociaux n’était déjà plus possible, car cela signifierait se mettre à l’écart de la société.

Bienvenue dans l'ère du capitalisme de surveillance, France Culture, 7 mars 2019

"Shoshana Zuboff développe, dans son dernier ouvrage, l'idée d'un capitalisme de surveillance, qui aurait remplacé le capitalisme industriel, et dont l'originalité serait d'orienter et d'exploiter nos préférences personnelles à son profit."

•     Shoshana Zuboff prend également l’exemple de Pokémon Go, jeu sur téléphone portable ayant connu un immense succès populaire et dont l’objectif est relativement simple : les joueurs déambulent dans les rues à la recherche de Pokémon, petites créatures dotées de pouvoirs, qui apparaissent sur leur écran grâce un procédé de réalité augmenté.
•     Mais ce que l’on ne savait pas, c’est qu’en poussant les joueurs à travers ville et campagne à la recherche de ces Pokémon, le jeu guidait également leur pas, vers des espaces bien réels :  des boutiques, des cafés, bénéficiant de cet afflux de joueurs. L’opérateur du jeu, qui n’est autre qu’une filiale de Google, aurait ainsi rapidement passé des accords avec des enseignes telles que McDonald’s et Starbucks, pour s’assurer de la présence de pokémon à proximité de leur commerce. Et les naïfs joueurs, par les pokémons alléchés, de tomber joyeusement dans leurs nombreux filets.
•     Ces commerces deviennent alors des annonceurs, qui paient Google à chaque fois qu’un joueur se trouve à proximité. Sur le très classique modèle du paiement au clic, les mastodontes du numérique sont désormais payés à la visite.