« Les campagnes de désinformation ont envahi tous les réseaux sociaux influents, car toutes sortes d'entités ont des incitations énormes à polluer ou à biaiser l'opinion publique. Voilà qui rend les réseaux sociaux dangereux. »
La vidéo est de Lê Nguyên Hoang (Science4All), docteur en mathématique et médiateur scientifique à l'école polytechnique de Lausanne.
Présentation
« Quel est, selon vous, le nombre de faux comptes que Facebook a supprimé de sa plateforme en 2019 ? Inutile de me donner un chiffre précis. En termes d’ordre de grandeur, à combien estimeriez-vous ce nombre de faux comptes, sachant que Facebook cherche à avoir un compte par utilisateur humain ? D’après vous, parle-t-on ici de milliers de comptes ? De dizaines de milliers de comptes ? De millions de comptes ? Ou de quelque chose d’autre ?
Depuis maintenant une bonne décennie, les réseaux sociaux font désormais partie de notre quotidien. À chaque qu’on sort nos téléphones ou qu’on ouvre nos ordinateurs, bon nombre d’entre nous reçoivent des notifications, ou regardons le fil d’actualité de Facebook, Twitter ou YouTube, de manière parfois instinctive et sans se poser trop de questions.
Pourtant, derrière chaque nouveau post Facebook, chaque nouveau tweet ou chaque nouvelle vidéo que vous voyez, il y a inéluctablement une histoire complexe, qui vient de l’interaction entre de nombreuses entités plus ou moins bienveillantes, et d’un tri algorithmique effectué via les systèmes d’intelligence artificielle les plus sophistiqués qui n’aient jamais existé. À chaque fois que vous voyez un message sur ces plateformes, il y a eu de nombreuses forces en jeu pour que vous voyez bien ce message et pas un autre.
Et aujourd’hui, j’aimerais insister sur la nature de ces forces en jeu pour essayer de vous convaincre qu’elles n’agissent généralement pas dans votre intérêt, ni dans l’intérêt de l’humanité. Et pourquoi, à cause de cela, il semble urgent de considérer que les réseaux sociaux sont devenus dangereux. Très dangereux.
Dangereux pour les utilisateurs, mais aussi et surtout pour la santé publique et la sécurité nationale. Via le cyber-harcèlement, la mésinformation médicale ou la radicalisation idéologique, les réseaux sociaux causent déjà d’horribles souffrances, de nombreux décès et des préoccupations majeures pour le futur de l’humanité. »
Extraits du script :
« La cyber-guerre (...)
un général 4 étoiles de l'armée américaine : « Quand vous réfléchissez aux conflits, vous voyez que c'est une bataille de volontés (...) Et ce que nous voyons de nos jours, c'est que vous pouvez influencer quelqu'un avant que vous soyez en conflit avec lui (...) [Ces campagnes d'influence] vont travailler pour façonner et influencer la perception du public avant qu'un conflit ait lieu. Dans l'espoir que cela soit un fait accompli. Avant qu'une balle ne soit tirée, ils ont déjà gagné » (...)
Des rapports du Congrès américain ont ainsi identifié des campagnes de désinformation organisées par une agence russe appelée l’Internet Research Agency, ou IRA, pendant les campagnes présidentielles américaines de 2016. De façon perturbante, cette agence a produit et partagé des contenus à la fois contre le parti républicain et en faveur du parti républicain aux États-Unis. Clairement, leur objectif n’était pas de s’allier avec l’un des deux partis américains.
L’objectif de l’IRA semblait davantage d’aggraver la polarisation aux États-Unis, en produisant, en partageant et en payant pour la diffusion en tant publicité de contenus extrêmement clivants, qui tantôt caricaturent le mouvement #BlackLivesMatter, et qui tantôt caricaturent le côté opposé. Ce faisant, l’IRA a certainement affaibli les États-Unis, aussi bien sur le plan politique que sur le plan économique. (...)
Le dernier rapport du Computational Propaganda Research Project d’Oxford, paru début 2021, liste désormais 81 pays, dont des activités de désinformation organisée sur les réseaux sociaux ont été révélées. (...)
De façon inquiétante, la désinformation organisée grandit et se professionnalise. Le rapport liste ainsi 48 pays qui ont fait appel à des entreprises privées pour effectuer ce travail de désinformation. Ces entreprises vont typiquement alors créer de nombreux faux comptes, gérés soit par des bots, soit par des fermes de trolls humains, payés à amplifier la désinformation.
Mais les gouvernements semblent loin d’être les seuls à s’engager dans ces campagnes de désinformation. Les entreprises privées ont elles aussi des incitations énormes à favoriser telles ou telles croyances dans l’opinion publique, comme cela a été révélé dans le cas du tabac. (...)
début 2021, le New York Times a révélé une campagne de désinformation de l’entreprise Huawei, qui visait à décrédibiliser un projet de loi belge sur une régulation des antennes 5G. Huawei avait ainsi créé 14 faux comptes, prétendant être expert en télécommunication, qui partageaient des critiques du projet de loi. Sachant qu’un contrat de milliards de dollars était en jeu pour l’entreprise, à bien y réfléchir, il n’est probablement pas étonnant que Huawei ait ainsi investi dans cette campagne. (...)
il faut sans doute s’attendre à ce que la désinformation organisée soit la norme. Les réseaux sociaux sont sans doute envahis par des campagnes de désinformation. C’est ça qui les rend si dangereux.
La bataille de l’attention
En fait, il semble utile de considérer que les réseaux sociaux sont une sorte d’énorme territoire, que beaucoup d’entités veulent conquérir. Pour bien comprendre la bataille qui y a lieu, il est alors utile de comprendre les caractéristiques du terrain sur lequel cette bataille a lieu. Et s’il y a une caractéristique à comprendre de ce terrain, c’est sans doute le fait qu’il est gouverné par la quête de l’attention. (...)
Les algorithmes aujourd’hui déployés pour répartir le terrain de l’attention sont conçus quasiment exclusivement pour que les consommateurs des réseaux sociaux restent sur les réseaux sociaux, sans tenir compte de la fiabilité informationnelle ou de la sécurité des consommateurs.
Si les campagnes de désinformation des agences russes ou des entreprises chinoises permettent de garder les consommateurs sur leur plateforme, les algorithmes vont promouvoir massivement ces campagnes. Les algorithmes veulent que l’attention des utilisateurs soit portée sur leur plateforme ; ils se contrefoutent de quelle partie de la plateforme sera celle qui aura cette attention. (...)
les réseaux sociaux ont créé un marché de l’information où la désinformation coûte beaucoup, beaucoup, beaucoup moins chère à produire et à diffuser que l’information de qualité. (...)
sur YouTube en particulier, l’influence de l’algorithme sur le succès d’une vidéo est monumentale. Deux vues sur trois sur YouTube résultent de recommandations de l’algorithme. Si cet algorithme veut qu’une vidéo passable fasse 1 million de vues, il lui suffit de la recommander massivement, des centaines de millions de fois par exemple. Mais donc, comme les créateurs s’adaptent au succès, et comme ce succès est en très grande partie déterminé par l’algorithme, selon Veritasium, le contenu est l’algorithme. YouTube est ce que l’algorithme de recommandation promeut, non seulement via son influence directe, mais aussi via son influence indirecte sur les créateurs. (...)
les campagnes de désinformation qui likent et retweetent les contenus qui vont dans leur sens ont aussi un succès indirect similaire. Non seulement, ce faisant, ils vont donner plus de visibilités à certains contenus plutôt que d’autres. Mais de façon peut-être plus importante encore, ces campagnes de désinformation vont ainsi encourager les créateurs de contenus à produire davantage de contenus qui vont dans leur sens.
C’est sans doute ainsi que Twitter est devenu extrêmement polarisé et virulent. Non seulement ces contenus sont mis en avant. Mais en plus, leur mise en avant encourage tous les utilisateurs de Twitter, consciemment ou non, à être davantage polarisés et virulents, car ces contenus connaissent plus de succès et flattent ainsi l’égo de ces utilisateurs de Twitter. (...)
de nos jours, cette jungle est devenue extrêmement dangereuse, non seulement car elle est désormais dominée par des campagnes de désinformations, mais aussi parce qu’on y voit triompher le cyber-harcèlement, la mésinformation médicale ou la radicalisation idéologique, qui, eux, causent d’horribles souffrances, des décès tragiques et des préoccupations majeures pour le futur de l’humanité. (...)
Comment rendre les réseaux sociaux bénéfiques ? (...)
il faut bien se rendre compte que tout réseau social qui devient influent attirera inéluctablement des acteurs malveillants qui souhaiteront promouvoir leurs idéologies ou leurs produits. Le grand défi, ce n’est pas de concevoir des réseaux sociaux qui seront bénéfiques si tout le monde se comporte bien ; le grand défi, c’est de concevoir des réseaux sociaux qui persisteront à être bénéfiques quand ils seront attaqués de toute part par les groupuscules, les gouvernements et les entreprises les plus motivés et les plus puissants du monde !
En particulier, pour y parvenir, la recommandation ou la modération semblent critiques. (...)
Des réseaux sociaux sans modération ni algorithme de recommandation semblent donc très vulnérables aux campagnes de désinformation ou de radicalisation. En tout cas, il semble difficile de les qualifier de “robustement bénéfiques”. (...)
l’exemple de Taïwan nous montre peut-être la voie. Pour permettre des discussions plus constructives, le gouvernement taïwanais a organisé les débats publics sur une plateforme appelée Pol.is. Ce réseau social a la particularité de donner une importance majeure à son algorithme de recommandation, et de faire en sorte que cet algorithme promeuve davantage les positions consensuelles. De façon remarquable, ceci permet d’avancer beaucoup plus rapidement dans l’élaboration de lois efficaces pour résoudre des problèmes pourtant controversés. (...)
Plutôt que de constamment chercher à rabaisser la désinformation, ce qui semble voué à l’échec sachant à quel point celle-ci est prépondérante, sachant la difficulté de la déconstruire, et sachant qu’elle s’adaptera à nos déconstructions, il pourrait être plus efficace de constamment mettre en avant l’information consensuelle, ou au moins quand il s’agit de sciences, l’information davantage fiable. (...)
Pour l’heure, malheureusement, les réseaux sociaux demeurent dangereux. Très dangereux. Probablement beaucoup plus dangereux encore que l’aviation, les traitements médicaux et l’énergie nucléaire, pour lesquels d’énormes investissements dans les autorités de certification ont été mis en place. Il me semble urgent d’en faire de même pour les réseaux sociaux. »
Les réseaux sociaux sont dangereux. Très dangereux [vidéo, 18'], Science4All, 8 mars 2021
