Impossible de gagner la course aux armements de l’information

La course aux armements se produit lorsque deux parties d’un conflit dégénèrent en une série de mouvements en perpétuel changement destinés à déjouer l’adversaire. En biologie, un exemple classique vient des guépards et des gazelles. Au fil du temps, ces espèces ont évolué pour aller plus vite, chacune répondant aux adaptations de l’autre.

Les courses aux armements

Une foule d’exemples plus bizarres viennent de la biologie du sexe, où hommes et femmes évoluent avec des adaptations bizarres pour contrôler la reproduction, allant de bouchons de sperme chez les chauves-souris aux pénis à tire-bouchon chez les canards aux vagins remplis d’impasses trompeuses.

Un trait caractéristique de la course aux armements est que, à la fin, les participants se retrouvent là où ils ont commencé. Parfois, le guépard attrape sa proie et parfois la gazelle s’échappe. Ni l’un ni l’autre ne remporte la course car, au fur et à mesure que l’on s’améliore, son adversaire fait de même. Et, en cours de route, chaque partie consacre beaucoup d’efforts. Néanmoins, à tout moment, la seule chose qui a du sens est de continuer à progresser.

Les courses aux armements se produisent aussi dans le monde humain. Bien entendu, le terme course aux armements vient de pays en guerre qui amassent littéralement des armes toujours plus sophistiquées et puissantes. Mais certaines courses aux armements humains sont plus subtiles. Le philosophe des sciences, Bennett Holman, a affirmé que les interactions entre les sociétés pharmaceutiques et les organismes de réglementation qui cherchent à déterminer si les médicaments sont sûrs et efficaces constituent une course aux armements.

Chaque camp s’adapte en permanence

Les sociétés pharmaceutiques déploient un ensemble de tactiques en constante évolution pour influencer les connaissances médicales. Alors que les régulateurs identifient ces tactiques et cherchent à les neutraliser, les sociétés pharmaceutiques trouvent de nouveaux moyens de façonner la recherche. Nous pourrions appeler cela une course aux armements informationnelle. Une partie tente d’induire en erreur le public sur un problème clé: la sécurité d’un médicament, que le changement climatique soit réel ou que les vaccins soient dangereux, par exemple.

Image by morzaszum from Pixabay

Dans le même temps, l’autre partie s’efforce de lutter contre cette campagne de mauvaise information. (Veuillez noter qu’il s’agit souvent d’une campagne de désinformation, car elle est délibérément destinée à induire en erreur. J’utilise le terme de mauvaise information dans cet article, car il est souvent difficile de déterminer s’il s’agit d’une mauvaise information ou d’une désinformation, et puisque la désinformation est souvent finit par être partagé par de vrais croyants sans motif politique.) Bien sûr, c’est précisément le type d’interaction dans lequel les entreprises de médias sociaux telles que Twitter se sont retrouvées engagées.

La guerre de l’information

Comme détaillé dans le rapport Mueller, mais largement connu auparavant, dans la perspective de l’élection présidentielle de 2016 aux États-Unis, le gouvernement russe (via un groupe appelé Internet Research Agency) s’est engagé dans des efforts à grande échelle pour influencer les électeurs, et de polariser le public américain. À la suite de cette campagne, les sites de médias sociaux et les groupes de recherche se sont démenés pour protéger le public américain contre la désinformation sur les médias sociaux.

Twitter, par exemple, a utilisé des algorithmes visant à identifier les robots et à fermer des comptes louches. Selon leurs chiffres, ils ont récemment supprimés un million de comptes Twitter de ce type par jour. Mais lorsque Twitter devient plus intelligent, les bots aussi. Un rapport récent a mis en évidence un nouveau réseau de bot sur Twitter spécialement conçu pour déjouer les algorithmes de détection. (Une autre nouvelle tendance, des acteurs pernicieux détournant de vrais comptes.)

Des contre-mesures rapidement obsolètes

Ce qui est important à reconnaître dans une telle situation est que, quelles que soient les tactiques utilisées actuellement, elles ne fonctionneront pas longtemps. L’autre côté va s’adapter. En particulier, nous ne pouvons pas nous attendre à être en mesure de mettre en place un ensemble d’algorithmes de détection. Quels que soient les efforts déployés par les sites de médias sociaux pour éliminer les acteurs pernicieux, ils deviendront régulièrement obsolètes.

Il en va de même pour nos tentatives individuelles d’identifier et d’éviter la mauvaise information. Depuis les élections américaines de 2016, les fausses nouvelles ont été largement discutées et analysées. Et de nombreux utilisateurs de médias sociaux sont devenus plus avisés quant à l’identification de sites imitant les sources d’informations traditionnelles. Mais les mêmes utilisateurs pourraient ne pas être aussi avisés, par exemple, en ce qui concerne les vidéos de théorie du complot épineuse faisant virale sur YouTube, ou en ce qui concerne les Deep Fakes, des images et des vidéos altérées de manière experte.

L’évolution foudroyante des nouveaux médias

Ce qui rend ce problème particulièrement épineux, c’est que les médias Internet évoluent à une vitesse vertigineuse. Lorsque la radio a été inventée pour la première fois, en tant que nouvelle forme de média, elle était sujette à la mauvaise information. Mais les régulateurs se sont rapidement adaptés, en réussissant pour la plupart à mater ces tentatives. Aujourd’hui, alors même que Facebook lutte contre l’ingérence des Russes, WhatsApp est désormais le théâtre d’une désinformation effrénée en Inde, qui a entraîné la mort de 31 personnes lors d’attaques de foule motivées par des rumeurs pendant deux ans.

Participer à une course aux armements dans l’information est épuisant, mais il n’y a parfois pas de bonne alternative. La mauvaise information publique a de graves conséquences. Pour cette raison, nous devrions consacrer le même niveau de ressources à la lutte contre la désinformation que les groupes d’intérêts consacrent à sa production. Tous les sites de médias sociaux ont besoin d’équipes de chercheurs dédiées dont les emplois à plein temps consistent à traquer et à combattre de nouveaux types de tentatives de désinformation.

Le retard des gouvernements face à la mauvaise information

De même, le gouvernement américain doit prendre au sérieux la désinformation des médias sociaux comme une menace pour la santé publique et notre démocratie. Cela signifie consacrer des ressources importantes du gouvernement à la combattre, d’autant plus que la nature d’une course aux armements dans l’information signifie qu’il n’ya pas de solution simple.

Il est alarmant de constater que l’administration actuelle adopte une approche quasi transparente vis-à-vis de la mauvaise information en ligne, ignorant les arguments du secrétaire à la Sécurité intérieure (maintenant démissionnaire), Kirstjen Nielsen, de prêter attention aux efforts de plus en plus sophistiqués de la Russie pour influencer la politique américaine. (L’Union européenne a fait beaucoup mieux avec son groupe de travail East StratCom, créé en 2015.)

Le caractère de course à l’armement de la désinformation en ligne signifie que nous devons également penser à des moyens créatifs permettant à un plus grand nombre d’utilisateurs des médias sociaux de s’impliquer dans les efforts visant à protéger la conviction du public. Twitter, par exemple, a ajouté une fonction de rapport de bot. Ceci exploite toute la gamme de capacités que les humains peuvent utiliser pour détecter les robots potentiels, des capacités qui peuvent s’adapter comme le fait l’opposition.

De meilleurs outils par des chercheurs indépendants ?

Pourrions-nous mettre en place des prix ou des concours prestigieux pour des équipes de recherche indépendantes identifiant de nouvelles tentatives de désinformation dans les médias sociaux ? Ou qui propose les meilleures nouvelles idées pour lutter contre ces tentatives ? Au lieu de cultiver des jardins de la victoire, les patriotes d’aujourd’hui peuvent traquer les bots. Nous ne devrions pas nous attendre à gagner la course à l’information, mais si nous voulons protéger notre démocratie, nous devons continuer à lutter contre les nouvelles menaces dès qu’elles se présentent.

Note du traducteur : L’auteure souffre d’un biais évident dans le pointage du doigt russe dans la propagation de la mauvaise information. Dans une course aux armements, aucune partie n’est légitime et tout le monde combat pour ses intérêts. Les Etats-Unis sont également les champions de la mauvaise information si on regarde la Guerre en Irak ou la guerre actuelle qui se prépare contre l’Iran.

N’oublions pas non plus une propagande orchestrée de toutes pièces contre la Chine avec tout le monde qui se met au diapason que ce soit les GAFAM ou les médias américains. On a besoin d’outils pour réguler cette mauvaise information, mais ils ne doivent pas être créés exclusivement par l’un des camps de cette course aux armements informationnels, car cela revient à applaudir un pompier pyromane.

Traduction d’un article sur Aeon par Cailin O’Connor, professeur associée de philosophie de science et de logique à l’université de Californie Irvine. Elle a co-écrit un livre intitulé The Misinformation Age.

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série