Sur le contrôle du passé...

Par Stephen Karganovic sur Strategic Culture Foundation

George Orwell avait raison lorsqu’il écrivait que “celui qui contrôle le passé contrôle l’avenir“. Les avancées remarquables de la technologie de l’intelligence artificielle semblent le confirmer. Mais ils confirment également l’exactitude du reste de sa remarque prémonitoire, moins souvent citée, selon laquelle “qui contrôle le présent contrôle le passé”. Cela semble également se confirmer, comme nous le verrons tout à l’heure.

L’intelligence artificielle est à juste titre devenue l’objet d’une grande controverse, même s’il est encore tôt pour évaluer pleinement son impact. Pourtant, chaque jour qui passe, les aspects problématiques, et certains diraient même néfastes, de ses utilisations deviennent de plus en plus évidents.

L’une des principales préoccupations concernant l’intelligence artificielle est sa prétention à supplanter et à asservir en permanence son homologue humaine. Un autre est le danger que cela représente pour les ouvriers. Leurs emplois deviendront largement obsolètes et leurs revenus diminueront ou disparaîtront une fois que les employeurs découvriront que les opérations que les travailleurs humains effectuaient contre un salaire peuvent être effectuées à un coût minimum, voire sans frais, par l’entité que nous avons l’habitude d’appeler l’Intelligence Artificielle, ou IA.

De toute évidence, la propagation incontrôlée de l’IA entraîne l’humanité vers des terres inexplorées. Une illustration bizarre est la récente candidature d’une entité d’IA à la mairie de Cheyenne, dans l’État américain du Wyoming. Bonne chance aux bons habitants soi-disant conservateurs de Cheyenne s’ils n’ont pas parmi eux de candidat humain qualifié pour lequel voter.

Ce n’est là que l’un des niveaux où le bon sens devrait dicter une extrême prudence avant de s’engager sans réserve dans certaines des applications potentielles de l’IA. Il existe cependant une autre application, plus inquiétante, qui prolifère sur Internet. Contrairement à l’exemple précédent, il n’est pas du tout divertissant mais devrait provoquer une alarme et un intense malaise.

Il s’agit de l’émergence de “Deepfakes”, de distorsions magistrales de la réalité exécutées de manière si convaincante que même les outils médico-légaux les plus avancés, sans parler des facultés humaines seules, trouveraient presque impossible de détecter la tromperie.

Au sein du genre de ce que l’on appelle les deep fakes, une classe spécifique et sinistre a émergé et sature Internet. Il ne s’agit pas d’infliger les désagréments habituels comme altérer l’apparence d’un individu, lui faire faire ou dire des choses qu’il ne ferait jamais dans la vraie vie, ou le dépeindre de manière crédible dans une situation compromettante à des fins de discrédit.

Au lieu de générer des contrefaçons personnelles banales, on  provoque quelque chose qui cause incomparablement plus de mal. Il falsifie délibérément les archives historiques en effaçant la distinction entre réalité et fiction, vérité et mensonge. Il induit en erreur les mal informés et les crédules en fabriquant des événements qui auraient pu théoriquement se produire, mais qui ne se sont jamais produits.

Le faux reportage d’octobre 1963 de CBS sur le prétendu déclenchement de la guerre civile allemande en est un bon exemple. Tout y est d’un réalisme impressionnant, mais c’est une fausse histoire, une fabrication découpée dans du tissu entier. Le message sous-jacent du “journal télévisé” lu par le légendaire présentateur de CBS Walter Cronkite est que l’Allemagne n’a pas été vaincue pendant la Seconde Guerre mondiale, mais qu’elle a atteint ses principaux objectifs de guerre, notamment le contrôle de l’Europe, des conquêtes substantielles à l’Est et la restauration de ses colonies sur le continent africain.

Selon ce faux scénario de la Seconde Guerre mondiale, c’est la Russie qui a été vaincue et contrainte de se retirer à l’est, peut-être de l’autre côté de l’Oural puisque Moscou est mentionnée comme une région sous domination allemande. Après la mort d’Hitler, vraisemblablement de cause naturelle, une lutte de pouvoir s’engage entre ses lieutenants. L’Allemagne “victorieuse” est présentée comme une puissance nucléaire robuste que même les États-Unis craignent de contrarier.

Ajoutant une touche étonnamment réaliste à ce scénario fabriqué, alors que le chef de l’Allemagne, Hitler, meurt au début des années 1960, à peu près au moment où il aurait dû mourir en exil en Amérique du Sud si l’on en croyait l’une des versions de son évasion. Pour ceux qui sont historiquement contestés, de plus amples détails sur la guerre civile allemande fictive de 1964 sont fournis ici.

Cet écrivain se souvient des émissions d’information de CBS des années 1960, lorsque Walter Cronkite était au sommet de son influence en tant que “journaliste le plus fiable” d’Amérique. En plus d’avoir une solide connaissance de l’histoire contemporaine, je me souviens également de l’apparence et du style de prestation de Cronkite, ainsi que du timbre distinct de sa voix. À tous ces égards, ce faux clip vidéo est d’un réalisme troublant. Les défauts que celui-ci et d’autres similaires pourraient encore présenter seront résolus avec succès grâce à de nouvelles améliorations de la technologie de l’intelligence artificielle.

Mais combien de jeunes de 20 ans aujourd’hui seraient capables de reconnaître le faux, sur la base de leur connaissance des faits historiques ? Ou même des adultes, d’ailleurs ? Dans les commentaires des téléspectateurs, nombreux sont ceux qui admettent avoir été impressionnés par le faux “journal télévisé” et qui prétendent même se souvenir de l’avoir regardé alors qu’il aurait été diffusé pour la première fois il y a plusieurs décennies.

Mais tout cela n’a évidemment aucun sens. C’est une fausse mémoire de pensée de groupe. La formation de masse, c’est ainsi que le psychologue belge Mattias Desmet l’appelle. Ils n’auraient pas pu voir cela dans les années 1960. Les événements que Cronkite semble annoncer grâce à l’intelligence artificielle n’ont jamais réellement eu lieu et il ne les a en fait jamais rapportés.

Développant les thèmes établis dans le faux rapport précédent, le faux Cronkite généré par AI rapporte dans un autre faux “journal télévisé” que les forces russes vaincues se sont ralliées sous la direction d’un général fictif et envahissent le territoire sous contrôle allemand.

Des images filmées montrent l’armée russe renaissante du sinistre “Gouvernement de Réclamation Nationale”, équipée d’armes nucléaires, tentant d’occuper les territoires à l’Ouest revendiqués par la Russie. Une Russie abaissée mais retrouvant sa force d’antan sous un nouveau gouvernement revanchard et récupérant ses atouts à l’ouest, pourrait-il s’agir d’une allusion programmatique prédictive à certains événements actuels ?

Dans ce cas également, le ridicule de ce scénario fictif n’a pas été immédiatement reconnu par tous les téléspectateurs. Apparemment, cela a encore une fois ébranlé de faux souvenirs. Un téléspectateur a écrit : “Je me souviens où j’étais lorsque cela s’est produit. C’était juste avant que je termine mes études secondaires. C’était une période effrayante. Je suis content que ce soit fini”.

Mais c’est évidemment de la foutaise. Il ne pouvait pas s’en souvenir car cela ne s’était jamais produit.

L’Allemagne et la Russie ne sont en aucun cas les seuls sujets de cette imposture généralisée. La portée de l’histoire malicieusement recomposée est vaste et elle déforme et falsifie impitoyablement tout sur son passage. Ici, le maréchal Montgomery annonce de manière poignante la capitulation des puissances alliées face à l’Axe à la fin de la Seconde Guerre mondiale, le président Reagan dissout les États-Unis et même la guerre italo-turque figure dans ces parodies historiques.

Rejeter des falsifications aussi réalistes des archives historiques en les qualifiant de divertissement inoffensif serait une grave erreur. C’est une attaque contre l’intégrité de l’esprit humain. Cette recomposition brutale du passé sert à reconfigurer la conscience et à réorienter les perceptions de ceux qui vivent dans le présent.

Les rangs de la génération plus âgée, qui pourraient être capables de détecter ces mensonges soit par expérience directe, soit grâce à la solide éducation qu’ils ont eu la chance de recevoir, s’amenuisent rapidement. Les mécanismes traditionnels de transmission culturelle à la génération suivante sont effectivement bloqués. Peu de ressources sont disponibles aujourd’hui pour contrebalancer la vacuité et l’impuissance intellectuelle de la progéniture manipulable, élevée à dessein pour être sans instruction, ignorante et dangereusement vulnérable à ceci ou à tout autre déchet auquel elle se trouve exposée.

L’un de ces jeunes pathétiquement perdus, dont le milieu naturel n’est pas les livres mais les jeux vidéo et les iPhones, parviendrait-il un jour à rassembler les faits et les arguments nécessaires pour détecter et contrer les mensonges, y compris l’histoire grossièrement réécrite, que les maîtres invisibles de l’intelligence artificielle ont décidé de les distraire et de les asservir ?