Que pouvons nous oublier si les machines se souviennent à notre place ?

Lorsque j’étais étudiant, jadis, lorsque la plupart des ordinateurs étaient encore d’énormes ordinateurs centraux, j’avais un ami dont le directeur de thèse insistait pour qu’il effectue manuellement un calcul long et difficile de la théorie atomique. Cela a conduit à des gribouillis au crayon, pleines d’erreurs, page après page et mon ami a fini par céder à sa frustration. Il s’est faufilé dans le laboratoire informatique une nuit et a écrit un, court pour effectuer le calcul. Puis il copia laborieusement la sortie à la main et la donna à son professeur.

Que peut-on oublier ?

Parfait, a déclaré son superviseur, cela montre que vous êtes un vrai physicien. Le professeur n’a jamais été au courant de ce qui s’était passé. Bien que j’ai perdu le contact avec mon ami, je connais beaucoup d’autres qui se sont lancés dans des carrières scientifiques sans maîtriser les exploits du papier et du crayon des générations passées.

Il est courant d’encadrer les discussions sur les transitions sociales en mettant l’accent sur les nouvelles compétences devenues essentielles. Mais au lieu de regarder ce que nous apprenons, nous devrions peut-être considérer l’avers : Que peut-on oublier en toute sécurité ? En 2018, le magazine Science a demandé à des dizaines de jeunes scientifiques ce que les écoles devraient enseigner à la prochaine génération.

Des activités plus créatives plutôt que la mémorisation des faits

Beaucoup ont dit que nous devrions réduire le temps consacré à la mémorisation des faits et donner plus d’espace à des activités plus créatives. Alors que l’Internet devient de plus en plus puissant et complet, pourquoi se donner la peine de se souvenir et de conserver des informations ? Si les étudiants peuvent accéder aux connaissances du monde entier sur un smartphone, pourquoi devraient-ils être obligés de les transporter dans leur tête ?

Les civilisations évoluent à travers l’oubli stratégique de ce que l’on considérait autrefois comme des compétences essentielles à la vie. Après la révolution agraire du néolithique, un ouvrier agricole pouvait se permettre de renoncer à de nombreuses connaissances des forêts, à des compétences en matière de traçabilité des animaux et à d’autres connaissances essentielles pour la chasse et la cueillette.

Au cours des millénaires suivants, lorsque les sociétés se sont industrialisées, la lecture et l’écriture sont devenues essentielles, alors que les connaissances en matière de labour et de récolte pouvaient être mises de côté.

Nous avons oublié de nombreuses choses qui font partie de notre quotidien

De nombreux d’entre nous se perdraient rapidement sans notre smartphone GPS. Alors quelle est la prochaine étape ? Avec les voitures sans conducteur, oublierons-nous comment conduire ? Entouré d’IA à reconnaissance vocale capables d’analyser les énoncés les plus subtils, oublierons-nous comment épeler des mots ? Et est-ce important ?

Image by Stefan Keller from Pixabay

La plupart d’entre nous ne savent plus comment cultiver la nourriture que nous mangeons ou construire les maisons dans lesquelles nous vivons. Nous ne comprenons pas l’élevage, ni comment tisser de la laine, ni peut-être même changer les bougies d’allumage d’une voiture. La plupart d’entre nous n’ont pas besoin de le savoir cela, car nous sommes membres de ce que les psychologues sociaux appellent des réseaux de mémoire transactive.

Quelqu’un d’autre possède forcément l’information qu’on cherche

Nous sommes constamment engagés dans des transactions de mémoire avec une communauté de partenaires de mémoire, par le biais d’activités telles que la conversation, la lecture et l’écriture. En tant que membres de ces réseaux, la plupart des gens n’ont plus besoin de se souvenir de la plupart des choses. Ce n’est pas parce que cette connaissance a été entièrement oubliée ou perdue, mais parce que quelqu’un ou quelque chose d’autre la conserve. Nous avons juste besoin de savoir à qui parler et où aller pour le vérifier. Le talent hérité pour un tel comportement coopératif est un cadeau de l’évolution et accroît énormément notre capacité de mémoire effective.

La nouveauté, toutefois, est que bon nombre de nos partenaires mémoire sont désormais des machines intelligentes. Mais une IA, telle que la recherche Google, est un partenaire de mémoire sans pareil. C’est plutôt un “super partenaire de mémoire”, immédiatement réactif, toujours disponible. Et cela nous donne accès à une grande partie de l’ensemble des connaissances humaines.

La pensée magique des algorithmes

Les chercheurs ont identifié plusieurs pièges dans la situation actuelle. D’une part, nos ancêtres ont évolué au sein de groupes d’autres êtres humains, une sorte de réseau de mémoire pair à pair. Pourtant, les informations provenant d’autres personnes sont toujours marquées par diverses formes de partialité et de raisonnement motivé. Ils dissimulent et rationalisent.

Ils peuvent se tromper. Nous avons appris à être conscients de ces défauts chez les autres et chez nous-mêmes. Mais la présentation des algorithmes d’intelligence artificielle pousse beaucoup de gens à croire que ces algorithmes sont nécessairement corrects et objectifs. En termes simples, c’est une pensée magique.

De nos jours, les technologies intelligentes les plus avancées sont formées selon un processus de test et de notation répété, au cours duquel les êtres humains finissent toujours par vérifier leur sens et décider des réponses correctes. Étant donné que les machines doivent être formées sur des ensembles de données finis et que les humains arbitrent en marge, les algorithmes ont tendance à amplfier nos biais préexistants, à propos de la race, du sexe, etc.

Des biais présents dans les machines

Un outil de recrutement interne utilisé par Amazon jusqu’en 2017 présente un cas classique. Formée aux décisions de son service des ressources humaines interne, la société a constaté que l’algorithme mettait systématiquement de côté les candidates. Si nous ne sommes pas vigilants, nos super partenaires IA peuvent devenir des super-bigots.

Un deuxième dilemme concerne la facilité d’accès à l’information. Dans le domaine du non numérique, l’effort requis pour rechercher des connaissances auprès d’autres personnes ou pour aller à la bibliothèque nous indique clairement quelles connaissances se trouvent dans d’autres cerveaux ou dans des livres, et ce qui se trouve dans notre propre tête. Des chercheurs ont toutefois constaté que la grande agilité de la réponse Internet pouvait conduire à la croyance erronée, encodée dans des souvenirs ultérieurs, que la connaissance que nous recherchions faisait partie de ce que nous savions depuis le début.

Notre esprit s’étend bien au-delà de notre cerveau

Peut-être ces résultats montrent-ils que nous avons un instinct pour l’esprit étendu, une idée proposée pour la première fois en 1998 par les philosophes David Chalmers et Andy Clark. Ils suggèrent que nous devrions penser que notre esprit est non seulement contenu dans le cerveau physique, mais qu’il s’étend également pour inclure des aides à la mémoire et au raisonnement comme des blocs-notes, des crayons, des ordinateurs, des tablettes et le Cloud.

Étant donné notre accès de plus en plus transparent aux connaissances externes, nous développons peut-être un Je de plus en plus étendu, une personnalité latente dont l’image de soi gonflée implique un flou sur l’emplacement flou de la connaissance dans notre réseau de mémoire. Si tel est le cas, que se passe-t-il lorsque les interfaces cerveau-ordinateur et même les interfaces cerveau-cerveau deviennent courantes, peut-être via des implants neuronaux ?

Des implants neuronaux pour une intelligence collective

Ces technologies sont actuellement en cours de développement pour être utilisées par les patients immobilisés, victimes d’un AVC ou atteints d’une SLA (Sclérose latérale amyotrophique) avancée ou d’une maladie du motoneurone. Mais ils sont susceptibles de devenir beaucoup plus répandus lorsque la technologie sera perfectionnée, des rehausseurs de performances dans un monde concurrentiel.

Un nouveau type de civilisation semble émerger, riche en intelligence machine et doté de points d’accès omniprésents que nous pourrons intégrer à des réseaux de mémoire artificiels agiles. Même avec des implants, la plupart des connaissances auxquelles nous aurions accès ne résideraient pas dans notre cerveau de cyborg mis à niveau, mais à distance, dans des banques de serveurs.

La perte de mémoire généralisée

En un clin d’œil, de la requête à la réponse, chaque recherche Google parcourt en moyenne 1 500 km vers un centre de données et inversement, et utilise environ 1 000 ordinateurs en cours de route. Mais dépendre d’un réseau, c’est aussi s’attaquer à de nouvelles vulnérabilités. L’effondrement de l’un des réseaux de relations dont dépend notre bien-être, tels que la nourriture ou l’énergie, serait une calamité. Sans nourriture, nous mourrons de faim, sans énergie, nous nous blottirons dans le froid. Et c’est par une perte de mémoire généralisée que les civilisations risquent de tomber dans un âge sombre et menaçant.

Mais, même si une machine pense, les humains et les machines penseront différemment. Nous avons des atouts opposés, même si les machines ne sont souvent pas plus objectives que nous. En travaillant ensemble au sein d’équipes d’IA, nous pouvons jouer aux échecs et prendre de meilleures décisions médicales. Alors, pourquoi les technologies intelligentes ne devraient-elles pas être utilisées pour améliorer l’apprentissage des élèves ?

Une béquille technologique qui donne l’illusion qu’on sait marcher

La technologie peut potentiellement améliorer l’éducation, élargir considérablement l’accès et promouvoir une plus grande créativité et un plus grand bien-être humains. Beaucoup de gens sentent à juste titre qu’ils se trouvent dans un espace culturel liminal, au seuil de grands changements. Peut-être que les éducateurs finiront par apprendre à devenir de meilleurs enseignants en alliance avec des partenaires d’Amnesty International.

Mais dans un contexte éducatif, contrairement aux jeux d’échec en collaboration ou aux diagnostics médicaux, l’étudiant n’est pas encore un expert en contenu. L’intelligence artificielle en tant que partenaire de mémoire “je sais tout” peut facilement devenir une béquille, tout en produisant des étudiants qui pensent qu’ils peuvent marcher seuls.

Comme le suggère l’expérience de mon ami physicien, la mémoire peut s’adapter et évoluer. Une partie de cette évolution implique invariablement d’oublier les anciennes méthodes, afin de libérer du temps et de l’espace pour de nouvelles compétences. À condition que les formes de savoir les plus anciennes soient conservées quelque part dans notre réseau et puissent être trouvées lorsque nous en avons besoin, elles ne sont peut-être pas vraiment oubliées. Pourtant, avec le temps, une génération devient progressivement, mais incontestablement, étrangère à la suivante.

Traduction d’un article sur Aeon par Gene Tracy, professeure chancelière de physique au William & Mary en Virginie.

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série