Controverses sur une intelligence artificielle sur le jeu de Doom
Français
Une intelligence artificielle a surpassé des joueurs humains dans le jeu Doom. Mais la technique utilisée, le Deep Reinforcement Learning, suscite pas mal de controverse puisque cette IA viole la première loi de la robotique d’Asimov.
Suivez-nous sur notre page Facebook et notre canal Telegram
Les intelligences artificielles se développement considérablement dans le domaine du jeu vidéo. Ce type d’environnement est très pratique pour les IA afin de collecter des données et de s’entrainer dans des univers proches du monde réel. Ainsi, la victoire d’Alpha Go dans le jeu de Go a fait la une des médias. Mais on a aussi une intelligence artificielle qui surpasse tout le monde dans les jeux Atari. Mais la grande nouveauté est une intelligence artificielle qui a appris à naviguer dans le jeu de Doom.
Guillaume Lample et Devendra Singh Chaplot de l’université Carnegie ont participé à un jeu de Doom avec une intelligence artificielle. Il y avait d’autres IA, mais également des joueurs humains. Ces 2 chercheurs ont perfectionné leur IA pour que celle-ci observe et analyse l’univers en 3D de Doom et de s’entrainer en conséquence. Mais ils ont utilisé la technique connue comme le Deep Reinforcement Learning. Cette technique implique un apprentissage basé sur la récompense. Si l’IA réussit ses objectifs, alors elle est récompensé ce qui l’incite à s’améliorer au fil du temps.
Le souci est les chercheurs ont entrainé l’IA à maitriser le jeu de Doom qui consiste à tirer tout ce qui bouge. La controverse est principalement éthique puisque cela revient à récompenser une intelligence artificielle pour qu’elle tue le maximum d’humains possibles. Il ne faut pas sortir les choses de leur contexte et cela reste une prouesse majeure. Toutefois, d’autres chercheurs estiment qu’il y a 2 volets d’apprentissage. La plus dangereuse est que l’IA apprend à se déplacer dans le même environnement que le monde réel, à savoir, en 3 dimensions. Et le fait de récompenser pour le maximum de Kills est-il le meilleur apprentissage possible.
Mais on pourrait dire la même chose des humains. Est-ce qu’on considère qu’un joueur humain, qui est champion de Doom, va devenir un tueur de masse ? Les critiques arguent que le joueur humain sait toujours faire la différence entre le monde réel et l’univers des jeux vidéos.
Si le code source de cette intelligence artificielle est disponible à d’autres entités, celles-ci peuvent le porter pour perfectionner les armes autonomes mortelles. Et dans ce cas, on franchit un pallier, car cela implique que cette IA va apprendre en tuant le maximum de personnes.
Une vidéo de cette IA dans le jeu Doom :
Source : ArXiv
