Le système immunitaire adaptatif sert de modèle pour défendre les réseaux de neurones contre les attaques semant la confusion

Les réseaux de neurones profonds sont un sous-ensemble d’algorithmes d’apprentissage automatique utilisés pour une grande variété de problèmes de classification. Il s’agit notamment de l’identification d’images et de la vision artificielle (utilisée par les véhicules autonomes et autres robots), du traitement du langage naturel, de la traduction linguistique et de la détection des fraudes. Cependant, il est possible pour une personne ou un groupe néfaste d’ajuster légèrement l’entrée et d’envoyer l’algorithme dans le mauvais sens, pour ainsi dire. Pour protéger les algorithmes contre de telles attaques, l’équipe du Michigan a développé le système d’apprentissage inspiré de l’immunité immunitaire robuste.

“RAILS représente la toute première approche de l’apprentissage contradictoire qui s’inspire du système immunitaire adaptatif, qui fonctionne différemment du système immunitaire inné”, a déclaré Alfred Hero, professeur émérite de l’Université John H. Holland, qui a codirigé les travaux publiés dans Accès IEEE.

Alors que le système immunitaire inné monte une attaque générale contre les agents pathogènes, le système immunitaire des mammifères peut générer de nouvelles cellules conçues pour se défendre contre des agents pathogènes spécifiques. Il s’avère que les réseaux de neurones profonds, déjà inspirés par le système de traitement de l’information du cerveau, peuvent également tirer parti de ce processus biologique.

“Le système immunitaire est conçu pour les surprises”, a déclaré Indika Rajapakse, professeur agrégé de médecine computationnelle et de bioinformatique et co-responsable de l’étude. “Il a un design incroyable et trouvera toujours une solution.”

RAILS fonctionne en imitant les défenses naturelles du système immunitaire pour identifier et finalement prendre en charge les entrées suspectes du réseau neuronal. Pour commencer à le développer, l’équipe biologique a étudié comment le système immunitaire adaptatif des souris répondait à un antigène. L’expérience a utilisé les tissus de souris génétiquement modifiées qui expriment des marqueurs fluorescents sur leurs cellules B.

L’équipe a créé un modèle du système immunitaire en cultivant des cellules de la rate avec celles de la moelle osseuse, représentant un quartier général et une garnison du système immunitaire. Ce système a permis à l’équipe biologique de suivre le développement des cellules B, qui commence par une approche par essais et erreurs pour concevoir un récepteur qui se lie à l’antigène. Une fois que les lymphocytes B convergent vers une solution, ils produisent à la fois des lymphocytes B plasmatiques pour capturer tous les antigènes présents et des lymphocytes B mémoire en préparation de la prochaine attaque.

Stephen Lindsly, étudiant au doctorat en bioinformatique à l’époque, a effectué une analyse des données sur les informations générées dans le laboratoire de Rajapakse et a agi en tant que traducteur entre les biologistes et les ingénieurs. L’équipe de Hero a ensuite modélisé ce processus biologique sur des ordinateurs, en mélangeant des mécanismes biologiques dans le code. Ils ont testé les défenses RAILS avec des entrées contradictoires. Ensuite, ils ont comparé la courbe d’apprentissage des cellules B apprenant à attaquer les antigènes avec l’algorithme apprenant à exclure ces mauvaises entrées.

“Nous n’étions pas sûrs d’avoir vraiment capturé le processus biologique jusqu’à ce que nous comparions les courbes d’apprentissage de RAILS à celles extraites des expériences”, a déclaré Hero. “Ils étaient exactement les mêmes.”

Non seulement il s’agissait d’un biomimétisme efficace, mais RAILS a surpassé deux des processus d’apprentissage automatique les plus couramment utilisés pour lutter contre les attaques adverses : Robust Deep k-Nearest Neighbor et les réseaux de neurones convolutifs.

“Une partie très prometteuse de ce travail est que notre cadre général peut se défendre contre différents types d’attaques”, a déclaré Ren Wang, chercheur en génie électrique et informatique, qui était principalement responsable du développement et de la mise en œuvre du logiciel.

Les chercheurs ont utilisé l’identification d’image comme cas de test, évaluant RAILS contre huit types d’attaques contradictoires dans plusieurs ensembles de données. Il a montré une amélioration dans tous les cas, y compris la protection contre le type d’attaque adverse le plus dommageable – connu sous le nom d’attaque de descente de gradient projetée. De plus, RAILS a amélioré la précision globale. Par exemple, cela a permis d’identifier correctement une image d’un poulet et d’une autruche, largement perçue comme un chat et un cheval, comme deux oiseaux.

“C’est un exemple étonnant d’utilisation des mathématiques pour comprendre ce magnifique système dynamique”, a déclaré Rajapakse. “Nous pourrons peut-être tirer parti de ce que nous avons appris de RAILS et aider à reprogrammer le système immunitaire pour qu’il fonctionne plus rapidement.”

Les efforts futurs de l’équipe de Hero se concentreront sur la réduction du temps de réponse de quelques millisecondes à quelques microsecondes.

Hero est également professeur d’ingénierie R. Jamison et Betty Williams et professeur d’ingénierie électrique et d’informatique, d’ingénierie biomédicale et de statistiques. Rajapakse est également professeur agrégé de mathématiques et de génie biomédical. Lindsly est maintenant chez MathWorks.

Le projet a été financé par le ministère de la Défense, la Defense Advanced Research Projects Agency et le Army Research Office.