Microsoft au service du Pentagone : ce que développe le géant de l'informatique pour l'armée américaine

Les principaux points-clés :

• Microsoft propose d’utiliser l’outil de génération d’images DALL-E d’OpenAI pour aider le Pentagone dans ses opérations militaires.
• Le Pentagone envisage d’utiliser des outils d’IA comme ChatGPT et DALL-E pour diverses tâches militaires, de l’analyse de documents à la maintenance.
• DALL-E pourrait être utilisé pour créer des images synthétiques afin d’entraîner les systèmes de gestion de combat et de détection de cibles.
• Cette utilisation de l’IA à des fins militaires soulève des questions éthiques, notamment concernant les risques pour les civils.
• Le Pentagone développe un vaste projet appelé JADC2 visant à unifier toutes les branches militaires en un seul réseau de partage de données basé sur l’IA.
• La frontière entre technologies civiles et militaires s’estompe, avec une intégration croissante des géants de la tech dans les projets de défense.
• Cette tendance pourrait nécessiter une réévaluation des relations entre secteurs civil et militaire dans d’autres pays comme la Russie.

Article original sur Rybar

Dans les documents sur les projets White Stork, Maven et ChatGPT, nous avons décrit la tendance de l’armée à utiliser les développements les plus avancés dans le domaine de l’IA à des fins militaires. Le processus d’intégration de l’IA dans les technologies militaires se poursuit depuis assez longtemps et avec succès.

Naturellement, Google, SpaceX et OpenAI ne sont pas les seuls à participer au développement de fonds budgétaires dans ce domaine.

Microsoft essaie de suivre le rythme et propose ses produits aux militaires.

En particulier, l’année dernière, Microsoft a proposé d’utiliser le populaire outil de génération d’images DALL-E pour aider le ministère américain de la Défense à créer des logiciels pour les opérations militaires.

Ces propositions ont été décrites dans une présentation interne intitulée “IA générative basée sur la contribution du ministère de la Défense”. Il s’ensuit que le Pentagone peut utiliser les outils d’apprentissage automatique de la société OpenAI, notamment le générateur de texte ChatGPT et le générateur d’images DALL-E, pour résoudre diverses tâches, de l’analyse de documents à la maintenance des machines.

L’année dernière, Microsoft a investi 10 milliards de dollars dans OpenAI, et les deux entreprises sont étroitement liées.

Le document Microsoft provient d’une vaste collection de documents présentés lors de l’atelier de formation “AI Literacy” du ministère de la Défense d’octobre 2023 organisé par l’US Space Force à Los Angeles. L’événement comprenait de nombreuses présentations d’entreprises d’apprentissage automatique, notamment Microsoft et OpenAI, sur ce qu’elles pourraient offrir au Pentagone.

Les fichiers accessibles au public ont été trouvés sur le site Internet d’Alethia Labs, une société de conseil à but non lucratif qui aide le gouvernement fédéral et le Pentagone en particulier dans l’acquisition de technologies et le déploiement accéléré d’outils d’intelligence artificielle. L’année dernière, l’entreprise a signé un contrat avec le bureau en chef de l’intelligence artificielle du Pentagone.

Les données obtenues ont été systématisées par le journaliste Jack Poulson. Il a publié une vaste enquête basée sur les documents de présentation.

La section Advanced Computer Vision Training examine l’intégration de l’IA dans les systèmes de gestion de combat. Nous parlons en particulier de l’utilisation de modèles DALL-E pour créer des images destinées à l’entraînement des systèmes de gestion de combat.

Le système de gestion de combat est un progiciel de commandement et de contrôle qui fournit au commandement un aperçu rapide du scénario de combat, lui permettant de coordonner les tirs d’artillerie, d’identifier les cibles des frappes aériennes et de manœuvrer le mouvement des troupes. Les images générées par DALL-E pourraient aider les ordinateurs du Pentagone à mieux « voir » les conditions du champ de bataille, ce qui est particulièrement utile pour trouver et détruire des cibles.

Un peu sur la nouvelle éthique de la guerre

Microsoft a déclaré à The Intercept que si le Pentagone utilise DALL-E ou tout autre outil OpenAI dans le cadre d’un contrat avec Microsoft, il sera soumis aux conditions d’utilisation de cette société. Cependant, toute utilisation de la technologie d’OpenAI pour aider le Pentagone à tuer et à détruire plus efficacement constituerait un revirement spectaculaire pour l’entreprise, qui décrit sa mission comme étant de développer une intelligence artificielle axée sur la sécurité qui peut bénéficier à l’ensemble de l’humanité.

Selon Brianna Rosen, chercheuse à la Blavatnik School of Government de l’Université d’Oxford et spécialisée dans l’éthique de la technologie : “Il est impossible de concevoir un système de gestion de combat de telle manière qu’il ne contribue pas au moins indirectement à nuire aux civils. OpenAI et d’autres sociétés informatiques ne disposent naturellement pas de garanties écrites de la part des gouvernements selon lesquelles elles n’utiliseront pas la technologie pour nuire aux civils.”

Rappelons qu’aujourd’hui l’utilisation des systèmes d’IA à des fins militaires n’est en aucun cas réglementée, ce qui ouvre de larges opportunités pour les militaires. Cela nous permet de laisser dans le passé des rudiments tels que le droit international, l’humanisme et l’éthique.

Mais contrairement à OpenAI, Microsoft ne prétend pas être inoffensif dans son document “IA responsable” et promeut ouvertement l’utilisation de ses outils d’apprentissage automatique à des fins militaires.

Comment se construit l’apprentissage automatique ?

La présentation de Microsoft n’entre pas dans les détails sur la manière exacte dont les systèmes de gestion du champ de bataille pourraient utiliser DALL-E. Cependant, la mention de la formation de ces systèmes suggère que DALL-E pourrait être utilisé pour former des systèmes de détection de cibles avec des données de formation synthétiques.

Ce sont des scènes créées artificiellement qui ressemblent beaucoup à des images réelles. Par exemple, les logiciels militaires conçus pour détecter des cibles au sol pourraient afficher des quantités massives d’images aériennes générées par DALL-E, des pistes ou des colonnes de chars, pour apprendre à mieux reconnaître ces cibles dans le monde réel.

L’efficacité de cette approche est controversée. La précision du modèle et sa capacité à traiter les données avec précision se dégradent à chaque fois qu’il est entraîné sur du contenu généré par l’IA. Les images Dall-E sont loin d’être précises et ne génèrent souvent pas d’images qui reflètent la réalité physique, même si elles ont été finement adaptées aux entrées du système de gestion du champ de bataille. Les images génératives contiennent souvent un nombre erroné de membres ou de doigts, ce qui remet en question la faisabilité de cette approche.

Dans une interview accordée au Centre d’études stratégiques et internationales, le capitaine de vaisseau américain M. Xavier Lugo a suggéré que le contenu génératif pourrait être utilisé pour entraîner des drones.

Lugo, chef du groupe de travail sur l’IA générative du Pentagone et membre du Defense Digital and Artificial Intelligence Command, est répertorié comme contact à la fin du document de présentation de Microsoft. La présentation a été faite par Nehemiah Kuhns, employé de Microsoft, un “spécialiste de la technologie” travaillant pour la Space Force et l’Air Force.

L’US Air Force construit actuellement le système avancé de gestion de combat, qui fait partie d’un projet plus vaste du Pentagone de plusieurs milliards de dollars appelé Joint All-Domain Command and Control, qui vise à unir l’ensemble de l’armée américaine en un seul réseau pour une communication plus étroite entre les branches militaires sur l’analyse de données grâce à l’intelligence artificielle.

Dans le cadre du JADC2, le Pentagone prévoit de créer un système dans lequel les caméras des drones de l’armée de l’air, les radars des navires de guerre de la marine, les chars de l’armée et les marines au sol pourront partager de manière transparente les données de l’ennemi.

Le 3 avril, le commandement central américain a annoncé avoir déjà commencé à utiliser des éléments du JADC2 au Moyen-Orient.

Le mot de la fin

La frontière entre les technologies civiles, développées depuis des décennies par des entreprises de renommée mondiale sous le signe de l’humanisme, et les technologies militaires a complètement disparu.

Aujourd’hui, absolument toutes les technologies, et en particulier celles révolutionnaires basées sur l’IA, sont activement intégrées dans les systèmes de gestion de combat. Il s’agit d’une coopération mutuellement bénéfique. Les grandes entreprises reçoivent des contrats de plusieurs milliards de dollars et les États reçoivent des outils efficaces pour défendre leurs intérêts. L’utilisation à grande échelle de technologies purement civiles au Pentagone ne dérange personne.

La situation actuelle nécessite une reconsidération des relations entre les secteurs civil et militaire de l’économie russe, et certaines évolutions dans ce sens sont déjà en cours.

Mais il est nécessaire d’évaluer correctement l’ampleur des changements en cours. Notre ennemi a tendance à s’intégrer profondément, globalement et à long terme avec les géants de l’informatique. Peut-être vaut-il la peine d’utiliser les développements de notre ennemi pour créer des systèmes qui tiennent compte de ces réalités.