Retour au numéro
Vue 139 fois
17 mars 2024

IA ET FACTEURS HUMAINS
SI ON LAISSAIT UNE IA NOUS EN PARLER ?


" IA et facteurs humains... je le vois venir, ça finira encore au point Godwin de l’IA de défense, les SALA. Et si je demandais à un modèle de langue (qui n’est pas Chat GPT) de rédiger quelque chose, en ajoutant 2-3 phrases ? Je vous laisse juger."


- - - V O I C I  L ' A R T I C L E  D E M A N D É  - - -

Depuis octobre dernier, le ministre des armées a créé la cellule CM3 au sein de son cabinet militaire. L’ambition et la vision portées sont celles d’une transformation profonde, à certains égards aussi importante et structurante pour le ministère que celle de l’atome dans les années 1960. Bien que l’IA ne soit pas une capacité autoporteuse, son impact sur le quotidien des agents du ministère, la conduite des opérations et les programmes d’armement sera considérable. Face à cette (r)évolution en marche, le débat public autour de l’IA de défense est depuis des années prisonnier de la thématique des « robots-tueurs ».

//vous voyez, même l’IA arrive à ce point Godwin – pas si intelligente !//

Pourtant, on a dénombré environ 400 cas d’usages au ministère, dont seulement une dizaine concernent les Systèmes d’Arme Létal Autonome (SALA). Les autres cas incluent la rédaction de synthèses, de notes ou d’articles pour le magazine des IA, des sujets d’aide à la décision, et la reconnaissance d’image à des fins de renseignement.

Il est crucial de dépasser l’imaginaire de « Terminator » qui centre la réflexion sur l’IA de défense sur des considérations éthiques, normatives et juridiques depuis plusieurs années en luttant aujourd’hui contre deux tentations : L’auto-inhibition en considérant les enjeux moraux et normatifs de façon maximaliste et intemporelle. Il est indispensable que la réglementation d’aujourd’hui ne contraigne pas la recherche et l’expérimentation dont le point d’usage se situe demain. À ce titre, nous devons réguler les usages, pas la science.
Ne pas aborder la question de l’IA de défense que sous le prisme des SALA.

Au-delà des questions morales et éthiques, le facteur humain est avant tout une question de ressources humaines. Une des particularités du domaine du numérique est que la valeur dépend d’éléments immatériels (données et compétences du développeur). Il n’y a pas de tôle, de poudre, d’obus ou de missile

J’ai l’habitude de dire aux développeurs : « le système d’arme, c’est vous ». La performance opérationnelle obtenue dépendra à 95 % du code que vous allez réaliser et des données que nous avons collectées. Cela signifie que la performance du système d’arme de deux nations s’affrontant dans le champ immatériel dépendra de la compétence de sa ressource humaine : une réelle guerre des talents.

Enfin, le dernier sujet à mes yeux est celui de la communication. C’est un avis très personnel, mais je pense que l’IA va révolutionner nos interfaces de communication. Le numérique a provoqué un certain nombre de fractures, notamment générationnelle (faire une visio WhatsApp avec sa grand-mère relève souvent du miracle). Aura-t-on encore besoin d’un clavier et d’une souris demain pour interagir avec une machine ? Le langage naturel ne sera-t-il pas suffisant ?

L’assistant du LLM

L’assistant humain du LLM

De même, aura-t-on besoin d’être un expert des macros Excel ou de l’installation d’un plugin très spécifique ? Ne « suffira »-t-il pas d’être en capacité de décrire ce qu’on souhaite, sans considération de compétence technique, pour l’avoir. Encore faut-il être capable de décrire clairement ce qu’on souhaite… Là où le numérique a eu tendance à exclure, l’IA peut fédérer.

Dans l’ensemble, c’est l’intégration du numérique dans notre vie quotidienne que l’IA vient questionner.

 

Note : 76 % du texte ci-dessus a été rédigé par un modèle de langue. J’y ai simplement ajouté quelques exemples. Il m’a fallu environ 20 prompts (requêtes).

Photo de l auteur
Maël Jenny, IPA, Conseiller Intelligence Artificielle du ministre des Armées

Normalien, Maël rejoint le corps de l’armement grâce au concours sur titre en sortie de scolarité. Il prend un premier poste opérationnel au sein de l’EMA avant de revenir à la DGA dans le domaine de la cyber à Paris puis à Bruz (DGA MI).

Il intègre le cabinet du ministre en octobre 2023.

Auteur

Articles liés par des tags

Commentaires

Aucun commentaire

Vous devez être connecté pour laisser un commentaire. Connectez-vous.