Mars 2024, assis dans votre voiture, vous vous apprêtez à démarrer le moteur, quand votre voiture vous dit : « aujourd’hui, je vais vous assister, car je pense que vous allez prendre des risques inconsidérés ». Au-delà d’une simple intelligence artificielle (IA), qui serait identique pour tous, peut-on imaginer que l’IA s’adapte à la personne qui l’utilise ? Finies les dépenses compulsives liées au manque affectif, finies les décisions prises à la hâte sur le terrain, en opérations extérieures, liées à la peur de la mort.

C’était l’objet de mon master recherche il y a maintenant quelques années, guidé par Gilles Coppin et Sorin Moga à l’IMT Atlantique : émotion et décision.

L’idée globale : intégrer les émotions dans les décisions

L’idée globale était de pouvoir insérer des capteurs sur la personne et ainsi connaître son état émotionnel : un oculomètre capable de distinguer des états émotionnels en utilisant le diamètre de la pupille ou des capteurs d’humidité sur les mains (ou le volant) et ainsi de paramétrer l’intelligence artificielle afin qu’elle soit le mieux adaptée à l’état émotionnel de la personne. Il aurait certainement fallu une thèse, voire toute une vie, pour arriver à satisfaire une telle ambition, rien que pour l’étude des émotions elles-mêmes d’une part, mais également pour étudier le meilleur modèle de prise de décision.

Recadrage à l’échelle d’un master recherche : personnalité et modèle de décision

En entrée, la personnalité. Comme je n’avais que quelques mois, il a fallu être plus modeste sur les paramètres d’entrée liées à la personne. De l’émotion, je suis passée à la personnalité, bien plus stable, pour éprouver le modèle. Après de longues recherches, parfois ésotériques et toujours discutables, le choix s’est porté sur le modèle des Big Five, aussi appelé OCEAN, car il distingue les cinq traits suivants : l’Ouverture, le caractère Consciencieux, l’Extraversion, le caractère Agréable et le Neuroticisme. Aujourd’hui, à la DGA, on utiliserait certainement la Process Com...

Les différents traits de personnalité vont entrer en compte dans les paramètres de la décision : par exemple, la personne qui a une grande ouverture aura plus de choix en entrée ou celui qui aura plus de neuroticisme aura une plus grande aversion au risque, ce qui l’empêchera d’être audacieux.

Big five : modèle des cinq grands traits de la personnalité (dit OCEAN)

Au cœur, la théorie de la décision

Il existe une multitude de manières de modéliser la prise de décision.

Par exemple, les fonctions d’utilité pondèrent certains paramètres et les somment pour choisir finalement celui qui a le plus gros score ; on va appeler cela l’étape 1 : la dominance. C’est théorique. Par exemple, lors du choix de votre réfrigérateur, si vous utilisez cette fonction, vous allez sommer la consommation énergétique, la puissance, le volume intérieur et voilà, vous avez votre frigo.

Oui, mais attendez, est-ce qu’il rentre dans votre cuisine ? Ah, déjà vous découvrez un critère préliminaire qui va concentrer votre choix sur les seuls modèles qui rentrent dans votre cuisine, et accessoirement dans votre budget. Ceux qui ne rentrent pas, vous ne les regardez même pas. C’est l’étape 0, la pré-édition, qui est en dehors de votre fonction d’utilité.

Finalement c’était facile.

Vous continuez à surfer sur le site de réfrigérateurs, et il y en a un qui vous tape vraiment dans l’œil. Il est magnifique. Rouge, bombé, un vrai appareil de collection. Et il a appartenu à Johnny Hallyday. C’est vraiment celui-ci qu’il vous faut. C’est là qu’arrive l’émotion. Celle qui vous a fait choisir votre conjoint. Celle qui vous a guidé vers votre vocation. Et c’est cette émotion qui va vous guider vers votre décision, voire vous permettre de vous extraire d’une indécision comme l’âne de Buridan (cf. encadré) ou donner un poids bien plus important à un critère, pas toujours rationnel, lié par exemple à l’envie d’épater la galerie ou bien à la peur de prendre des risques.

C’est pour cette raison que le modèle que j’ai choisi lors de mon master recherche était celui de Montgomery, qui met en avant l’étape 0 et l’étape 1. L’apport de mon master “recherche” sera d’insérer le modèle de personnalité pour pondérer plus ou moins les décisions et l’adapter à la personnalité.

Comment tester ?

Le plus difficile, comme toujours en intelligence artificielle, est d’avoir suffisamment de données pour entraîner le modèle. À l’échelle d’un master recherche, il s’agissait surtout de tester tous mes camarades et de faire des corrélations mathématiques permettant d’éprouver, de valider ou invalider le modèle.

C’était tellement passionnant que j’ai décidé de faire mes premiers postes à la DGA dans les facteurs humains, et en particulier sur la théorie de la décision (appliquée aux drones et aux robots), afin de faire en sorte que les décisions prises soient comprises par l’opérateur final et qu’il garde ce qu’on appelle la « conscience de situation ».

« POUR GARDER LA CONSCIENCE DE LA SITUATION »

Et demain ?

L’IA n’en est certainement encore qu’à ses débuts. La soudaine très forte notoriété d’IA génératives telles que ChatGPT engendre beaucoup d’attentes (d’illusions ?) pour beaucoup d’applications. Certains cherchent déjà à utiliser ce type d’application comme un assistant personnel qui va leur suggérer des actions, voire des décisions.

Je crois toutefois que rien ne se fera sans la prise en compte de l’être humain dans son individualité, notamment la personnalisation et la prise en compte de ses émotions et du contexte les ayant générées. C’est l’émotion qui nous fait avancer, qui peut nous permettre d’aller au-delà de nos limites et au-delà du prévisible, ou a contrario qui peut nous empêcher d’oser ou simplement de décider. C’est là que peut intervenir le compagnon, collègue, chef bienveillant, qui peut selon les cas protéger ou encourager. Demain, une IA pourra-t-elle tenir ce rôle pour favoriser une décision éclairée ? L’avenir le dira, mais avant de prétendre ressentir ses propres émotions, il faudrait déjà qu’elle puisse intégrer celles de l’humain qu’elle sert, sans quoi elle pourrait rapidement devenir au mieux rejetée ou ignorée, au pire dangereuse.

Amandine Reix, ICA

Sous-directrice du spatial, de l’électronique et du logiciel à la Direction Générale des Entreprises du Ministère de l’Économie, des Finances et de la Souveraineté industrielle et numérique.

Après son diplôme d’ingénieur et son master recherche en intelligence artificielle, Amandine Reix a passé 17 ans au ministère des armées dans les facteurs humains, les drones, les systèmes d’information, et dans le spatial où elle était directrice des programmes d’observation spatiale MUSIS-CSO et IRIS. Elle a rejoint la DGE en novembre dernier.