Retour au numéro
Vue 66 fois
01 mars 2020

On ne l'a pas vu venir : le principe de précaution

Nouvelles menaces, nouvelles opportunités, nouvelles entraves


Une extension naturelle :

Les sources naturelles de menaces et d’innovations sont largement couvertes par le présent numéro du magazine : chaque domaine génère des fragilités et des défis : la tech- nique, le nombre, les acteurs non étatiques, l’économie, la géogra- phie imprévue : haute mer, Arctique, Lune, Mars.

Le grand public dispose – avant les militaires – de moyens potentiellement dangereux dans leurs applications : téléphone aux multiples capteurs, mouchard de suivi et d’écoute (10€). Tout va très vite, y compris l’incertain.

Menaces imparables, certitude impossible, précaution impossible

La complexité des menaces fait que le bouclier étanche n’existe plus, la réponse est une combinaison de mesures qui laissent peu de trous dans la raquette, mais des trous dont idéalement la position n’est pas prévisible par l’attaquant ; la neutralisation des drones demande de combiner soft kill / hard kill / mission kill.

Une application plus théorique est la mise en défaut de la reconnaissance des images par l’intelligence artificielle : sur une image donnée et une IA donnée (si on peut dire) les laboratoires présentent des cas amusants : ajouter à une image un "bruit" imperceptible à l’œil pour que l’ordinateur confonde prenne une rue encombrée pour une route de campagne déserte, ou bien une un chauffe-eau pour une autruche. Mais le leurre ne fonctionne que pour une image précise et une IA connue. Faut-il pour autant interdire l’IA, au nom du principe de précaution ? La réalité est qu’on combine informatique et humain: on ne peut pas demander une confiance totale dans l’une alors que l’humain (ou le politique) – et c’est ce qui fait son charme – est incertain. On notera le grand nombre de systèmes hyperfiables qui se sont plantés... en dehors du domaine de calcul de la fiabilité, qui par essence est mobile ! La précaution, c’est la multiplicité de techniques développées.

Les tricheurs et les menaces internes

De nouvelles technologies, impliquent bien sûr de nouvelles règles du jeu.

Le risque est de se sentir protégé par des règles de droit, notamment de droit international, précisément bafouées par nos ennemis actuels et futurs.

Le risque opposé est celui de limites éthiques mal contrôlées : après les attentats du 9 septembre 2001, The Economist publiait un article : "Et si on parlait de torture ?" où l’auteur proposait de l’appliquer, mais en déléguant la mise en œuvre à d’autres pays moins regardants... Le principe de précaution a tué le goût du risque qui devient un fac- teur d’appréciation peu valorisé. Le frein est double : d’une part il repousse l’acceptation de ce qui est nouveau (on détourne le principe de précaution, constitutionnel mais très mal défini, en principe de panique), et d’autre part il détourne les financements au profit d’actions inutiles (et donc créatrices d’emplois inutiles)

Il y a des règles salutaires ! La loi limite les actions de la DGSI et de la DGSE, alors que les instruments grand public sont capables d’espionner dans des circonstances interdites aux services officiels. On retrouve la classique exigence de la lutte contre le terrorisme : s’il provoque de la part des états des actions de même nature, il a gagné. A l’opposé j’ai observé récemment une amusante application du principe de précaution : la mairie de Paris a fait des travaux d’aménagement s’appuyant sur 100m3 de béton au fond du canal ; pour respecter la règle qui interdit de diminuer le volume du lit d’un fleuve (ce qui accentuerait l’effet des crues) elle n’hésite pas à compenser en créant un vide de 100 m3 fait de gros tuyaux sous un quai : la crue de la Seine sera atténuée de quelques microns ou retardée de quelques millisecondes, mais le règlement est respecté.

Le déni de l’innovation

Tant pis pour la précaution, de nombreux projets ambitieux de recherche échouent : mais sur les ruines de ces projets se construit la base technologique et scientifique...

Une idée stupide est piloter précautionneusement la recherche, et d’y mettre des règles fines de pilotage et de calcul d’efficience. Espérons que la loi de programmation de la recherche ne devienne pas un outil pour ces travers.

Tout se passe peu à peu comme si nous ne pouvions pas innover dans un monde déclaré immobile, quitte même à renoncer aux valeurs qui fondent notre civilisation comme le mouvement et le droit à l’oubli.

Auteur

Commentaires

Commentaires

Vous devez être connecté pour laisser un commentaire. Connectez-vous.