L’UNESCO, un machin couteux dépendant de l’ONU, s’est récemment penchée sur la question de l’Intelligence Artificielle. Et en novembre dernier (le 22), ses experts ont pondu un : « Projet de recommandation sur l’Éthique de l’Intelligence artificielle ». Je l’ai lu, laborieusement.

C’est un texte bureaucratique, rédigé par de nombreux experts, et qui a tous les défauts de ce type de production : il est sans densité ni consistance, trop long eu égard à son contenu, et sa cohérence est douteuse. Car surtout, faute de poser ses bases, et préférant lister un nombre considérable d’attendus sans intérêts, mais obligatoires, il passe à côté de son sujet et dit, assez mal, en une vingtaine de pages ce qui aurait pu l’être en quatre. On imagine bien ce que sa rédaction a dû coûter, un coût sans cohérence avec sa valeur opératoire. On est bien là dans un pur bureaucratisme stérile.

Il aurait dû, pour éviter de se fourvoyer ainsi, ne pas confondre morale et éthique, et déjà distinguer les technologies, les outils et les usages. Et s’agissant de l’Intelligence Artificielle, ne pas confondre une technologie dont la puissance fascine et effraye, les outils qu’elle permet de concevoir en nombre quasi infini, et les usages de ces outils qui effectivement, mais eux seuls, posent des questions éthiques. Le terme « d’Éthique de l’Intelligence Artificielle » ne veut donc rien dire, et force est de constater que l’UNESCO a produit ce très long texte – 27 pages dans la version à laquelle j’ai eu accès – sur un sujet mal cadré. C’est un peu comme la maîtrise de la fission nucléaire des atomes lourds, autre technologie redoutable, car d’une puissance sans humaine mesure. On a su en faire des armes de guerre qui ne sont que des « outils » destinés à tuer, mais aussi des centrales nucléaires – autres outils, mais plus pacifiques. Ce qui pose problème, ce n’est pas vraiment la technologie en soi, ni vraiment les outils qu’elle permet de fabriquer, mais leurs usages. L’IA permet ainsi de fabriquer, par exemple, des systèmes de reconnaissance faciale. Ces systèmes, ces outils ne sont pas en soi condamnables. Mais l’usage qu’on en fait aujourd’hui massivement en Chine et demain en Europe est très problématique. Développons ce point : le système communiste soviétique, pour surveiller ses citoyens, utilisait l’intelligence naturelle d’un nombre si considérable d’agents du KGB qu’il s’en trouvait dans chaque immeuble, et parfois à chaque étage. Aujourd’hui, cette intelligence humaine peut être avantageusement remplacée par des systèmes automatiques dotés d’une intelligence artificielle sans que la question éthique soit reposée dans des termes nouveaux. Car l’IA n’est qu’un moyen, puissant et neutre, pour des fins dont on peut, dont on doit questionner la dimension morale.

Cela étant compris, tout le texte apparaît comme un simple verbiage sans le moindre sens, et dont on peut contester, sur le simple registre de la logique discursive, la cohérence. Mais le déconstruire ligne à ligne pour montrer que ce texte boursouflé n’est qu’un charabia inepte, serait long et de peu d’intérêt.

Mais je veux bien essayer de sauver les principes évoqués à son chapitre III.2., non pas comme principes éthiques de l’IA – je viens de m’en expliquer – mais comme principes de bonne administration (avec ou sans IA). Étant au nombre de 10, je les parcours rapidement.

Principe de proportionnalité et d’innocuité : Je lis par exemple que « la méthode d’IA retenue devrait être adaptée et proportionnée pour atteindre un objectif légitime et ne devrait pas porter atteinte aux valeurs fondamentales énoncées dans la présente recommandation – en particulier, son utilisation ne devrait pas constituer une violation ou un abus des droits de l’homme ». Passons sur « l’abus des droits de l’homme » qu’un lobbyiste étatique ou commercial a dû glisser ici. Et illustrons ce premier principe par la question de l’obligation vaccinale et de l’utilisation de l’application « TousAntiCovid ».  Si le pass vacinal peut être aujourd’hui contesté, c’est précisément du simple fait que la méthode « liberticide » serait « disproportionnée pour atteindre l’objectif légitime de sauver des vies ». Et cela se discute. Quant à l’application conçue pour les téléphones portables, si elle utilise une IA, ce n’est pas son utilisation qui pose problème, mais le choix de développer cet outil et de l’utiliser dans le cadre d’un dispositif global qui a été validé en France, mais retoqué dans d’autres pays – ces derniers ayant contesté la proportionnalité des moyens au but. Et ce premier exemple montre assez que l’utilisation par les bureaucraties nationales d’un certain nombre de dispositifs attentatoires aux valeurs fondamentales humaines et aux droits de l’homme pose un problème général et profond d’éthique, mais qui n’est pas directement lié à l’utilisation de l’IA, et que le présent texte ne traite pas. Revenons à ma première comparaison. L’IA est une « bombe » atomique, mais la seule question éthique est celle de la guerre. Avec le développement des techniques liées à l’IA, le Marché et la Bureaucratie vont pouvoir continuer à détruire les droits de l’homme, mais à une tout autre échelle. Les questions éthiques se posent donc, avec une acuité sans doute plus forte, une prégnance plus lourde, mais pas différemment. Car elles se posaient déjà dans les mêmes termes avant le développement de l’IA qui, sur le plan éthique, ne pose pas de problème nouveau. L’UNESCO aurait donc été mieux inspirée à produire des recommandations sur l’Éthique des dispositifs promus par le Marché et la Bureaucratie, en arguant, dans son préambule que le développement de l’IA rendait cette question plus critique encore et justifiait l’urgence de la présente réflexion.

Je note aussi, dans ce chapitre, que « les systèmes d’IA ne devraient pas être utilisés à des fins de notation sociale ou de surveillance de masse ». La Chine, qui est membre de l’UNESCO depuis 1946, doit-elle comprendre que l’UNESCO lui conseille de développer ses outils de notation sociale et de surveillance de masse, sans avoir recours à l’IA, ce qui est techniquement possible, afin que l’éthique soit sauve ? Est-ce l’IA qui est problématique ou la notation sociale ?

Les principes exposés suivants sont : Sureté et sécurité ; Équité et non-discrimination ; Durabilité, Droit au respect de la vie privée ; Surveillance et décisions humains ; transparence et explicabilité ; Responsabilité et recevabilité ; Sensibilisation et éducation ; Gouvernance et collaboration multipartites et adaptatives. Toutes ces thématiques sont sensibles – il y en a d’autres. Mais la question posée, je le rappelle à nouveau, n’est pas celle de l’IA, mais bien des choix du Marché et de la Bureaucratie de s’essuyer les pieds sur les principes garants des droits de l’homme, avec ou sans l’IA. Je n’en prendrais que deux nouveaux exemples : vie privée et responsabilité.

La Bureaucratie, dont le tropisme totalitaire est une constante, viole de plus en plus systématiquement la vie privée des gens. Le recoupement des fichiers de données (numériques ou pas) et l’existence des réseaux sociaux ont renforcé ce processus ; le traitement des données collectées par une IA va encore accélérer et massifier ce viol. La loi de finances française 2020 a ainsi autorisé le fisc à aller explorer les réseaux sociaux pour y chercher des informations. C’est une disposition présentée comme expérimentale, mais l’expérience montre que ce type de disposition devient rapidement pérenne, avant de prendre une tout autre dimension ; et la CNIL n’est en la matière que le cache-sexe du pouvoir. Et il faudra beaucoup plus qu’une recommandation de l’UNESCO pour protéger un droit au respect de la vie privée dont le Marché se fout et que la Bureaucratie n’a jamais reconnu.

Sur la responsabilité – et ce sera le dernier point que je choisis d’évoquer ici – je lis encore : « La responsabilité éthique des décisions et actions fondées d’une quelconque manière sur un système d’IA devrait toujours incomber en dernier ressort aux acteurs de l’IA selon le rôle qui est le leur dans le cycle de vie du système d’IA ». Cette formulation alambiquée est à nouveau très problématique et pose la question, propre à l’IA, de la délégation de responsabilité à la machine – question non pas éthique mais morale. J’y viens donc. Et je voulais conclure précisément sur ce point capital. Toute la problématique « morale » de l’IA – et on ne confondra donc pas morale et éthique –, c’est qu’elle est capable, par définition, de décider de manière autonome, de faire des choix inattendus ou imprévisibles. Et on doit donc ici, non seulement distinguer la responsabilité « effective », causale, et la responsabilité « morale », mais surtout la responsabilité humaine et celle d’un artefact. Et c’est un problème, non pas de droit, mais de philosophie. Dans son ouvrage sur « La Quatrième Révolution Industrielle », Klaus Schwab évoque une vingtaine de points de bascule attendus d’ici 2025 ; notamment « Première machine d‘intelligence artificielle au conseil d’administration d’une grande entreprise ». Si on le suit, et au-delà de 2025, cela veut dire qu’un jour des IA pourront codiriger de grandes entreprises, et comme le modèle de ces grands groupes et leur efficacité font rêver l’administration, on peut aussi imaginer le jour où des IA codirigeront des gouvernements et pourront, par exemple, être en position de travailler contre l’homme pour protéger l’environnement. Et cela nous fera alors une belle jambe de considérer que « la responsabilité éthique des décisions et actions fondées d’une quelconque manière sur un système d’IA incombe aux concepteurs de l’IA », c’est-à-dire à l’homme ayant inventé l’artéfact. Alors que la responsabilité tout court aura été déléguée à la machine, comme c’est déjà le cas dans certains domaines (la banque, les assurances, etc.). Ces sujets, comme celui du « travail irresponsable » – la responsabilité ayant été transférée à la machine –, sont des sujets de fond. Évidemment, la recommandation de l’UNESCO n’apporte rien à ce débat, aucune réponse à cette question, aussi insoluble que celle sur le libre arbitre, de la répartition des responsabilités morales entre le délégant et le délégataire, question complexifiée ici deux fois : si le délégant est un homme et le délégataire une machine – ce qui est déjà un problème  – et si le délégataire est une administration sans visage obéissant plus ou moins à un pouvoir évanescent, l’un et l’autre, irresponsables de fait et déléguant au Marché, sans vraie transparence, la conception d’un outil qui deviendra, en bout de chaîne, délégataire de ce pouvoir de ruiner les droits de l’homme.

Si l’usage de l’IA ne soulève pas, en soi, de questions éthiques, on peut donc néanmoins questionner son développement sur le plan moral, comme on aurait pu questionner, sur ce même plan, une certaine forme de connaissance. L’Ancien Testament condamnant « la connaissance du bien et du mal », elle peut donc être considérée comme immorale. L’avortement, le suicide ou le clonage peuvent aussi être interdits pour les mêmes raisons. Toujours, pour des raisons morales, la manipulation génétique, la fabrication de nouveaux êtres vivants (les chimères), la fabrication de robots dotés d’organes biologiques artificiels, ou encore la création d’une véritable intelligence artificielle, peuvent aussi être interdites pour des raisons morales et afin de ne pas dépasser notre statut de créature en disputant à Dieu son statut de créateur. On pourrait aussi considérer – ce n’est pas mon point de vue – que la connaissance doit être limitée, car certains secrets n’appartenant qu’à Dieu devraient rester cachés.

La question morale posée par l’IA étant aussi, je le rappelle, celle de la responsabilité d’une intelligence mécanique – avec une forme de conscience. Car prétendre que l’IA n’est pas moralement responsable, mais que son créateur l’est, c’est considérer que chacun reste responsable de ses enfants, quel que soit leur âge ; sauf à considérer que nous sommes tous des irresponsables, notre créateur étant seul responsable des actes de l’humanité. Encore, et je m’en tiendrai là, on pourrait interdire au Marché, pour des raisons morales, tout traitement d’information personnelle non strictement nécessaire au service d’une commande, ou interdire à l’Administration toute intrusion dans la vie privée des gens. Il y a donc bien des questions morales qui se posent – et ne peuvent se résoudre que de manière binaire (autorisé ou non). Mais une fois considéré que l’IA ne pose pas de problème moral en soi, et a donc le droit d’être développée, une fois donc autorisée la création des IA, ce problème moral étant (bien ou mal) réglé, restent les problèmes éthiques liés aux outils et aux usages.

Dans ce même ouvrage, le Président fondateur du Forum de Davos écrit « Des algorithmes sophistiqués sont capables de créer des récits dans n’importe quel style adapté à un public donné ». Nul doute que bientôt l’UNESCO n’aura même plus besoin de faire appel à des commissions d’experts couteux pour pondre pareilles recommandations. Une IA y suffira. Comme le dit encore Schwab « plus sûre, moins chère », j’ajouterai « plus cohérent ».

Cher Daniel Lenoir. Je ne sais pourquoi je reçois une invitation « sign up » à signer votre appel à un sursaut « spirituel et démocratique ». Mais ces deux mots ont fait tilt à l’oreille de l’esprit libre, non encarté et non partisan que je prétends être. Très intéressé, séduit par l’invite, mais un peu surpris par la longueur du texte, j’ai lu, prêt à signer. Car nous sommes évidemment d’accord sur le constat de l’impasse démocratique et spirituelle dans laquelle nous sommes, en France et plus largement dans un occident gagné par le nihilisme et l’abandon de nos valeurs. Nous souffrons bien de manquer de vie démocratie et de vie spirituelle. Et puis, comment ne pas souscrire à cette invitation de « voir les choses autrement » ? Krishnamurti, dont la spiritualité a beaucoup rayonné, disait qu’il fallait « se libérer du connu ». Et à s’investir de manière différente dans la res publica. Et, je vous cite, « essayer de se comprendre », « réfléchir ensemble », « collaborer », et surtout « retrouver du sens » (au progrès). Et je serai toujours au nombre des bonnes volontés, partant pour cela. Mais à ce point de ma lecture, les choses ont dérapé. Je m’attendais à ce que vous évoquiez les valeurs de liberté, de responsabilité de solidarité, ou encore le problème si prégnant de l’environnement. Mais vous avancez l’humanisme et l’universalisme, et je ne peux plus vous suivre. Car s’agissant d’humanisme, concept trouble et mal défini, je m’en tiens à la façon dont Érasme de Rotterdam, « prince des humanistes » l’a forgé au XV^e siècle (avec son compère Thomas Moore qui en perdit la tête). Et pour les avoir bien lus (je crois), je vois trop que l’humanisme est l’autre nom du christianisme, ou, si vous préférez, un christianisme laïc qui aurait pu déboucher sur une autre réforme si Luther n’en avait pas décidé autrement – relire leurs échanges et diatribes. Et puis, je suis trop écologiste pour accepter la dimension spéciste de l’humanisme. Quant à l’universalisme, j’y adhère d’autant moins, que nous sommes bien confrontés à ce choc des civilisations que Samuel Huntington a théorisé dans des années 90. Il écrit d’ailleurs dans cet ouvrage majeur : « l’universalisme est l’idéologie utilisée par l’Occident dans ses confrontations avec les cultures non occidentales ». Je le crois, je le remarque, et, bien qu’Occidental assumé, revendiquant ses racines gallo-romaines, donc celtes, j’essaie de comprendre et de respecter les cultures non occidentales, et si je suis prêt à défendre mes valeurs et refuse la « soumission », je ne défends pas l’universalisme.

J’ai néanmoins continué à vous lire, car cette idée salutaire d’en appeler à « un sursaut démocratique » est fondamentale et me touche profondément, même si nous différons sur certaines de nos valeurs, mais il faut, vous en conviendrez, s’ouvrir aux autres, être prêts au dialogue. Il faut aussi, à l’évidence et comme vous l’écrivez, « sortir de sa léthargie démocratique ». Et là, je vous applaudis des deux mains à m’en casser les poignets. Mais je vous fais remarquer que les seuls qui l’aient fait sont les Gilets jaunes (dont je n’étais pas). Pourquoi ne pas ici leur rendre hommage ? À ce moment d’intimité avec votre pensée, j’ai souhaité, faute de déjà vous connaître, en savoir plus sur vous. Je suis allé sur le site de « Démocratie et Liberté » et y ai vu, dans les échanges qu’il relate, une référence à Élisée Reclus que je connais un peu ; un homme libre comme vous, comme nous, et engagé, dont la spiritualité et l’appétence démocratique sont incontestables. Mais cet ami de Kropotkine (tous deux géographes) était un esprit antireligieux, comme son frère et au désespoir de leur pasteur de père, anti humaniste, car trop écologiste pour cela – une sorte de Thoreau européen, son aîné d’une dizaine d’années. Et il ne sait jamais reconnu, lui, le grand voyageur, dans l’universalisme des Lumières. Enfin, s’il militait pour la démocratie, dans le même temps il détestait notre éphémère seconde république, celle de Napoléon le petit, et la troisième, celle de Foutriquet, pardon, d’Adolphe Tiers qui d’ailleurs faillit le fusiller et l’exila, et il combattait et l’engagement partisan et la bureaucratie étatique et le parlementarisme.

Mais, c’est en comprenant que vous êtes un Énarque – ce qui n’est pas une tare et montre au moins vos capacités intellectuelles – que j’ai compris que vous puissiez conclure en invitant vos lecteurs « à refaire confiance » à des institutions, objectivement failli, et à « ceux qui les incarnent », c’est-à-dire la haute fonction publique dont vous êtes un digne représentant. C’était d’ailleurs, il y a cinq ans, le même message qu’Emanuel Macron que vous avez soutenu, nous a délivré, avec le résultat que l’on connaît. En conclusion, bien que je défende, mais comme Reclus, et selon la formule de Comte Sponville, une « spiritualité sans dieu », que je défende la démocratie et la non-violence, et préférant poursuivre l’utopie reclusienne d’un « ordre sans l’état », je ne signerai pas votre pétition.

Bien respectueusement

C’est vrai, je néglige trop ce blog, mais c’est bien que l’écriture me prend beaucoup de temps et autant d’énergie. À tel point que je ne vous ai pas souhaité un joyeux Noël, j’espère qu’il l’a été, un bon réveillon de la Saint-Sylvestre – il est encore temps d’emmerder les esprits woke qui nous interdisent les références religieuses – et une bonne année 2022, espérons que la séquence COVID dure moins que le dernier conflit mondial. Je ne sais si, transmettant leurs voeux en décembre 41, les gens se souhaitaient la fin de la guerre pour 42.

J’ai enfin achevé ce nouvel ouvrage, un essai politique indéfinissable, qui portera le titre de l’Hydre de Lerne, ayant renoncé au premier titre de « Manuel de civilité puérile ». Oui, la référence à Érasme est claire, et je le dis avec d’autant moins de forfanterie, que la lecture de son Manuel de civilité puérile m’avait déçu. Mai je pense que c’était un texte sans beaucoup d’ambitions. Je vais donc envoyer le mien aux éditeurs ; nous verrons. Mais je sais qu’ils sont tellement sollicités, que les gens ne lisent pas, et qu’en matière de politique, un leader politique trouvera plus facilement son public, quelle que soit la qualité de son texte et aura été assez malin pour sortir son livre dans le bon timing, idéalement à l’automne dernier.

Je voulais en donner ici quelques pages, mais extraire un chapitre ou seulement quelques pages est aussi scabreux que de donner une citation hors de son contexte. Je vais néanmoins tenter l’exercice, en donnant à lire le chapitre 8 du livre 3 (croire en l’homme, malgré tout) – oui, il y a trois livres dans un, soit 22 chapitres pour un essai trop long, mais il est difficile après la naissance d’un enfant de lui couper les jambes ou lui raboter les oreilles.

Je vais donc tenter de feuilletonner ce chapitre, en 3 ou 4 parties. Voici le début :

Il y a toujours eu des lanceurs d’alerte. Dans un récent petit livre, Marek Halter parle de prophètes, et j’y lis en quatrième de couverture : « Le prophète, c’est l’homme qui crie : un lanceur d’alerte avant la lettre » ; et il questionne ainsi notre présent : « Vivons-nous aujourd’hui dans un monde sans prophètes ? » Je ne saurais dire si un prophète est un lanceur d’alerte, ou un lanceur d’alerte un prophète de mauvais augure. Marek Halter en sait plus que moi sur les prophètes bibliques. Mais je retiens et cette idée et sa formulation : le lanceur d’alerte c’est l’homme qui crie, mais qui crie dans le désert. Ce qui me permet de m’attarder sur le registre testamentaire en évoquant Jean le baptiste, le dernier prophète avant Christ qu’il baptisa, et dont les évangiles rapportent « Jean est celui que le prophète Esaïe avait annoncé lorsqu’il a dit : C’est la voix de celui qui crie dans le désert : préparez le chemin du Seigneur, rendez ses sentiers droits ». On nous l’a appris enfant, Jean prophétisait bien dans le désert et baptisait dans les eaux du Jourdain. Mais comment ne pas jouer sur les mots, en donnant à la formule un sens qu’elle n’a pas dans les évangiles ? Car en langage courant, parler dans le désert, c’est bien parler dans le vide, ou face à un mur.  C’est vrai que j’aime assez ces jeux de mots qui n’ont ici d’autre sens que d’en venir à cela : un lanceur d’alerte, c’est un homme qui crie au feu, sonne l’alarme dans le désert de notre indifférence. Et de ce point de vue, Jésus en est bien le symbole. Il a prophétisé, mais sans pouvoir changer le cours des choses ou la tragique trajectoire de l’histoire, même si d’autres que lui, d’autres après lui, ont su exploiter son souvenir pour construire une religion qu’il n’aurait pu approuver, qui a bouleversé le monde, mais qui n’a pas racheté l’humanité. Et si je reste attaché à cette histoire, mythifiée au point de nous tenir encore au ventre, c’est parce que Jésus, selon la doctrine, serait venu s’offrir en sacrifice pour nous sauver. S’il avait réussi, j’imagine qu’on aurait vu un changement profond et radical d’une humanité régénérée par le sang versé. Qu’a-t-on vu ?

LANCEURS D’ALERTES. Rassurons Marek Halter ! il y a toujours eu des lanceurs d’alerte, il y en aura toujours ; et peut-être aussi des gens pour crier au loup comme dans la fable d’Ésope, ou pour des raisons plus insidieuses. Et en Occident, civilisation dont l’axe est constitué par le livre premier et ultime, celui qui étymologiquement invente les bibliothèques, ces lanceurs d’alerte ont été des intellectuels engagés, beaucoup plus rarement des religieux – même si Érasme…. Et qu’ils soient essayistes, romanciers, philosophes, la liste serait trop longue et le risque d’oublier les plus importants trop grand, pour que je m’attache à en proposer une ébauche. Mais on ne doit surtout pas oublier les auteurs de fictions et de dystopies – j’en ai cité plusieurs dans le présent texte. Aujourd’hui, je vois ces lanceurs d’alerte scénariser, mettre en scène ou produire de très nombreux films, je les vois proposer des essais, écrire dans les journaux, très rarement intervenir dans les médias appartenant à l’État ou aux oligarques. Je les vois aussi produire des travaux scientifiques qui nous alertent sur le désastre écologique que nous avons provoqué et que nous entretenons. On les a découvert aussi, parfois simples cadres dans des multinationales, risquer leur vie pour dénoncer des scandales ou organiser des fuites d’informations qu’il convient absolument de porter à la connaissance du plus grand nombre. Ils sont donc nombreux, visibles et souvent audibles, même si leur message est brouillé par les faux prophètes du Système. Nous ne manquons donc pas, nous n’avons jamais manqué de lanceurs d’alerte. Ils continueront longtemps à crier dans le désert, se prétendant parfois Christ ou Antéchrist, mais l’immense majorité des gens restera indifférente ; pour l’essentiel d’entre eux, les gens s’en moquent. Le Système le sait et sait qu’il peut dormir tranquille, sauf qu’il ne dort jamais. Je ne sais si c’est désespérant, mais c’est effectivement sans espoir. Nous marchons gentiment vers la fin, andante, mais nous sommes déjà cuits, al dente. Oui, je sais, c’est un peu facile de plaisanter ainsi, mais on a beau être aussi stoïcien, il faut parfois quelques ressources quand l’angoisse vous prend : j’utilise alors l’outrance, ou l’humour, l’un comme l’autre sans éviter toujours la facilité.