La lettre du Grand Maître Fra’ John Dunlap en réponse au message du pape François pour la 57e Journée mondiale de la paix, qui se célèbre le 1er janvier 2024

Très Saint Père,

merci d’avoir, cette année encore, attiré l’attention des fidèles, des dirigeants et du monde entier sur un sujet très important – et ce, de plus en plus – pour la paix entre les hommes, et qui appelle une réflexion d’ordre moral approfondie dans des délais très brefs.

L’intelligence artificielle fait partie, comme cela ressort du message profond de Votre Sainteté, des développements majeurs de la connaissance qui ont entraîné des changements radicaux dans la vie de l’humanité, comme la découverte du feu, la naissance de la capacité de l’être humain à réfléchir sur lui-même, l’invention des armes à feu, le contrôle de la fission nucléaire et Internet. Mais l’intelligence artificielle diffère radicalement et fondamentalement de ces développements historiques : outil bénéfique pour faire avancer la recherche dans de nombreux domaines de la connaissance et du travail humain, elle a le potentiel pour remplacer non seulement l’intelligence, mais aussi le cœur des hommes, et pour les déposséder des décisions finales sur la vie et la mort de nos semblables. En effet, le risque existe, comme Votre Sainteté l’a magistralement souligné, que des machines pilotées par l’IA se voient confier des tâches jusqu’alors exclusivement dévolues à l’homme, à sa capacité de discernement et à sa conscience.

Arrivés à un point où, dans certains secteurs, la capacité de discernement des machines sera supérieure à celle de l’homme (et elle l’est déjà dans de nombreux domaines), les lois inéluctables de la survie imposeront de confier aux machines les décisions ultimes concernant l’utilisation des armements, y compris les armements nucléaires. En effet, est-il concevable que les décisions sur les réactions à une éventuelle attaque nucléaire, qui devraient être prises très rapidement, soient confiées à un chef qui, comme nous tous, peut connaître des moments de fatigue, de confusion ou de panique ?

Il y a déjà plus d’une décennie, alors que les progrès de l’intelligence artificielle en étaient à un stade très éloigné de ce qu’ils sont aujourd’hui, La Civiltà Cattolica attirait l’attention de ses lecteurs sur les risques présentés par les armes robotiques autonomes, et je crois que nous devrions tous être reconnaissants de l’attention clairvoyante avec laquelle le Saint-Siège suit les questions liées au développement technologique et informatique et leur impact sur l’homme, sa conscience et la survie du genre humain et de l’homme qui a reçu et accepté le message du Christ. À cet égard, un courant de pensée outre-Atlantique affirme que les êtres humains dotés d’une intelligence artificielle avancée (IA 2.0) deviendront des « êtres hybrides » différents et supérieurs aux autres êtres humains. De nouvelles opportunités s’ouvrent, mais aussi de nouveaux problèmes moraux, sociaux et épistémologiques énormes qui nous donnent l’impression de naviguer dans un brouillard très épais.

Malheureusement, et Votre Sainteté le sait mieux que nous, nous vivons une époque où les épées ne se transforment pas en socs, mais les socs en épées. Il existe un risque que l’intelligence artificielle, comme cela est déjà le cas aujourd’hui avec les « réseaux sociaux » et les outils informatiques largement utilisés, soit employée à des fins géopolitiques. Un risque qui est déjà certain aujourd’hui et que les institutions de contrôle dont on parle tant au sein de l’Organisation des Nations unies et de l’Union européenne auront bien du mal à contrôler efficacement. Il est frappant de constater que ce sont les créateurs et producteurs d’intelligence artificielle eux-mêmes, comme Open AI il y a quelques jours, qui soulignent les risques qu’un développement non réglementé de l’intelligence artificielle pourrait causer à la sécurité, à l’équilibre social et à la liberté humaine.

C’est conscient de tout cela, mais aussi avec l’espérance confiante qui nous vient du Seigneur et l’esprit rempli des réflexions et des avertissements exprimés dans le message de Votre Sainteté à l’occasion de la Journée mondiale de la Paix que je demande à tous les membres de l’Ordre de Saint-Jean de Jérusalem de prier avec une ferveur particulière pour la cessation des nombreux et sanglants conflits actuels, pour la création de conditions favorables à une Paix véritable et durable, et pour Votre Sainteté elle-même, qui le demande si souvent aux fidèles et aux personnes qui ont la joie d’être reçues par Votre Sainteté.

Avec mon dévouement filial,

Fra’ John Dunlap