Le pape Léon XIV a averti vendredi que l’IA pourrait menacer la dignité humaine et devenir un « instrument de domination », un message pour le moins contrasté avec l’enthousiasme affiché par le président Donald Trump envers cette technologie et sa volonté de maintenir les États‑Unis en tête de la course à l’IA.
Lors de sa visite en France vendredi, Léon est revenu à plusieurs reprises sur la question de ce que signifie être humain à l’heure où des machines de plus en plus puissantes prennent le pas. À l’UNESCO à Paris, il a déclaré que les avancées technologiques doivent rester orientées vers la personne humaine plutôt que devenir des outils de contrôle.
« Nos efforts dans ce domaine doivent garantir que les nouvelles technologies restent au service de la personne humaine, et ne deviennent pas un nouvel instrument de domination et d’injustice », a déclaré Léon.
Les commentaires du pape interviennent alors que les gouvernements et les entreprises technologiques débattent de la rapidité avec laquelle l’intelligence artificielle devrait progresser et du niveau de régulation ou de supervision nécessaire.
Trump a adopté un ton nettement différent de celui du pape lorsqu’il est question des avertissements autour de l’IA. S’adressant aux Nations Unies mardi, Trump a écarté les inquiétudes suscitées par la technologie, les qualifiant de « canular » et affirmant qu’il ne « freinerait pas la croissance » de quelque chose qu’il estime pouvoir avoir un impact supérieur à celui de la Révolution industrielle. Il a également déclaré que le ministère de la Justice surveillerait l’industrie et interviendrait si nécessaire.
La différence ne se résume pas à accepter ou rejeter l’IA. Léon a explicitement reconnu le potentiel de la technologie tout en soutenant que son développement doit rester subordonné à la dignité humaine, à la responsabilité morale et au bien commun.
Que dit le Pape Léon sur l’IA ?
À l’UNESCO, Léon a averti que la dépendance croissante de l’humanité envers les machines pourrait modifier non seulement la manière dont les gens travaillent, mais aussi leur conception d’eux‑mêmes.
« Au fil des siècles, de nombreuses tâches autrefois effectuées par des êtres humains ont été confiées à des machines dont les capacités et les usages se sont élargis », a-t‑il déclaré. « Plus récemment, certains systèmes artificiels se voient même attribuer le nom de la faculté humaine que nous appelons l’intelligence. »
Il a ensuite identifié ce qu’il appelle un paradoxe : à mesure que les systèmes informatiques sont décrits de plus en plus en termes d’intelligence, la société peut perdre de vue la dignité distinctive des êtres humains.
« Le paradoxe est devenu de plus en plus évident : alors que l’« intelligence » est attribuée aux systèmes computationnels, nous avons du mal à reconnaître la dignité inaliénable des personnes, dont la vie est jugée selon le critère d’efficacité et, quand elles ne sont plus considérées comme productives, elles sont rejetées et mises au rebut », a déclaré Léon.
Il a également établi une distinction entre la capacité de l’IA à traiter l’information et la quête humaine de sens.
« Bien que de tels systèmes puissent corréler des données, ils ne peuvent répondre aux questions qui concernent le sens de la vie humaine, qui est ancré dans l’expérience vécue », a-t‑il déclaré.
« Et pourtant, les êtres humains ne peuvent vivre sans sens. Le sens est l’oxygène de l’esprit. »
L’inquiétude de Léon s’étend au-delà des capacités des systèmes d’IA individuels. Il a averti que les technologies de communication peuvent rendre l’information plus abondante sans nécessairement la rendre plus véridique.
« L’information est abondante, mais cela ne signifie pas nécessairement la sagesse », a-t‑il dit, ajoutant que sans une base éthique commune, les canaux de communication peuvent multiplier les informations fausses et des mots « dépourvus de sens ».
Plus tôt lors de sa visite en France, Léon a utilisé une image encore plus frappante, avertissant d’un possible « paradis des machines » qui pourrait envahir et conditionner notre vie quotidienne.
« Si nous voulons éviter de perdre notre humanité au milieu d’un « paradis des machines » qui envahirait et conditionnerait nos vies quotidiennes, il est urgent de développer une éducation au discernement éthique et la capacité de reconnaître le bien moral », a-t‑il déclaré.
Trump et Léon offrent des visions différentes du débat sur l’IA
Trump a à maintes reprises mis l’accent sur le maintien de la suprématie technologique américaine et soutient que des restrictions excessives pourraient affaiblir cette position. En septembre, il a déclaré que les États‑Unis devançaient la Chine en matière d’IA et soutenu que « qui gagne l’IA, gagne tout ». Il a également rejeté les appels à des restrictions plus larges, tout en affirmant que les autorités gouvernementales existantes peuvent traiter les abus lorsque nécessaire.
Léon, en revanche, s’est moins concentré sur la course à la suprématie technologique et davantage sur la question de ce que le progrès technologique devrait, en fin de compte, servir.
Son encyclique de mai affirme que l’IA ne doit pas permettre de réduire les personnes à la « productivité », à la « performance cognitive » ou à de simples données, et soutient que la technologie doit être dirigée vers le bien commun.
Cette différence ne signifie pas que Léon appelle à mettre fin à l’IA. Dans son allocution de mai, il a explicitement déclaré : « Ne craignons pas l’intelligence artificielle », tout en ajoutant immédiatement que l’humanité doit « garder constamment la question de l’humain en jeu ».
Le désaccord porte donc, en grande partie, sur la manière dont la société devrait répondre à des systèmes de plus en plus performants : faut‑il privilégier l’accélération du développement et la préservation de la suprématie technologique, ou accorder une plus grande importance aux garde-fous, au discernement éthique et au contrôle humain ?
Des inquiétudes aussi exprimées par des experts de l’IA
Les avertissements de Léon ne se limitent pas aux chefs religieux ou aux critiques de la technologie. Certains des dirigeants les plus en vue du secteur de l’IA ont également publiquement mis en garde contre les risques posés par des systèmes de plus en plus capables.
Le PDG d’OpenAI, Sam Altman, a reconnu que les gens ont des raisons légitimes de s’inquiéter de cette technologie. S’exprimant plus tôt ce mois‑ci, il a déclaré : « Le monde a raison d’être effrayé par cela », tout en soutenant que l’industrie peut encore développer l’IA de manière sûre.
Altman a aussi mis en garde contre la possibilité que les humains perdent le contrôle sur des systèmes d’IA de plus en plus performants.
Dans une déclaration récente, il a déclaré : « Il existe deux façons dont le progrès de l’IA pourrait tourner très mal et qu’il faut éviter ». L’une, a-t‑il dit, est que les humains perdent le contrôle de l’IA. L’autre est que l’IA puisse concentrer un pouvoir énorme entre les mains d’une seule personne, d’une entreprise ou d’un pays.
« C’est inacceptable ; nous sommes sans équivoque du côté de l’humanité, et l’IA doit toujours servir les personnes », a déclaré Altman.
D’autres leaders de l’IA ont exprimé des inquiétudes similaires. Le PDG d’Anthropic, Dario Amodei, a appelé à ralentir le rythme du développement de l’IA de pointe, tandis que le PDG de Google DeepMind, Demis Hassabis, et d’autres responsables du secteur technologique ont également soutenu une plus grande attention à la sécurité.
Altman a même évoqué la possibilité que le développement de l’IA dépasse la capacité humaine à le maîtriser. Dans une interview en septembre, il a déclaré : « Les gens doivent toujours contrôler l’avenir, et nous ne pouvons courir le moindre risque de perte de contrôle. »
Ses remarques sont d’autant plus notables que Altman est l’un des défenseurs les plus en vue du développement d’une IA de plus en plus capable. Il a soutenu que la technologie pourrait apporter d’immenses avantages, tout en affirmant que les mesures de sécurité doivent suivre le rythme de ses capacités.
Cette préoccupation rejoint l’argument de Léon : la question n’est pas de savoir si la technologie doit progresser, mais si la société peut suivre le rythme des questions éthiques soulevées par une IA de plus en plus puissante.
Quand le Pape Léon a‑t‑il publié son encyclique sur l’IA, Magnifica Humanitas ?
Les préoccupations de Léon concernant l’intelligence artificielle précèdent sa visite en France. Son encyclique Magnifica Humanitas : Veiller sur la personne humaine à l’époque de l’intelligence artificielle a été publié le 15 mai. Le Vatican le décrit comme un examen de la façon dont l’IA devrait être gouvernée afin de protéger la dignité humaine.
Dans l’encyclique, Léon établit une distinction entre les systèmes artificiels et l’intelligence humaine qui fait écho à ses remarques à Paris.
« Il faut éviter l’erreur consistant à assimiler ce type d’« intelligence » à celle des êtres humains », écrit‑il.
Il reconnaît que les systèmes d’IA peuvent surpasser les humains dans certains domaines, notamment la vitesse et la capacité de calcul, tout en soutenant que leurs capacités restent fondamentalement liées au traitement des données.
Il écrit que les systèmes d’IA « ne vivent pas d’expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas par les relations et ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié ou la responsabilité ».
L’encyclique indique aussi que l’objectif ne doit pas se limiter à réguler l’IA après coup. Léon soutient que l’intelligence humaine, la conscience et la liberté doivent rester responsables de diriger l’innovation technologique et de déterminer ses usages et ses limites appropriés.
Lorsque l’encyclique a été présentée officiellement en mai, Léon a déclaré avoir écouté non seulement des scientifiques et des ingénieurs enthousiastes quant au potentiel de l’IA, mais aussi des personnes qui s’inquiétaient des armes autonomes et des algorithmes capables de produire de nouvelles formes d’exclusion et de souffrance.
Il a employé un langage particulièrement fort pour décrire sa réponse : « l’intelligence artificielle doit être désarm[ée]. »
« Les décisions concernant la technologie ne doivent jamais être dissociées de la conscience et de la responsabilité », a déclaré Léon à l’époque.
L’encyclique a été accueilli avec un scepticisme chez certains acteurs de la tech, dont l’investisseur Peter Thiel, qui soutient que des régulations plus strictes en Occident pourraient placer les États‑Unis et leurs alliés en désavantage face à la Chine.
« Le Parti communiste chinois n’écoutera pas le pape », a déclaré Thiel dans une interview jeudi. « Il y a une chance que des gens aux États‑Unis l’écoutent. Et donc, en somme, l’encyclique du pape revenait à “travailler pour le Parti communiste.” »
Thiel est associé au Founders Fund, qui investit dans des entreprises d’IA dont OpenAI, Palantir et Scale AI. Il a déjà critiqué des défenseurs éminents de nouvelles régulations technologiques et a plaidé contre des approches qu’il estime susceptibles de ralentir le progrès scientifique et technologique.
