Le premier pape américain a critiqué la Silicon Valley.
Le pape Léon XIV, le premier pape américain, a fait de l'intelligence artificielle le sujet de sa première encyclique, "Magnifica Humanitas", un texte de 42 300 mots qui argumente que la moralité des technologies de pointe ne devrait pas être définie par le petit nombre de personnes qui possèdent les entreprises qui les développent. Il fait volontairement écho à "Rerum Novarum" de Léon XIII, datant de 1891, qui a donné au monde un vocabulaire moral pour la révolution industrielle. Chris Olah, de Anthropic, qui était assis à ses côtés au Vatican, a exprimé son accord : les laboratoires ont besoin de conseils venant de l'extérieur des grandes entreprises technologiques.
L’encyclique comptait 42 300 mots. Cela seul vous donne une indication. Les papes ne s’étendent généralement pas autant lorsqu’ils sont sûrs de leur public. Ils s’étendent autant lorsqu’ils pensent que le public n’écoute pas.
Le pape Léon XIV — le premier Américain à occuper cette fonction — a publié sa première encyclique mardi, et il l’a consacrée à l’intelligence artificielle. Le titre est Magnifica Humanitas. L’argument, dépouillé de son latin, est que le monde a besoin de ralentir. Pas pour arrêter l’IA. Pas pour l’interdire. Pour la ralentir — suffisamment longtemps pour que le reste d’entre nous comprenne ce que nous construisons, et si les personnes qui la construisent devraient être celles qui décident de son utilité.
C’est là que réside l’essentiel.
Car Magnifica Humanitas n’est pas vraiment un document sur les machines. C’est un document sur ceux qui ont le droit de fixer les règles pour la technologie la plus puissante que l’humanité ait jamais créée. Et la réponse de Léon est : ce ne sont pas ceux qui le font actuellement.
Il élève l’éthique de l’IA au rang de impératif religieux — et non une question d’entreprise, ni une question réglementaire, mais une question de ce que signifie être humain. “Une IA plus morale ne suffit pas,” lit-on dans l’encyclique, “si cette moralité est déterminée par quelques-uns.” Cette phrase est très importante. Elle reconnaît que les laboratoires s’efforcent d’agir de manière éthique. Elle reconnaît que certains d’entre eux se soucient réellement. Et puis, elle ajoute : cela ne suffit pas. La moralité d’une technologie de pointe ne peut être définie par une poignée de personnes qui possèdent l’entreprise.
Il est presque amusant de voir qui est d’accord avec lui.
Le même jour où l’encyclique de Léon a été publiée, Chris Olah, de Anthropic — l’un des cofondateurs d’un des principaux laboratoires d’IA — était assis à côté du pape lors de la présentation au Vatican. Olah a déclaré aux journalistes que l’IA doit être guidée par des acteurs extérieurs aux grandes entreprises : par des chefs religieux, des gouvernements, la société civile. Les laboratoires de pointe, a-t-il déclaré, fonctionnent selon des incitations “qui peuvent parfois entrer en conflit avec le fait d’agir correctement”. C’est un cofondateur d’un laboratoire de pointe, assis au Vatican, qui dit au pape qu’il a raison. L’argument ne vient plus seulement de l’extérieur de l’industrie. Il vient aussi de l’intérieur, et l’intérieur cherche de l’aide.
Pour comprendre pourquoi un pape est celui qui délivre ce message, il faut remonter de 134 ans.
En 1891, un autre pape Léon — le treizième — a écrit une encyclique intitulée Rerum Novarum. C’était la première confrontation sérieuse de l’Église avec la révolution industrielle : avec les usines, avec le travail de masse, avec les nouvelles puissances économiques qui avaient dépassé toutes les institutions censées les contrôler. Rerum Novarum n’a pas arrêté l’industrialisation. Elle a fait quelque chose de plus intéressant. Elle a donné à l’Église catholique un langage moral pour l’économie moderne — les droits des travailleurs, les salaires équitables, la dignité du travail — que les politiciens, les syndicats et les réformateurs ont emprunté pendant le siècle suivant.
Léon XIV, par son nom et par son intention, fait la même chose pour l’IA. Magnifica Humanitas fait écho à son prédécesseur de manière si délibérée que les universitaires l’ont remarqué en quelques heures. L’enjeu est de savoir si l’Église peut façonner le vocabulaire moral d’une ère technologique avant que la technologie ne nous façonne.
Il y a aussi la question de qui est Léon.
Il est le premier pape américain. Il a passé des décennies aux États-Unis. Il sait, contrairement à ses prédécesseurs, exactement ce que Silicon Valley est : son image de soi, sa théologie du progrès, sa conviction que tout ce qu’elle lance est la chose qui rendra enfin le monde meilleur. Choisir l’IA comme sujet de sa première encyclique n’était pas un geste abstrait. C’était une cible. Un pape américain, qui s’attaque à l’industrie américaine la plus puissante, lors de son premier acte officiel. La géométrie de cela est difficile à ignorer.
Il a déclenché une deuxième bataille le même jour. Léon a publié un appel historique aux excuses pour le rôle du Vatican dans la légitimation de l’esclavage, plus précisément pour les bulles papales du XVe siècle qui ont donné une couverture morale à la colonisation européenne et à la traite négrière. Deux confrontations en un jour, toutes deux plaidant pour la même chose : l’Église s’est trompée dans le passé concernant les pouvoirs de son époque, et elle a l’intention de ne pas se tromper cette fois.
Cela va-t-il porter ses fruits ?
Rerum Novarum a fonctionné parce qu’elle a donné au monde une façon de penser au capitalisme industriel — une façon de considérer les travailleurs comme des êtres humains, les usines comme des espaces moraux, le profit comme une question plutôt qu’une réponse. Magnifica Humanitas essaie la même chose avec une technologie qui évolue plus rapidement que toute institution ne peut la comprendre, y compris le Vatican. Les laboratoires de pointe lancent de nouveaux produits tous les six mois. Les encycliques sont publiées une fois par pontificat. L’asymétrie est réelle.
Mais l’asymétrie était également réelle en 1891. Les usines évoluaient également plus rapidement que l’Église. L’Église a écrit quand même. Et le langage a perduré, car c’était un moment, et quelqu’un lui a donné un nom.
Ce que Léon a fait mardi, c’est donné un nom à ce moment.
L’objectif n’est pas que l’Église réglemente l’IA. L’Église ne peut réglementer rien. L’objectif est que la conversation sur ce que l’IA est censée être se déroule actuellement dans une poignée de bâtiments en Californie du Nord, et que ce n’est pas là qu’elle devrait se dérouler, et que le reste du monde — religieux, civique, gouvernemental, ordinaire — a besoin d’un vocabulaire pour participer à cette conversation.
Quarante-deux mille trois cents mots, c’est une longue façon de dire : participez.