Der erste amerikanische Papst kritisierte das Silicon Valley.
Papst Leo XIV., der erste amerikanische Papst, machte Künstliche Intelligenz zum Thema seiner ersten Enzyklika, "Magnifica Humanitas" – eine 42.300 Wörter umfassende Abhandlung, die argumentiert, dass die moralischen Aspekte neuer Technologien nicht von den wenigen Personen bestimmt werden sollten, die die entsprechenden Unternehmen besitzen. Er nimmt damit bewusst Bezug auf Leo XIII. und dessen "Rerum Novarum" aus dem Jahr 1891, die der Welt einen moralischen Rahmen für die industrielle Revolution gegeben hatte. Chris Olah von Anthropic, der neben ihm im Vatikan saß, stimmte zu: Die Forschungseinrichtungen benötigen eine Führung von außerhalb der großen Technologieunternehmen.
Die Enzyklika umfasste 42.300 Wörter. Das allein sagt schon etwas aus. Päpste schreiben normalerweise nicht so lange, wenn sie sich ihrer Zielgruppe sicher sind. Sie schreiben so lange, wenn sie denken, dass die Zielgruppe nicht zuhört.
Papst Leo XIV – der erste Amerikaner in diesem Amt – veröffentlichte am Dienstag seine erste Enzyklika, und widmete sie der künstlichen Intelligenz. Der Titel lautet Magnifica Humanitas. Die darin vorgebrachte Argumentation, ohne den lateinischen Jargon, lautet, dass die Welt die künstliche Intelligenz verlangsamen muss. Nicht die KI anhalten. Nicht sie verbieten. Sondern sie verlangsamen – so lange, dass der Rest von uns herausfinden kann, was wir eigentlich bauen, und ob diejenigen, die es bauen, diejenigen sein sollten, die entscheiden, wofür es gedacht ist.
Dieser letzte Teil ist der Kern der Sache.
Denn Magnifica Humanitas ist nicht wirklich ein Dokument über Maschinen. Es ist ein Dokument über die Frage, wer die Regeln festlegen darf für die mächtigste Technologie, die die Menschheit je geschaffen hat. Und Leo gibt die Antwort: Nicht die, die es derzeit tun.
Er erhebt die Ethik der künstlichen Intelligenz zu einer religiösen Verpflichtung – nicht zu einer Frage der Wirtschaft, nicht zu einer Frage der Regulierung, sondern zu einer Frage danach, was es bedeutet, Mensch zu sein. „Eine moralischere KI ist nicht genug“, heißt es in der Enzyklika, „wenn diese Moral von wenigen bestimmt wird.“ Dieser Satz hat eine große Bedeutung. Er räumt ein, dass die Labore versuchen. Er räumt ein, dass einige von ihnen sich wirklich darum kümmern. Und dann sagt er: Das ist egal. Die Moral einer Technologie der Spitzenklasse kann nicht von einer Handvoll Menschen festgelegt werden, die zufällig das Unternehmen besitzen.
Es ist fast komisch, wer mit ihm übereinstimmt.
Am selben Tag, an dem Leo’s Enzyklika veröffentlicht wurde, saß Chris Olah von Anthropic – einer der Mitbegründer eines der führenden KI-Labore – neben dem Papst bei der Präsentation im Vatikan. Olah sagte Reportern, dass die künstliche Intelligenz von außerhalb der großen Technologieunternehmen gesteuert werden muss: von religiösen Führern, Regierungen, der Zivilgesellschaft. Die führenden Labore, sagte er, agieren unter Anreizen, “die manchmal im Konflikt mit dem richtigen Handeln stehen können”. Das ist ein Mitbegründer eines führenden Labors, der im Vatikan sitzt und dem Papst sagt, er habe Recht. Das Argument kommt nicht mehr nur von außerhalb der Branche. Es kommt auch von innen, und die Branche sucht Hilfe.
Um zu verstehen, warum gerade ein Papst diese Botschaft überbringt, muss man 134 Jahre zurückblicken.
Im Jahr 1891 verfasste ein weiterer Papst Leo – der dreizehnte – eine Enzyklika namens Rerum Novarum. Es war die erste ernsthafte Auseinandersetzung der Kirche mit der industriellen Revolution: mit Fabriken, mit Massenarbeit, mit den neuen Wirtschaftsmächten, die jede Institution übertroffen hatten, die dazu bestimmt war, sie zu kontrollieren. Rerum Novarum stoppte die Industrialisierung nicht. Sie tat etwas Interessanteres. Sie gab der katholischen Kirche eine moralische Sprache für die moderne Wirtschaft – Arbeitnehmerrechte, faire Löhne, die Würde der Arbeit –, die Politiker, Gewerkschaften und Reformer im folgenden Jahrhundert aufgriffen.
Papst Leo XIV tut, namentlich und in seiner Absicht, dasselbe für die künstliche Intelligenz. Magnifica Humanitas spiegelt ihre Vorgängerin so bewusst wider, dass Gelehrte es innerhalb von Stunden bemerkten. Die Annahme ist, dass die Kirche das moralische Vokabular einer technologischen Ära prägen kann, bevor die Technologie uns selbst prägt.
Dann gibt es noch die Frage, wer Leo ist.
Er ist der erste amerikanische Papst. Er verbrachte Jahrzehnte in den Vereinigten Staaten. Er weiß, anders als seine Vorgänger, genau, was Silicon Valley ist – sein Selbstbild, seine Theologie des Fortschritts, sein Glaube, dass alles, was es als Nächstes auf den Markt bringt, das ist, was die Welt endlich besser macht. Die künstliche Intelligenz als Thema seiner ersten Enzyklika zu wählen, war keine abstrakte Geste. Es war ein Ziel. Ein amerikanischer Papst, der mit der mächtigsten amerikanischen Industrie Streit sucht, in seinem ersten offiziellen Akt. Die Geometrie davon ist schwer zu übersehen.
Er führte am selben Tag einen zweiten Streit. Leo veröffentlichte eine historische Entschuldigung für die Rolle des Vatikans bei der Legitimierung der Sklaverei, insbesondere für die päpstlichen Urkunden des 15. Jahrhunderts, die die moralische Rechtfertigung für die europäische Kolonialisierung und den Sklavenhandel lieferten. Zwei Konfrontationen an einem Tag, beide argumentieren das Gleiche: Die Kirche hat in der Vergangenheit über die Kräfte ihrer Zeit falsch gelegen, und sie will diesmal rechtzeitig handeln.
Wird diese Botschaft ankommen?
Rerum Novarum funktionierte, weil sie der Welt eine moralische Vorstellungskraft gab, um den Umgang mit dem industriellen Kapitalismus zu gestalten – eine Möglichkeit, Arbeitnehmer als Menschen zu betrachten, Fabriken als moralische Räume und Profit als Frage und nicht als Antwort. Magnifica Humanitas versucht das Gleiche mit einer Technologie, die schneller voranschreitet als jede Institution, einschließlich des Vatikans, verarbeiten kann. Die führenden Labore bringen alle sechs Monate neue Produkte auf den Markt. Enzykliken erscheinen einmal pro Amtszeit eines Papstes. Die Asymmetrie ist real.
Aber die Asymmetrie war bereits im Jahr 1891 real. Fabriken entwickelten sich auch schneller als die Kirche. Die Kirche schrieb trotzdem. Und die Sprache blieb bestehen, weil es einen Moment gab und jemand ihn benannte.
Was Leo am Dienstag getan hat, war, diesen Moment zu benennen.
Es geht nicht darum, dass die Kirche die künstliche Intelligenz regulieren wird. Die Kirche kann nichts regulieren. Es geht darum, dass die Diskussion darüber, wofür die künstliche Intelligenz dafür ist, bisher in einer Handvoll Gebäuden in Nordkalifornien stattgefunden hat, und dass dies nicht der Ort dafür sein sollte, und dass die restliche Welt – religiös, zivil, staatlich, alltäglich – ein Vokabular benötigt, um in diesen Raum einzutreten.
42.300 Wörter sind eine lange Art zu sagen: machen Sie mit.