Datum26.05.2026 13:50

Quellewww.spiegel.de

TLDRPapst Leo XIV. fordert in seiner Enzyklika "Magnifica Humanitas" eine Verlangsamung und stärkere Regulierung der KI-Entwicklung. Er warnt vor Risiken wie Desinformation und militärischem Missbrauch, insbesondere beim Einsatz von KI in Kriegen. Vertreter der Techbranche, darunter ein Mitgründer von Anthropic, begrüßen die Forderungen nach ethischen Leitlinien und externer Aufsicht. Sie betonen die Notwendigkeit, dem Profitstreben entgegenzuwirken und die Menschheit in den Mittelpunkt der Technologieentwicklung zu stellen.

InhaltLeo XIV. warnt vor einer zu schnellen, zu rücksichtslosen Entwicklung künstlicher Intelligenz. An seiner Seite: ein Mitgründer von Anthropic. Auch Vertreter anderer KI-Firmen sollen den Papst getroffen haben. Papst Leo XIV. hat in seinem ersten großen Lehrschreiben gefordert, künstliche Intelligenz (KI) stärker zu regulieren und die Entwicklung von KI-gesteuerten Systemen zu verlangsamen. In der am Montag veröffentlichten Enzyklika "Magnifica Humanitas", übersetzt erhabene oder großartige Menschlichkeit, warnt der Papst davor, dass KI-Technologie Desinformation verbreite und die Welt in endlose Kriege stürzen könne. Es bedürfe eines aktiveren ‌politischen Engagements, um die Dinge zu entschleunigen, wenn sich ​alles beschleunige, sagt er. Leo XIV. fordert zudem strenge ethische Grenzen für den Einsatz von KI beim Militär und insbesondere in der Fernkriegsführung. Er betonte, es sei unzulässig, Maschinen über Leben und Tod entscheiden zu lassen. Mit dieser Haltung unterscheidet sich Leo XIV., der in den USA geboren wurde, von der Trump-Regierung. Diese setzt sich bei der KI-Entwicklung für eine Deregulierung ein, hat mit dem Papst aber noch weitere Konfliktpunkte. "Künstliche Intelligenz muss entwaffnet werden, befreit von den Logiken, die sie zu einem Instrument der Herrschaft, der Ausgrenzung und des Todes machen", sagte Leo XIV. bei einer Präsentation der Enzyklika im Vatikan. In seinem Werk prangert der Papst wiederholt die Konzentration von Macht und Daten in den Händen weniger Menschen im privaten Sektor als Gefahr an. Er forderte eine externe Regulierung ihrer Arbeit. "Es reicht nicht aus, sich abstrakt auf Ethik zu berufen. Es bedarf solider rechtlicher Rahmenbedingungen, unabhängiger Aufsicht, informierter Nutzer und eines politischen Systems, das seine Verantwortung nicht abgibt", so Leo XIV. "Eine moralischere KI reicht nicht aus, wenn diese Moral von einigen wenigen bestimmt wird." An KI-Entwickler und für KI-Regulierung verantwortliche politische Entscheidungsträger appelliert der Papst, einen Gang zurückzuschalten und über ihr Handeln nachzudenken. Er fordert sie nachdrücklich auf, sich an ethischen und spirituellen Leitlinien zu orientieren und nicht für den eigenen Profit oder die eigene Macht, sondern zum Wohle der Menschheit zu arbeiten. Bei der Vorstellung der Enzyklika sprach auch Christopher "Chris" Olah. Er ist Mitgründer der KI-Firma Anthropic, die sich derzeit in einem Rechtsstreit mit der Trump-Regierung über den Zugang zu seiner KI-Technologie und deren Nutzung zur Massenüberwachung oder in vollautonomen Waffen befindet. Mehr zu diesem Thema lesen Sie hier. Olah begrüßte die Kritik und Besorgnis des Papsts sowie dessen Ruf nach externen Kontrollen, gerade da "eine reale Möglichkeit" bestehe, "dass KI menschliche Arbeitskraft in sehr großem Umfang verdrängen wird". Technologiekonzerne stünden unter starkem kommerziellen und geopolitischen Druck. Dieser könne ​im Widerspruch zu den Interessen der Gesellschaft stehen. Daher sei eine Überprüfung von außen unerlässlich. "Wir brauchen mehr Akteure weltweit – Religionsgemeinschaften, Zivilgesellschaft, Wissenschaftler, Regierungen –, die das tun, was Seine Heiligkeit hier getan hat: die Situation ernst nehmen, genau hinsehen und die Ereignisse in eine bessere Richtung lenken", sagte Olah. "Wir brauchen moralische Stimmen, die sich von Anreizen nicht beugen lassen." Der ‌Anthropic-Mitgründer nannte drei Bereiche, die dringend Aufmerksamkeit erfordern: das Risiko massenhafter Arbeitsplatzverluste, die weltweite gerechte Verteilung der KI-Vorteile sowie die ungelöste Frage, wie das zunehmend komplexe ‌Verhalten der Systeme zu interpretieren ​sei. Olah ist einer von sieben Mitgründern von Anthropic, einem KI-Unternehmen aus den USA, das das Thema Sicherheit zu einem zentralen Bestandteil seines öffentlichen Profils gemacht hat. Alle sieben haben zuvor bei OpenAI gearbeitet und das Unternehmen verlassen, weil sie unter anderem Bedenken hinsichtlich einer zu ​schnellen Entwicklung von KI mit zu wenig Tests hatten. Bei der Veranstaltung im Vatikan war Olah der einzige Vertreter ‌großer Technologiekonzerne. Wie "Politico" berichtet , hatte sich Papst Leo XIV. aber bereits Ende April, also im Vorfeld der Veröffentlichung der Enzyklika, mit Vertretern von Amazon, Meta und Google getroffen. OpenAI, das Unternehmen hinter ChatGPT, wurde nicht erwähnt. Wie einige andere Tech-CEOs hat sich Sam Altman bisher nicht öffentlich zu dem Lehrschreiben des Papsts geäußert. Einige Experten erklärten, "Magnifica Humanitas" könne als Bezugspunkt für politische Entscheidungsträger, Forschende und die breite Öffentlichkeit dienen. "Ich bin überzeugt, dass sich dieses Dokument als wegweisend für unsere Zeit erweisen wird, als ein tiefgründiges und prophetisches Dokument", sagte Paolo Carozza, Rechtsprofessor an der Notre Dame Law School und Vorsitzender des Meta-Aufsichtsgremiums. "Papst Leo spricht mit klarer, umfassender und schlüssiger Stimme und fordert uns auf, Verantwortung für die Gestaltung einer Welt zu übernehmen, in der die Technologie dem Menschen dient, anstatt ihn zu entwürdigen", sagte er. Taylor Black, KI-Manager bei Microsoft und Direktor des KI-Instituts der Katholischen Universität Amerika, sagte, das Dokument werde Menschen "an der Spitze dieser Technologien" dazu veranlassen, sich Fragen zu stellen wie: "Was bedeutet es, Mensch zu sein?" Das erste Lehrschreiben in der Amtszeit eines neuen Papstes gilt vielfach als eine Art Regierungserklärung für dessen Pontifikat, es soll Gläubigen in aller Welt einen moralischen Kompass geben. Die Auswirkungen der KI auf die Menschheit sind für Leo XIV. ein zentrales Thema. Er wählte seinen Papstnamen in Anlehnung an die industrielle Revolution, in deren Verlauf sein Namensvorgänger, Papst Leo XIII., die Enzyklika "Rerum novarum" zum Schutz der Arbeiter angesichts des technologischen Fortschritts veröffentlichte. Auf den Tag 135 Jahre später, am 15. Mai, hat Papst Leo XIV. seine erste Enzyklika unterschrieben. Als Nachfolger des verstorbenen Papsts Franziskus ist Papst Leo XIII. seit Mai vergangenen Jahres im Amt. Er ist der erste US-Amerikaner an der Spitze der katholischen Weltkirche.