Wortlaut: Papstbotschaft zum Weltmedientag

Künstliche Intelligenz und Weisheit des Herzens: für eine wahrhaft menschliche Kommunikation

Liebe Brüder und Schwestern!

Die Entwicklung von Systemen sogenannter „künstlicher Intelligenz“, über die ich mich bereits in meiner jüngsten Botschaft zum Weltfriedenstag geäußert habe, verändert die Information und Kommunikation und damit einige der Grundlagen des zivilen Zusammenlebens in radikaler Weise. Es handelt sich um einen Wandel, der alle betrifft, nicht nur Fachleute. Die beschleunigte Verbreitung wunderbarer Erfindungen, deren Funktionsweisen und Potenziale den meisten von uns verschlossen bleiben, löst ein Erstaunen aus, das zwischen Begeisterung und Orientierungslosigkeit schwankt und uns unweigerlich mit grundlegenden Fragen konfrontiert: Was ist der Mensch, was ist seine Besonderheit, und wie sieht die Zukunft unserer Spezies homo sapiens im Zeitalter der künstlichen Intelligenz aus? Wie können wir wahrhaft Mensch bleiben und den stattfindenden kulturellen Wandel zum Guten lenken?

Vom Herzen ausgehen

Zunächst einmal lohnt es sich, das Terrain von schwarzmalerischen Lesarten und ihren lähmenden Auswirkungen zu räumen. Romano Guardini, der sich bereits vor hundert Jahren Gedanken über die Technik und den Menschen machte, rief dazu auf, sich nicht gegen das „Neue“ zu versteifen, in dem Bemühen, »eine schöne Welt zu bewahren […], die untergehen muss«. Zugleich warnte er aber auch eindringlich und prophetisch: »Unser Platz ist im Werdenden. Wir sollen uns hineinstellen, jeder an seinem Ort, [...] ehrlich unser Ja dazu sprechen; doch zugleich mit unbestechlichem Herzen fühlend bleiben für alles, was darin zerstörend, unmenschlich ist«. Und er schloss mit den Worten: »Wohl handelt es sich um technische, wissenschaftliche, politische Aufgaben; die aber sind nur vom Menschen her zu lösen. Ein neues Menschentum muss erwachen, von tieferer Geistigkeit, neuer Freiheit und Innerlichkeit«[1].

In diesem Zeitalter, das in der Gefahr steht, reich an Technik und arm an Menschlichkeit zu sein, muss unser Nachdenken vom menschlichen Herzen ausgehen[2]. Nur wenn wir eine geistliche Sichtweise einnehmen, nur wenn wir wieder eine Herzensweisheit erlangen, können wir die Neuerungen unserer Zeit deuten und interpretieren und den Weg zu einer wahrhaft menschlichen Kommunikation wiederentdecken. Das Herz, biblisch verstanden als Sitz der Freiheit und der wichtigsten Lebensentscheidungen, ist ein Symbol der Ganzheit, der Einheit, aber es hat auch mit Gefühlen, Wünschen und Träumen zu tun; vor allem ist es ein innerer Ort der Gottesbegegnung. Die Herzensweisheit ist also jene Tugend, die es uns ermöglicht, das Ganze und die Teile, die Entscheidungen und ihre Folgen, die Stärken und die Schwächen, die Vergangenheit und die Zukunft, das Ich und das Wir miteinander zu verbinden.

Diese Weisheit des Herzens lässt sich von denen finden, die sie suchen, und sie lässt sich von denen erblicken, die sie lieben; sie kommt denen zuvor, die nach ihr verlangen, und sie geht auf die Suche nach denen, die ihrer würdig sind (vgl. Weish 6,12-16). Sie ist bei denen, die sich beraten lassen (vgl. Spr 13,10), bei denen, die ein fügsames Herz, ein hörendes Herz haben (vgl. 1 Kön 3,9). Sie ist eine Gabe des Heiligen Geistes, die es ermöglicht, die Dinge mit den Augen Gottes zu sehen, die Zusammenhänge, Situationen, Ereignisse zu verstehen und ihre Bedeutung zu entdecken. Ohne diese Weisheit wird das Leben fade, denn es ist gerade die Weisheit – deren lateinische Wortwurzel sapere sie mit sapor (Geschmack) verbindet – die dem Leben Geschmack verleiht.

Chancen und Gefahren

Wir können diese Weisheit nicht von Maschinen erwarten. Auch wenn der Begriff künstliche Intelligenz inzwischen den korrekteren, in der wissenschaftlichen Literatur verwendeten Begriff maschinelles Lernen verdrängt hat, ist allein schon die Verwendung des Wortes „Intelligenz“ irreführend. Maschinen verfügen sicherlich über eine unermesslich größere Fähigkeit als der Mensch, Daten zu speichern und sie untereinander in Beziehung zu setzen, aber es ist kommt dem Menschen zu, und nur ihm, deren Sinn zu verstehen. Es geht also nicht darum von Maschinen zu verlangen, menschlich zu wirken. Es geht vielmehr darum, den Menschen aus der Hypnose zu wecken, in die er aufgrund seines Allmachtswahns verfällt, indem er sich für ein völlig autonomes und selbstbezügliches Subjekt hält, das von allen sozialen Bindungen losgelöst ist und seine Geschöpflichkeit vergessen hat.

In Wirklichkeit macht der Mensch seit jeher die Erfahrung, dass er sich selbst nicht genügt und er versucht, seine Verwundbarkeit mit allen Mitteln zu überwinden. Bei den frühesten prähistorischen Artefakten angefangen, die als Verlängerung der Arme benutzt wurden, über die Medien, die als Erweiterung des Sprechens eingesetzt werden, sind wir heute bei den ausgefeiltesten Maschinen angelangt, die als Hilfsmittel für das Denken dienen. Jede dieser Wirklichkeiten kann jedoch durch die Urversuchung vergiftet werden, ohne Gott wie Gott zu werden (vgl. Gen 3), d.h. aus eigener Kraft das erobern zu wollen, was eigentlich als Geschenk Gottes angenommen und in der Beziehung zu anderen gelebt werden sollte.

Je nach Ausrichtung des Herzens wird alles, was sich in den Händen des Menschen befindet, zur Chance oder zur Gefahr. Selbst sein Körper, der als Ort der Kommunikation und Gemeinschaft geschaffen wurde, kann zu einem Mittel der Aggression werden. Ebenso kann jede technische Erweiterung des Menschen ein Werkzeug liebevollen Dienstes oder feindlicher Beherrschung sein. Die Systeme künstlicher Intelligenz können zur Befreiung von der Unwissenheit beitragen und den Informationsaustausch zwischen verschiedenen Völkern und Generationen erleichtern. Sie können zum Beispiel eine enorme Fülle von Wissen, das in vergangenen Zeiten aufgeschrieben wurde, zugänglich und verständlich machen oder Menschen in ihnen unbekannten Sprachen kommunizieren lassen. Aber sie können zugleich auch Instrument „kognitiver Verschmutzung“ sein, einer Verzerrung der Wirklichkeit durch teilweise oder gänzlich falsche Narrative, die dennoch geglaubt – und verbreitet – werden, als ob sie wahr wären. Es genügt, an das Problem der Desinformation zu denken, mit der wir seit Jahren in Form von Fake News[3] zu tun haben und die sich heute des Deep Fake bedient, d.h. der Erstellung und Verbreitung von Bildern, die vollkommen echt wirken, aber falsch sind (auch ich war davon schon betroffen), oder auch von Audiobotschaften, die die Stimme einer Person verwenden, um Dinge zu sagen, die dieselbe niemals gesprochen hat. Die Simulation, die diesen Programmen zugrunde liegt, kann in einigen speziellen Bereichen nützlich sein, aber sie wird dort abartig, wo sie die Beziehung zu den anderen und zur Wirklichkeit verdreht.

Die erste Welle der künstlichen Intelligenz, die der sozialen Medien, haben wir bereits in ihrer Ambivalenz verstanden, indem wir neben ihren Chancen auch ihre Risiken und Pathologien hautnah erlebt haben. Die zweite Stufe generativer künstlicher Intelligenz markiert einen unbestreitbaren qualitativen Sprung. Es ist daher wichtig, die Möglichkeit zu haben, die Instrumente zu verstehen, zu begreifen und zu regulieren, die in den falschen Händen zu negativen Szenarien führen können. Wie alles andere, das aus dem Geist und den Händen des Menschen hervorgegangen ist, sind auch Algorithmen nicht neutral. Daher ist es notwendig, präventiv zu handeln und Möglichkeiten für eine ethische Regulierung vorzuschlagen, um die schädlichen und diskriminierenden oder sozial ungerechten Auswirkungen von Systemen künstlicher Intelligenz einzudämmen und um zu verhindern, dass sie zur Verringerung von Pluralismus, zur Polarisierung der öffentlichen Meinung oder zur Herausbildung eines Einheitsdenkens eingesetzt werden. Ich erneuere daher meinen Appell und fordere »die Völkergemeinschaft auf, gemeinsam daran zu arbeiten, einen verbindlichen internationalen Vertrag zu schließen, der die Entwicklung und den Einsatz von künstlicher Intelligenz in ihren vielfältigen Formen regelt«[4]. Doch wie in jedem Lebensbereich reicht eine Reglementierung nicht aus.

In der Menschlichkeit wachsen

Wir sind aufgerufen, gemeinsam zu wachsen, in der Menschlichkeit und als Menschheit. Die Herausforderung, vor der wir stehen, liegt darin, einen qualitativen Sprung zu machen, um einer komplexen, multiethnischen, pluralistischen, multireligiösen und multikulturellen Gesellschaft gerecht zu werden. Es ist unsere Aufgabe, uns über die theoretische Entwicklung und den praktischen Gebrauch dieser neuen Instrumente der Kommunikation und der Erkenntnis Gedanken zu machen. Große Chancen auf Gutes gehen mit dem Risiko einher, dass sich alles in ein abstraktes Kalkül verwandelt, das die Menschen auf Daten reduziert, das Denken auf ein Schema, die Erfahrung auf einen Einzelfall, das Gute auf den Profit und vor allem, dass am Ende die Einzigartigkeit eines jeden Menschen und seiner Geschichte geleugnet wird und sich die Konkretheit der Wirklichkeit in eine Reihe statistischer Daten auflöst.

Die digitale Revolution kann uns freier machen, aber sicher nicht, wenn sie uns in Modelle einsperrt, die heute als Echokammern bekannt sind. In solchen Fällen besteht die Gefahr, sich in einem anonymen Sumpf zu verlieren und die Interessen des Marktes oder der Macht zu bedienen, statt den Informationspluralismus zu steigern. Es ist nicht hinnehmbar, dass der Gebrauch künstlicher Intelligenz zu einem anonymen Denken, zu einer Zusammensetzung von unbestätigten Daten und zu einer kollektiven redaktionellen Verantwortungslosigkeit führt. Die Abbildung der Wirklichkeit in Big Data, so zweckmäßig sie für den Gebrauch von Maschinen auch sein mag, impliziert nämlich einen erheblichen Verlust hinsichtlich der Wahrheit der Dinge, was die zwischenmenschliche Kommunikation behindert und unsere Menschlichkeit selbst zu beeinträchtigen droht. Information kann nicht von lebendiger Beziehung getrennt werden: Sie umfasst den Körper, das Stehen in der Wirklichkeit; sie verlangt, nicht nur Daten, sondern auch Erfahrungen miteinander in Beziehung zu setzen; sie erfordert das Gesicht, den Blick, das Mitgefühl und den Austausch.

Ich denke an die Berichterstattung über Kriege und an jenen „Parallelkrieg“, der durch Desinformationskampagnen geführt wird. Und ich denke daran, wie viele Reporter vor Ort verletzt werden oder sterben, damit wir sehen können, was ihre Augen gesehen haben. Denn nur, wenn wir das Leiden von Kindern, Frauen und Männern hautnah erleben, können wir die Absurdität von Kriegen verstehen.

Die Nutzung künstlicher Intelligenz wird einen positiven Beitrag im Bereich der Kommunikation leisten können, wenn sie die Rolle des Journalismus vor Ort nicht beseitigt, sondern ihn unterstützt; wenn sie die Professionalität der Kommunikation zur Geltung kommen lässt und jeden Kommunikator in die Verantwortung nimmt; wenn sie jedem Menschen wieder die Rolle eines kritikfähigen Subjekts der Kommunikation zurückgibt.

Fragen für Heute und Morgen

Es stellen sich daher spontan einige Fragen: Wie können die Professionalität und die Würde der Beschäftigten im Bereich der Kommunikation und Information sowie die der Nutzer weltweit geschützt werden? Wie kann die Interoperabilität der Plattformen gewährleistet werden? Wie kann sichergestellt werden, dass die Unternehmen, die digitale Plattformen entwickeln, ebenso Verantwortung für das übernehmen, was sie verbreiten und wovon sie profitieren, wie die Anbieter von traditionellen Medien? Wie können die Kriterien transparenter gemacht werden, die hinter den Algorithmen zur Indizierung und De-Indizierung sowie für Suchmaschinen stehen, welche in der Lage sind, Menschen und Meinungen, Geschichten und Kulturen zu verherrlichen oder auszulöschen? Wie lässt sich die Transparenz von Informationsprozessen gewährleisten? Wie kann man die Urheberschaft von Schriften ersichtlich und die Quellen nachvollziehbar machen, um einen Schirm der Anonymität zu verhindern? Wie kann offenkundig werden, ob ein Bild oder ein Video ein Ereignis abbildet oder es simuliert? Wie kann man vermeiden, dass sich Quellen auf eine einzige reduzieren, auf ein einziges, algorithmisch erzeugtes Denken? Und wie kann stattdessen ein Umfeld gefördert werden, das geeignet ist, den Pluralismus zu wahren und die Komplexität der Wirklichkeit darzustellen? Wie können wir dieses leistungsstarke, teure und extrem energieintensive Instrument nachhaltig werden lassen? Wie können wir es auch für Entwicklungsländer zugänglich machen?

Anhand der Antworten auf diese und andere Fragen werden wir verstehen, ob künstliche Intelligenz am Ende neue, auf Informationsdominanz basierende Kasten hervorbringen wird und neue Formen der Ausbeutung und Ungleichheit schafft oder ob sie im Gegenteil mehr Gleichheit mit sich bringt, indem sie korrekte Information und ein größeres Bewusstsein für den Zeitenwandel, den wir durchlaufen, fördert sowie das Hören auf die vielfältigen Bedürfnisse von Menschen und Völkern in einem artikulierten und pluralistischen Informationssystem begünstigt. Auf der einen Seite zeichnet sich das Gespenst einer neuen Sklaverei ab, auf der anderen Seite ein Zugewinn an Freiheit; einerseits die Möglichkeit, dass einige wenige das Denken aller bestimmen, andererseits die Chance, dass alle an der Entwicklung des Denkens mitwirken.

Die Antwort steht nicht fest, sie hängt von uns ab. Es liegt am Menschen zu entscheiden, ob er zum Futter für Algorithmen wird oder ob er sein Herz mit Freiheit nährt, das Herz, ohne das wir nicht in der Weisheit wachsen können. Diese Weisheit reift, indem man aus der Geschichte lernt und die Verletzlichkeit akzeptiert. Sie wächst im Bündnis der Generationen, zwischen denen, die sich an das Vergangene erinnern und denen, die Zukunftsvisionen hegen. Nur in Gemeinschaft wächst die Fähigkeit, zu unterscheiden, wachsam zu sein und die Dinge von ihrer Erfüllung her zu sehen. Lasst uns – damit wir unsere Menschlichkeit nicht verlieren – die Weisheit suchen, die früher als alles erschaffen wurde (vgl. Sir 1,4), die Gottesfreunde und Propheten schafft, indem sie in reine Seelen eintritt (vgl. Weish 7,27): Sie wird uns helfen, auch die Systeme künstlicher Intelligenz auf eine wahrhaft menschliche Kommunikation hin auszurichten.

Rom, Sankt Johannes im Lateran, 24. Januar 2024

FRANZISKUS

[1] Briefe vom Comer See, Berlin 1927, 93-96.

[2] Als Fortsetzung zu den Botschaften der vorangegangenen Welttage der sozialen Kommunikationsmittel, die sich den Aspekte widmeten, den Menschen zu begegnen, wo und wie sie sind (2021), mit dem Ohr des Herzens zu hören (2022) und mit dem Herzen zu sprechen (2023).

[3] Vgl »Die Wahrheit wird euch befreien« (Joh 8,32). Fake News und Journalismus für den Frieden. Botschaft zum 52. Welttag der sozialen Kommunikationsmittel, 2018.

[4] Botschaft zum 57. Weltfriedenstag, 1. Januar 2024, 8.