Kirche und KI: „Die Maschine will gar nichts“

Es war die bisher ausführlichste Stellungnahme des Papstes zum Thema. Tenor: Man sollte KI nicht verteufeln, aber genau im Blick behalten, welche Auswirkungen sie auf die Menschenwürde haben kann. Es stehe nicht a priori fest, dass sie „einen positiven Beitrag zur Zukunft der Menschheit und zum Frieden zwischen den Völkern leisten wird“.

„Die Dinge werden oft in der Form ‚die Maschine wird etwas mit uns machen‘ dargestellt, aber im Grunde bleibt die Maschine ein Computer, und das wird sich auch nicht ändern.“ Das sagt Mathieu Guillermin im Interview mit Radio Vatikan. Der Dozent an der katholischen Universität von Lyon in Frankreich ist Spezialist für künstliche Intelligenz – besonders für die philosophischen und ethischen Herausforderungen, die durch digitale Technologien aufgeworfen werden.

„Die Maschine ist ein mechanischer Schalter, der seine Kanäle öffnet oder schließt, je nachdem, was programmiert wurde, und wir messen dem große Bedeutung bei. Aber in Wirklichkeit will die Maschine gar nichts. Es geht also gar nicht um einen Gegensatz zwischen Maschine und Mensch. Es geht um Menschen, die Dinge mit Maschinen tun, und das wirkt sich auf andere Menschen aus – zum Guten oder zum Schlechten.“

Es geht um Menschen - nicht um Maschinen

Es geht also eigentlich- darauf will Guillermin hinaus – um Menschen. Nicht um Maschinen. „Es gibt keine Maschine, die etwas tut, weil sie es will. Es gibt möglicherweise Maschinen, die wir nicht beherrschen und die ‚Halluzinationen‘, also unerwünschte Ergebnisse, hervorrufen können, oder Maschinen, die wir sehr gut beherrschen…“

Allerdings: Die Art und Weise, wie der Algorithmus programmiert wird, kann unsere Entscheidungen beeinflussen. „Ja, das ist richtig. Hier steht etwas auf dem Spiel. Das ist eines der zugrunde liegenden Dinge, die man vielleicht nicht sofort in Verbindung zu Krieg und Frieden bringt, die aber sehr weit geht.“

Und das Risiko der geistigen Manipulation?

Je nachdem, wie sich eine Person verhalte, mache sich sozusagen die Maschine ein Bild von ihr – und könne auf Basis dieser Daten dann berechnen, wie sich die Person in der Folge verhalten könnte. Wohin sie reisen, wenn sie wählen wird… „Diese Art der Berechnung verleiht eine enorme Macht, die eine gute Macht sein kann. Ich bin froh, dass man mir Informationen geben kann, die mich interessieren, aber das kann sehr schnell in ein Angebot von Informationen abgleiten, die einfach nur meine Aufmerksamkeit erregen wollen, und das kann bis hin zur geistigen Manipulation gehen. Wir nennen das Überredungstechnologie. Das ist jetzt nicht durch KI neu entstanden, aber Künstliche Intelligenz wird das, was wir in diesem Bereich tun können, noch verstärken.“

Und hier rühren wir tatsächlich – wie Papst Franziskus das auch in seiner Friedensbotschaft zu KI getan hat – an das Thema Krieg und Frieden: „Die Ausnutzung unserer eigenen kognitiven Verzerrungen, der Art und Weise, wie wir denken und reagieren, kann dazu genutzt werden, falsche Informationen besser zu verbreiten oder Konflikte zu schüren. Das ist wirklich eine militarisierte Nutzung. Wenn man das Problem der kognitiven Blasen ausnutzt, die bewirken, dass man den Menschen nur das vor Augen führt, was sie interessiert, dann bilden sich nach einer Weile Gruppen von Menschen, die nur bestimmte Informationen haben, und andere, die andere Informationen haben.“

Künstliche gegen kollektive Intelligenz

Und dann zerstört das die „kollektive Intelligenz“ und den gemeinsamen Hintergrund, den man in einer Gesellschaft haben sollte, um über Frieden oder Spannungen zu sprechen.

„Das ist ein ungesunder Gebrauch von Algorithmen... Stattdessen könnte man diese Algorithmen nutzen, um zu sagen: ‚Okay, ich habe ein Profil von dir, ich erkenne ungefähr, wo wir übereinstimmen und wo nicht, und deshalb stütze ich mich darauf, um eine intelligentere Diskussion mit dir zu führen‘. Dann würden wir an Zusammenhalt und kollektiver Intelligenz gewinnen. Es könnte also durchaus eine gesunde Nutzung dieser Technologie geben.“

Könnte. Aber das ist eben nicht sicher. Die „wissenschaftlichen und technischen Fortschritte“ erlaubten dem Menschen „eine noch nie dagewesene Kontrolle über die Wirklichkeit“, warnt Papst Franziskus in seiner Botschaft. Das bringe Möglichkeiten mit sich, „von denen einige ein Risiko für das Überleben der Menschen und eine Gefahr für das gemeinsame Haus darstellen können“.

„Der Kontrollverlust ist bereits da“, bemerkt Guillermin dazu. „Er war sogar schon vor der Maschine da, weil wir eine prometheische Hybris haben. Wir haben Macht und werden zu Sklaven unserer Macht, wir setzen Dinge in Gang, die Sogwirkung entfalten, und stürzen uns hinein. Hier verlieren wir die Kontrolle über uns selbst.“

So weit, so besorgniserregend. „Genauso, wie Algorithmen uns dazu bringen können, auf eine bestimmte Art und Weise zu reagieren, ohne ein Minimum an Reflexion, ein Minimum an Urteilsvermögen und ein Minimum an Urteilsübung aufzuwenden, verlieren wir auch die Kontrolle und setzen Maschinen ein, die uns die Autonomie nehmen. Die Autonomie sollten wir uns aber nicht nehmen lassen: Sie bedeutet unsere Fähigkeit, Entscheidungen zu treffen, und vor allem, Entscheidungen nach bestem Wissen und Gewissen zu treffen. Hier wird unsere Autonomie verteidigt.“

(vatican news – sk mit material von jean-charles putzolu)