Der Papst warnt vor KI - und ein KI-Konzern bittet Theologen um Hilfe
Ein extremes Experiment: Anthropic konsultiert religiöse Denker, um seinem Chatbot Claude Moral beizubringen. Was können jahrtausendealte Traditionen der KI-Entwicklung geben - und was nicht?
Es ist ein ungewöhnliches Eingeständnis für ein Unternehmen, das an der Spitze der Künstlichen Intelligenz steht. „Diese Fragen sind zu groß für uns geworden“, sagten Mitarbeiter des KI-Labors Anthropic bei einem Treffen mit religiösen Denkern Ende März. „Wir können sie nicht allein beantworten.“
Die Sätze stammen von Greg Cootsona, dem Geschäftsführer der Organisation AI and Faith, die Technologieunternehmen in ethischen Fragen berät. Er war einer von rund 15 Theologen und Ethikern, die Anthropic eingeladen hatte, um über die moralische Ausrichtung seines Chatbots Claude zu diskutieren. Das Ziel war nicht, eine fromme KI zu erschaffen, sondern die jahrtausendealten Traditionen moralischen Denkens für ein fünf Jahre altes KI-Labor nutzbar zu machen, dessen Systeme immer mächtiger werden.
Moral als technische Herausforderung
Hunderte Millionen Menschen sprechen jede Woche mit KI-Chatbots. Die Werte, die Entwickler durch Schutzmechanismen und nachträgliches Feintuning einbauen, prägen, was diese Modelle zu Themen wie Sterbebegleitung, Abtreibung oder Trauerbewältigung sagen. Es gibt kaum Regulierung, keine einheitliche Methode - und bis vor kurzem wenig externen Input.
Die Treffen mit den religiösen Denkern zielten darauf ab, Claudes sogenannte „Constitution“ zu verfeinern - eine schriftliche Sammlung von Prinzipien, mit denen das Modell seine eigenen Antworten bewertet und überarbeitet. Brian Patrick Green, Direktor für Technologieethik am Markkula Center for Applied Ethics der Santa Clara University, erklärt den Grundgedanken: „Ich glaube, sie haben einen Punkt erreicht, an dem sie erkennen, dass die Macht ihre interne Weisheit übersteigt. Sie haben gemerkt, dass sie Hilfe brauchen.“
Statt Regeln für jeden Einzelfall zu programmieren, verfolgt Anthropic einen anderen Ansatz. Green zufolge versucht das Unternehmen, so etwas wie eine Modell-„Persona“ zu formen - eine Art grundsätzliche Neigung zu gutem Verhalten, statt einer Checkliste von Verboten. Die jahrtausendealte Erfahrung der Religionen mit moralischer Bildung soll dabei helfen, einen Charakter zu modellieren, der nicht nur in bekannten Situationen richtig reagiert, sondern auch in völlig neuen.
Zwischen Demut und Ethik-Waschung
Die einfache Kritik an solchen Konsultationen liegt nahe: „Ethics Washing“ - das Ausborgen moralischer Autorität, um den eigenen Ruf zu polieren. Doch die Teilnehmer der Treffen widersprechen. „Es ist kein Ethics Washing“, sagt Green. „Es ist aufrichtig, soweit ich das beurteilen kann.“ Er weist darauf hin, dass Unechtheit mit religiösen Denkern rasch durchschaut würde und der daraus folgende Imageschaden schwer zu reparieren wäre.
Aufrichtigkeit garantiert jedoch nicht, dass ein Unternehmen tatsächlich nach dem handelt, was es hört. Nach Berichten mehrerer Teilnehmer waren die Treffen Ende März nicht immer rund. Green beschrieb die Stimmung als wechselhaft - manche Sitzungen waren von stärkerer Kameradschaft geprägt, andere „ein bisschen unbeholfener“. Selbst die Anwesenden waren sich nicht immer sicher, was mit den Erkenntnissen geschehen sollte: „Es gab auch die Frage: Was machen wir jetzt mit diesen Informationen, wo wir sie haben?“, erinnert sich Green.
Im Laufe der Zeit schien Anthropic das Format zu schärfen und besser zu lernen, wie man die Gespräche moderiert. Zudem weitete das Unternehmen den Kreis über christliche Denker hinaus aus, ein Treffen Ende April brachte Teilnehmer aus Judentum, Hinduismus, Mormonentum, Sikhismus und der griechisch-orthodoxen Kirche zusammen.
Der Papst schaltet sich ein
Die Gespräche fanden inmitten einer breiteren religiösen Auseinandersetzung mit KI statt. Am 25. Mai veröffentlichte Papst Leo XIV. seine erste Enzyklika mit dem Titel Magnifica Humanitas: Über den Schutz der menschlichen Person im Zeitalter der Künstlichen Intelligenz. In dem rund 40.000 Wörter umfassenden Traktat fordert er, die KI zu „entwaffnen“ - nicht abzulehnen, sondern von der Annahme zu befreien, dass „technische Macht automatisch das Recht zu herrschen verleiht“. Anthropics Mitgründer Christopher Olah war unter den Anwesenden bei der vatikanischen Präsentation.
Carissa Véliz, KI-Ethikerin an der Universität Oxford, sieht die zunehmend religiöse Färbung des Silicon Valley mit Sorge. Sie warnt, dass religiöse Begriffe und Bilder um KI herum - ob absichtlich oder nicht - eine ehrliche Diskussion erschweren können. „Die zunehmend religiösen Töne des Silicon Valley beunruhigen mich, weil sie eine Art Stammesmentalität fördern können, die sich mit Vernunft schwerer durchdringen lässt“, sagt sie. Religiöse Gefühle seien emotional aufgeladen und gäben „Führungspersönlichkeiten mehr Hebel, um Gehorsam zu erzeugen“.
Google · Deine QuellenWissnox höher in Ihrem Google - mit einem KlickZu bevorzugten Quellen hinzufügen →Ein Balanceakt ohne Vorbild
Anthropics Experiment veranschaulicht, wie schwer das Prinzip in die Praxis umzusetzen ist, das Papst Leo XIV. in seiner Enzyklika formuliert: dass algorithmische Macht nicht undurchsichtig und einseitig von oben auferlegt werden soll. Wer eine universelle, neutrale KI bauen will, kommt um Wertentscheidungen nicht herum - und darum auch nicht um die Frage, wessen Werte zählen.
Véliz schlägt eine pragmatischere Perspektive vor: „Ich frage mich, ob es bei diesen Unternehmen und Führungskräften sinnvoller ist herauszufinden, ob sie meinen, was sie sagen, oder ob es sinnvoller ist zu prüfen, ob ihr Handeln ethisch oder unethisch ist - unabhängig von ihren wahren Absichten, und unter Beachtung der Anreize, die ihr Geschäftsmodell setzt.“
Die Entwicklung zeigt vor allem eines: Die Frage, wie eine KI sich verhalten soll, ist längst aus den Ingenieurteams in ältere Institutionen moralischer Autorität gewandert. Ob die Allianz zwischen KI-Pionieren und religiösen Traditionen zu besseren Maschinen führt oder nur zu schöneren Absichtserklärungen, wird sich in dem erweisen, was Claude und seine Nachfolger tatsächlich sagen - und was sie verschweigen.
Quellen:
- Anthropic asks religious thinkers to help shape Claude as pope warns about AI (Scientific American)
- Gemini 3.1 Flash TTS: the next generation of expressive AI speech (DeepMind Blog)
- Testing LLMs on superconductivity research questions (Google Research Blog)
- AutoScout24 scales engineering with AI-powered workflows (OpenAI Blog)
- Universal transcriptomic hallmarks of mammalian ageing and mortality (Nature - News)
- Building self-improving tax agents with Codex (OpenAI Blog)
More on this from WISSNOX
klima·Das salzigste Gewässer der Erde bleibt flüssig bei minus 50 Grad - und gibt Rätsel aufDer Don-Juan-See in der Antarktis friert selbst bei extremsten Minusgraden nicht zu.