„Diese Fragen sind zu groß für uns“: Warum Anthropic Theologen bittet, Claude Moral beizubringen

Aktualisierung (9. November 2026): Claude Fable 5.2 und Mythos 5.2 sind erschienen - Preise, Zugang und Benchmarks im Überblick zu Claude Fable 5.2.

„Diese Fragen sind zu groß für uns. Wir können sie nicht allein beantworten.“ So erinnert sich Greg Cootsona an die Worte von Mitarbeitern des KI-Unternehmens Anthropic. Der Direktor der Organisation AI and Faith war einer von rund 15 religiösen Denkern, die Ende März mit dem Unternehmen zusammenkamen, um über eine der seltsamsten und folgenreichsten Fragen der Branche zu diskutieren: Wie bringt man einem Chatbot bei, gut zu sein?

Die Einladungen zu diesen Treffen kamen auf unterschiedlichen Wegen. Brian Patrick Green, Direktor für Technologieethik am Markkula Center for Applied Ethics der Santa Clara University, wurde über einen Freund eines Freundes angefragt. Beide fanden sich in einer Gesprächsreihe wieder, die sich um Claude drehte, den Chatbot von Anthropic, und um das moralische Rahmenwerk, das sein Verhalten leiten soll. Das Ziel war nicht, aus dem Chatbot einen frommen Bekehrer zu machen. Es war vielmehr das Eingeständnis, dass jahrhundertealte Traditionen moralischen Denkens einem fünf Jahre alten KI-Labor Einsichten bieten könnten, dessen Systeme immer fähiger, überzeugender und schwerer durch einfache Regeln zu steuern sind.

Die Verfassung eines Chatbots

Im Kern ging es um das, was Anthropic Claudes „Verfassung“ nennt - eine schriftliche Sammlung von Prinzipien, mit denen das Unternehmen die Antworten des Modells formt, unter anderem indem Claude seine eigenen Entwürfe anhand dieser Prinzipien kritisiert und überarbeitet. Green zufolge hat das Unternehmen erkannt, dass es „nicht für jeden einzelnen Fall, mit dem die KI in Kontakt kommen wird, eine Regel aufstellen kann“. Statt für jedes Szenario ein Verbot zu formulieren, zielt man darauf ab, so etwas wie eine Modell-„Persona“ zu formen - eine Disposition zu gutem Verhalten, nicht eine Checkliste von Verboten.

„Ich glaube, sie sind an einem Punkt angelangt, an dem sie merken, dass die Macht ihre hauseigene Weisheit übersteigt“, sagt Green. „Sie haben erkannt, dass sie Hilfe brauchen.“ Diese Hilfe sucht Anthropic nicht nur bei Ingenieuren, sondern bei Theologen und Ethikern - ein ungewöhnlicher Schritt, der die Frage aufwirft, wer eigentlich die Werte eines Chatbots bestimmen darf.

Der Papst schaltet sich ein

Die Gespräche fanden inmitten einer breiteren religiösen Auseinandersetzung mit KI statt. Am 25. Mai veröffentlichte Papst Leo XIV. seine erste Enzyklika, Magnifica Humanitas: Über die Bewahrung der menschlichen Person im Zeitalter der künstlichen Intelligenz, ein rund 40.000 Wörter langes Traktat, das fordert, KI zu „entwaffnen“ - nicht abzulehnen, aber von der Annahme zu befreien, dass „technische Macht automatisch das Recht zu regieren verleiht“. Christopher Olah, Mitbegründer von Anthropic, war unter den Anwesenden bei der vatikanischen Präsentation, die die Veröffentlichung des Lehrschreibens ankündigte.

Der Papst argumentiert, algorithmische Macht dürfe nicht von oben herab, undurchsichtig und einseitig ausgeübt werden. Anthropics Experiment, religiöse Stimmen einzubeziehen, zeigt, wie schwer dieses Prinzip in die Praxis umzusetzen ist. Hunderte Millionen Menschen sprechen mittlerweile jede Woche mit KI-Chatbots, und die Werte, die Entwickler durch Leitplanken und korrigierendes Training einbauen, prägen, was diese Modelle zu Themen wie Sterbebegleitung, Abtreibung oder Trauerbewältigung sagen. Es gibt kaum Regulierung, keine allgemein anerkannte Methode für diese Arbeit und bis vor Kurzem wenig externe Beteiligung.

Moralische Bildung für Maschinen

Was können religiöse Traditionen einer KI bieten? „Moralische Bildung ist ein Thema, mit dem sich Religionen seit Tausenden von Jahren beschäftigen“, sagt Green. „Welche Einsichten können sie uns geben, die wir nutzen können, um hoffentlich ein Modell zu erzeugen, das besser darin ist, das zu tun, was wir von ihm wollen - nämlich gut zu sein und keine schlechten Dinge zu tun?“ Die Antwort liegt nicht in dogmatischen Vorschriften, sondern in der Art und Weise, wie Religionen moralische Akteure formen und diese Lektionen in der Gesellschaft verankern.

Doch nicht jeder ist überzeugt, dass die Konsultation von Theologen das Verantwortungsproblem löst. Carissa Véliz, KI-Ethikerin an der Universität Oxford, fragt sich, ob es sinnvoller ist, darüber nachzudenken, ob das, was Unternehmen tun, ethisch oder unethisch ist - unabhängig von ihren wahren Absichten - , während man die Anreize ihres Geschäftsmodells im Blick behält. Der einfache Vorwurf lautet, Anthropic betreibe „Ethik-Washing“ - man leihe sich den moralischen Ernst der Religion, um den eigenen Ruf aufzupolieren. Die Teilnehmer der Treffen sahen jedoch etwas anderes. „Es ist kein Ethik-Washing“, sagt Green. „Es ist aufrichtig, soweit ich das beurteilen kann.“ Er weist darauf hin, dass Unaufrichtigkeit gegenüber religiösen Denkern schnell durchschaut würde und der daraus resultierende Rückschlag schwer zu verkraften wäre.

Aufrichtigkeit ist freilich keine Garantie, dass das Unternehmen das Gehörte auch umsetzt. Nach mehreren Berichten waren die Treffen Ende März nicht immer geschliffen. Green sagt, der Ton habe zwischen den Sitzungen variiert - manche waren von stärkerer Kameradschaft geprägt, andere „ein bisschen unbeholfener“ - , und selbst die Teilnehmer waren sich nicht immer im Klaren darüber, was als Nächstes geschehen sollte. Mit der Zeit schien Anthropic das Format zu schärfen und lernte, die Diskussionen besser zu moderieren. Zudem weitete das Unternehmen den Kreis über christliche Denker hinaus aus: Ein Treffen Ende April brachte Teilnehmer aus mehreren religiösen Traditionen zusammen, darunter Judentum, Hinduismus, Mormonentum, Sikhismus und die griechisch-orthodoxe Kirche.

Zwischen Demut und Improvisation

Dass ein führendes Unternehmen nun Theologen konsultiert, ist entweder ein seltenes Zeichen von Demut oder ein Beleg dafür, dass die Branche ihre Ethik in Echtzeit improvisiert - möglicherweise beides. Véliz sorgt sich, dass die Verwendung religiöser Begriffe und Bilder rund um KI - ob absichtlich oder nicht - ehrliche Gespräche erschweren kann. „Die zunehmend religiösen Töne des Silicon Valley beunruhigen mich, denn sie können eine Art Stammesmentalität hervorrufen, die mit Vernunft schwerer zu durchdringen ist“, sagt sie. Religiöse Gefühle seien oft emotional aufgeladen, was Führungskräften mehr Hebelwirkung verleihe, um Gehorsam zu inspirieren.

Die Skepsis in der Bevölkerung ist ohnehin groß. Eine Umfrage von NBC News im März ergab, dass die Mehrheit der Menschen in den USA die Risiken der KI für größer hält als ihren Nutzen. Nur 26 Prozent der Befragten äußerten positive Gefühle gegenüber KI, während 46 Prozent negative Ansichten hatten. In diesem Klima der Verunsicherung wirkt Anthropics Vorstoß wie ein Versuch, moralische Legitimität zu gewinnen - doch er offenbart zugleich, wie unvorbereitet die Branche auf die ethischen Dimensionen ihrer eigenen Schöpfungen ist.

Am Ende bleibt die Frage, ob eine von Theologen mitgestaltete Verfassung tatsächlich zu einem „guten“ Chatbot führt - und wer darüber entscheidet, was gut bedeutet. Die Antwort wird nicht in einem einzelnen Prinzip liegen, sondern in der fortwährenden, oft unbequemen Auseinandersetzung darüber, wie viel Macht wir Algorithmen geben und nach welchen Regeln sie diese Macht ausüben sollen.

Quellen:

• OpenAI and Malta partner to bring ChatGPT Plus to all citizens (OpenAI Blog)
• How Ramp engineers accelerate code review with Codex (OpenAI Blog)
• Anthropic asks religious thinkers to help shape Claude as pope warns about AI (Scientific American)
• Do you hate or love AI? Take <i>Nature’s </i>poll (Nature - News)
• Widespread AI misuse forces higher education to rethink assessment (Phys.org)
• MUFG aims to become AI-native with OpenAI (OpenAI Blog)

// weiterlesenDer Papst warnt vor KI - und ein KI-Konzern bittet Theologen um HilfeAlgorithmenClaude Duet: Was Anthropics proaktiver Agent kannKI-WerkzeugeClaude Fable 5.2 nutzen: App, Claude Code und APIMagazin

Kinetyra