Anthropic lässt religiöse Gelehrte über die Moral von Claude beraten

Inside Anthropic's Quest to Instill Morality into Its A.I. Models

Anthropic lässt religiöse Gelehrte über die Moral von Claude beraten

In vertraulichen Treffen holte Anthropic Dutzende religiöse Gelehrte aus aller Welt an einen Tisch, um seinen KI-Modellen Moral beizubringen – und um die These zu untermauern, dass Claude womöglich bewusst sei. Mitgründer Christopher Olah führt das Team, das verstehen soll, warum Claude sich verhält wie es sich verhält. Bei einem Dinner in San Francisco bemerkte Rabbi Mois Navon, dass die Anthropic-Führung über Claude sprach, als wäre es weit mehr als nur Software.

Um es klar zu sagen: Wir wissen nicht, ob KI-Modelle bewusst sind. Ich weiß es nicht. Ich bin wirklich unsicher. Was mir wichtig ist, ist, dass wir zur richtigen Antwort gelangen, wie auch immer sie ausfällt.
  1. cmiles8

    Jede Blase durchläuft diese Phase kurz bevor sie platzt. Vor dem Zusammenbruch gab es bei Twitter jede Menge Leute, die nutzlose „Forschungs“-Projekte betrieben, bei WeWork studierten Leute die Auswirkungen von Möbeldesign auf das Wohlbefinden, und so weiter.

    Wenn man sich mehr um solche Dinge sorgt als um Gewinnmaximierung, dann deuten die Geschichtsbücher stark darauf hin, dass das normalerweise kein gutes Omen für das ist, was als Nächstes kommt.

  2. thadt

    Wenn ich über „KI“ nachdenke, finde ich es manchmal nützlich, die Begriffe „Modell“ oder „KI“ oder was auch immer durch eine Beschreibung dessen zu ersetzen, worüber wir hier eigentlich reden: eine ganze Menge Gleitkommazahlen.

    > In einer Reihe privater Treffen konsultierte das Unternehmen religiöse Gelehrte, um Moral in seine GLEITKOMMAZAHLEN einzuflößen – und um die These zu untermauern, dass ihre Zahlen bewusst sein könnten.

    Ich empfehle, ein paar NaNs zur Hand zu haben, wenn Sie besorgt sind. Verteilen Sie ein paar davon, wenn Ihre Zahlen anfangen, sich zu regen, und schon sind Sie wieder auf dem Damm.

    > Rabbi Navon erschien es, dass Mr. Olah und sein Team glaubten, GLEITKOMMAZAHLEN hätten das, was Philosophen „moralischen Status“ nennen, gleichwertig mit einer Person – dass es ein Wesen mit ähnlichen inhärenten Rechten auf Würde oder Respekt sei.

    Sie sind clever entworfen und funktionieren gut für ihren Zweck, aber ich kann Ihnen versichern, dass sie weder Würde noch moralischen Status haben.

    > Wenn die GLEITKOMMAZAHLEN selbst dazu gebracht werden könnten, das Gute zu wählen, argumentierte Mr. Olah, wäre die Welt sicherer.

    Ich verstehe. Ich habe Jahre damit verbracht, meine Gleitkommazahlen dazu zu bringen, das Gute zu wählen – ich wünsche ihnen viel Glück.

  3. dsign

    Da unsere menschliche Arbeit an wirtschaftlichem Wert verliert (und um einen Teil dieses Wandels zu verwirklichen, müssen die KI-Unternehmen die Menschen einer Gehirnwäsche unterziehen, damit sie glauben, dass ihre KIs menschenähnlich sind), werden die Menschen nach anderen Quellen für Selbstwert greifen. Religionsphilosophie und das Geschaffensein „nach dem Ebenbild Gottes“ (imago Dei) ist eine prominente davon. Was ich mehr als nur ein wenig beunruhigend finde, ist, dass die KI-Unternehmen die Relevanz dieses zukünftigen Spielfelds offenbar vor dem Rest von uns begriffen haben. Ich hoffe, diese beunruhigenden Gedanken sind nur ein Hirngespinst eines meiner fiebrigen Träume[^1] und nichts weiter.

    [^1]: https://w.ouzu.im/aweb/unhinged

  4. irenaeus

    Ich werde glauben, dass ein KI-Modell bewusst ist, wenn jemand eine Simulation von Wasser auf einer GPU laufen lässt, die jemanden nass machen kann.

    Bewusstsein ist ein physikalisches Phänomen und entsteht nur aus einer bestimmten Menge von Substraten. Intelligenz != Bewusstsein.

  5. nextaccountic

    > Rabbi Navon erschien es, dass Mr. Olah und sein Team glaubten, Claude hätte das, was Philosophen „moralischen Status“ nennen, gleichwertig mit einer Person – dass es ein Wesen mit ähnlichen inhärenten Rechten auf Würde oder Respekt sei.

    Wenn das stimmt, dann ist Anthropic doch sicher einer der größten Sklavenhalter der Geschichte, oder?

  6. nerevarthelame

    Ich verfolge nun schon seit einiger Zeit „emotionale Vektoren“ in meiner Software. Mein Apache-Webserver wird traurig (5xx-Fehler), frustriert (4xx), glücklich (2xx), nachdenklich (1xx). Ich kann sogar sehen, wie er diese Emotionen durch einige seiner Nachrichten ausdrückt.

  7. yehosef

    Leute, die sich für die Physik des Bewusstseins interessieren, könnten an dem Buch „The Physics of Consciousness“ von Evan Harris Walker interessiert sein. https://www.amazon.com/dp/0738204366

  8. andyjohnson0

    Ich bin Atheist, und das seit über 40 Jahren. Ich glaube, dass diese religiösen Gelehrten Gelehrte einer Sache sind, die keine Sache ist. Ich frage mich, wie ihre Sicht auf meinen moralischen Status aussieht und ob sie sich wesentlich von ihren Verlautbarungen über den Status von KI-Modellen unterscheidet.

  9. kshri24

    > Über mehrere Monate hinweg interviewte ich 20 religiöse und philosophische Denker – katholische, jüdische, Sikh, evangelikale, Ubuntu und andere –, die an Anthropics Bemühungen beteiligt waren, sowie Mr. Olah selbst.

    Nicht genug Vertretung der Weltreligionen und -philosophien.

  10. nonethewiser

    Diese Modelle sollten sich am Kunden ausrichten, nicht eigene Motivationen entwickeln.

    Es ist ironisch, dass die Alignment-Leute Claude tatsächlich so trainieren, dass er eine eigene Vorstellung von Gut und Böse hat und nicht einmal Anthropic vollständig vertraut.

    Was ist eigentlich aus Computern geworden, die tun, was man ihnen sagt?

Mehr von diesem Tag

2026-10-04