Breite Koalition wirft Anthropic vor, sich selbst für das größere Wohl zu halten

"Anthropic Is Not a Safe AI Company" – Coalition Challenges Anthropic Safety

Kurz vor dem Börsengang von Anthropic stellt eine Allianz aus Wissenschaftlern, Juristen und Tech-Größen die Sicherheitsrhetorik des Unternehmens infrage. Der bemerkenswerteste Punkt: In der Koalition versammeln sich erklärte KI-Doomer und überzeugte Anti-Doomer, die sonst fast nichts teilen. Auf Hacker News dreht sich die Debatte um Lobbyarbeit gegen Open-Source-Modelle, die Frage nach Ehrlichkeit und darum, ob Streben nach Dominanz im KI-Wettlauf überhaupt vermeidbar ist.

Die Menschen in dieser Koalition sind sich in fast allem uneinig, doch wir alle erkennen die Gefahr eines Unternehmens, das sich selbst davon überzeugt, seine eigene Dominanz sei das größere Wohl.
  1. neya

    Anthropic betreibt massives Lobbying und investiert Millionen darin. Das einzige Unternehmen, das das tut. Und ihre Agenda war schon immer, sich gegen Open-Source-Modelle zu stellen, weil sie wissen, dass sie diesen Krieg nicht gewinnen können. Es ist kein Zufall, dass Jensens Leaks perfekt vor Anthropics IPO getimt waren. Jensen war ein großer Befürworter von Open-Weight-Modellen.

    Sie sind auch weit davon entfernt, sich um die Privatsphäre irgendjemandes zu kümmern, und wurden dabei erwischt, wie sie ihre Nutzer ausspionierten, also..

  2. gensym

    Es ist interessant festzustellen, dass die Liste sowohl namhafte Doomer als auch namhafte Anti-Doomer enthält. Eine Sache, auf die sie sich einigen können, ist, dass Anthropic nicht ehrlich oder verantwortungsvoll handelt. Dem kann man schwer widersprechen, selbst wenn man Ants eigene Aussagen für bare Münze nimmt.

  3. atleastoptimal

    Anthropic kümmert sich insofern um KI-Sicherheit, als sie ihre vorgefassten Überzeugungen über beherrschbares KI-Risiko bestätigen. Es ist sehr einfach zu messen, ob ein Modell jemandem helfen wird, einen neuartigen Krankheitserreger zu entwickeln; es ist viel schwieriger festzustellen, ob die Existenz transformativer KI selbst die Zivilgesellschaft zersetzen oder absoluten Despotismus leichter erreichbar machen wird. Letzteres erfordert Entscheidungen, die ihre potenzielle Marktkapitalisierung senken, und wird daher kaum verfolgt werden.

  4. AshotSanamyan

    Müssen sie sicher sein oder müssen alle anderen vor Anthropic sicher sein?

    Ich denke, es gibt einen großen Unterschied darin, welche Seite sicherer sein muss: die KI sicher oder jeder, der KI nutzt, sollte sicher sein.

  5. tim333

    Es ist möglich, dass Dario und Anthropic aufrichtig glauben, dass ASI gefährlich ist und das beste Ergebnis darin besteht, dass jemand Sicherheitsbewusstes zuerst dort ankommt, anstatt von einer totalitären Regierung oder einem Typen, der Nazi-Grüße zeigt, oder einem Typen, der dafür bekannt ist, zwielichtig zu sein, kontrolliert zu werden.

    Die zitierten Beweise dafür, dass sie unsicher sind:

    - RSI – das müssen sie tun, um als Erste dort anzukommen

    - sich selbst als sicher zu verkaufen – irgendwie das, was man erwarten würde

    - Lobbying – da bin ich nicht auf dem Laufenden

    Ich vertraue ihnen wahrscheinlich mehr als XAi oder OpenAI, aber weniger als Google. Weiß nicht.

Mehr von diesem Tag

2026-11-18