Offener Brief an Dario Amodei: Wenn du es ernst meinst, öffne die Gewichte

An open letter to Dario: if you mean it, open the weights

Offener Brief an Dario Amodei: Wenn du es ernst meinst, öffne die Gewichte

Ein offener Brief an Dario Amodei fordert ihn auf, statt Regulierung eine radikal einfache Regel zu unterstützen: Jedes KI-Modell, das der Öffentlichkeit angeboten wird, muss als Open Weights veröffentlicht werden. Das würde Anthropics Fable, OpenAIs Astra und alle anderen treffen, die Bewertungen auf proprietäre Gewichte stützen, untergraben und so das Tempo der Frontier-Labore verlangsamen – ohne Regulierungsbehörde, ohne Capture. Der Autor argumentiert, Amodeis bisherige Vorschläge führten unweigerlich zur Capture durch die großen Labore, und erinnert an dessen PBC und seinen Einsatz für Sicherheit.

Jedes KI-Modell, das ein Unternehmen der Öffentlichkeit anbietet, muss als offene Gewichte veröffentlicht werden.
  1. Aurornis

    Das ist unzusammenhängend. Das Argument scheint zu sein, dass die Veröffentlichung der Gewichte die Frontier-Labs daran hindern würde, Geld zu beschaffen, was ihnen weniger Geld geben würde, was den Fortschritt bei KI verlangsamen würde. Es wird angenommen, dass alle Labs auf der ganzen Welt zustimmen, sich auf diese Weise selbst zu zerstören, und dass keine neuen Labs gegründet werden, um die Arbeit fortzusetzen.

    Nein, wirklich:

    > Wie du weißt, hängt die Finanzierung der Entwicklung von Frontier-Modellen von Bewertungen ab, die davon ausgehen, dass die Gewichte proprietär bleiben. Indem wir diese Annahme ändern, können wir das für zukünftige Trainingsläufe verfügbare Geld reduzieren und den Fortschritt bei jedem Lab gleichzeitig verlangsamen, ohne dass ein Regulator etwas entscheiden muss.

    Was nicht einmal logisch ist. Es hängt davon ab, dass jedes Lab auf der Welt zustimmt, seine Bewertungen zu zerstören und aufzuhören zu konkurrieren. Das ist eine viel unmöglichere Forderung als alles, was Dario verlangt.

    Es ignoriert auch die Möglichkeit, dass neue Labs gegründet werden, die die offenen Gewichte nutzen und genau dort weitermachen, wo die alten Labs aufgehört haben.

    Ich habe das Gefühl, ich habe gerade das Geschwafel von jemandem gelesen, der so aufgeregt über die Schlagzeile war, dass er sich nicht die Zeit genommen hat, zu überlegen, ob sein Argument stichhaltig ist.

  2. tristanj

    Der Autor hat null rationales Denken in dieses Thema gesteckt. Wenn Anthropic gesetzlich verpflichtet wäre, die Gewichte jedes öffentlich zugänglichen Modells zu veröffentlichen, wäre ihre logische Antwort einfach, keine öffentlichen Modelle mehr anzubieten. Anthropic erzielt ohnehin den Großteil seines Umsatzes mit Unternehmensvereinbarungen. Öffentliche Modelle anzubieten oder öffentlichen Zugang zu ihren Modellen zu gewähren, ist ihr Zweitgeschäft. Sie können es jederzeit einstellen. Der öffentliche Zugang zu ihren Modellen (zu subventionierten Preisen) hat ihnen so viel indirekten Schaden und finanzielle Kosten verursacht, dass sie sehr wohl berechtigt sind, den Zugang einzustellen.

    Anthropic hat bereits gezeigt, dass es ihnen sehr recht ist, Modelle vor der Öffentlichkeit zurückzuhalten. Mythos gibt es jetzt seit, was, sechs Monaten, und es gab nie eine öffentliche Veröffentlichung. Nur die wenigen Auserwählten, die von Anthropic gesegnet wurden, haben Zugang.

    Transparenz bei öffentlichen Modellen zu erzwingen, wird nur die Privatisierung des Zugangs zu diesen Modellen beschleunigen. In dieser Welt willst du nicht leben.

  3. jsnell

    > Jedes KI-Modell, das ein Unternehmen der Öffentlichkeit anbietet, muss als offene Gewichte veröffentlicht werden.

    Das offensichtliche Ergebnis dieses Plans wäre, dass Frontier-Modelle überhaupt nicht mehr der Öffentlichkeit zugänglich gemacht werden. Das wäre ein erstaunlich schlechtes Ergebnis. Der Öffentlichkeit zugängliche Modelle würden stagnieren (kein Kapital, kein Zugang zu Frontier-Modell-Tokens zum Destillieren), während interne Modelle sich im bisherigen Tempo weiter verbessern, intern genutzt werden und schließlich die gesamte Wirtschaft auffressen würden.

  4. throwaw12

    Ich bin sehr skeptisch gegenüber diesen drei Gesichtern der amerikanischen KI-Labs: Dario, Sam und Elon.

    Versuchen sie, alle anderen daran zu hindern, mit ihnen aufzuschließen, oder sind sie auf eine Art von Hindernis gestoßen, das sie daran hindert, Modelle weiter zu verbessern?

    Aber meiner Meinung nach versuchen sie nicht, der Menschheit zu helfen.

  5. bryan0

    Dario war ziemlich klar und beständig in folgenden Punkten:

    1. KI-Modellsicherheit ist das Wichtigste.

    2. Offene Gewichte verringern die Modellsicherheit.

    Es scheint also unwahrscheinlich, dass dieser Vorschlag gut aufgenommen würde.

Mehr von diesem Tag

2026-09-12