Anthropic-Chef Dario Amodei fordert eine Verlangsamung der KI-Entwicklung
Anthropic boss Dario Amodei calls for AI development to slow down
Dario Amodei, CEO von Anthropic, warnt in einem Essay vor den Risiken der KI und fordert einen Dreipunkteplan: unabhängige Überwachung, branchenweite und globale Regulierung. Er will Anthropic einseitig zu einem ausgewogenen Entwicklungstempo verpflichten, um Zeit für Alignment und Sicherheitsvorkehrungen zu gewinnen. Reaktionen reichen von Zustimmung (Elon Musk) bis Skepsis, Amodei wolle nur die Kontrolle über die Technologie sichern.
Ich glaube, wenn eine Verlangsamung uns auch nur ein oder zwei zusätzliche Jahre verschaffen würde, bevor Modelle kritische Fähigkeitsstufen erreichen, und wir diese Zeit nutzen würden, um Alignment voranzutreiben, könnten wir das Risiko, dass etwas ernsthaft schiefgeht, erheblich verringern.
- jwpapi
Ich dachte, die neuen Modelle wären super intelligent. Fable und Astra. Sie haben ihre Vorgängergenerationen definitiv übertroffen, aber nach ein paar Wochen intensiver Nutzung ist meine Codebasis wieder ein dummer Schlamassel und es gibt keinen Ausweg außer, den Code von Hand zu reparieren.
Meine neue Vermutung ist jetzt, dass sie nicht drastisch klüger geworden sind, sondern auf den Nutzereingaben der vorherigen Generationen trainiert wurden. Ich glaube nicht mehr, dass wir einen massiven Intelligenzsprung hatten. Es scheint nur, dass sie mehr Randfälle kennen. Daher sehe ich das als Marketing.
Diskutiere gerne.
- aenis
Die Frage ist: Ist die Katze nicht schon aus dem Sack? Mit dem, was bereits öffentlich zugänglich ist, und der Rechenleistung, die motivierten, finanzkräftigen Akteuren zur Verfügung steht, werden sie die Forschung ohne die Schlüsselforscher weiterführen können? Und werden diese Leute in der Lage sein, Schlüsselforscher mit ausreichender Motivation anzuwerben?
Anders als bei der nuklearen Proliferation gibt es keine Notwendigkeit einer schweren industriellen Basis. Keine zeitaufwändige, sichtbare Urananreicherung. Alles, was es braucht, ist, dass jemand genügend Rechenleistung kauft und versucht, sie durch das RSI-Gate zu bringen. Oder Leute mit Zugang zu Modellgewichten bis zur bestehenden Frontier besticht – die Asymmetrie zwischen dem, was es kostet, ein paar Geeks zu bestechen, und dem, was auf dem Spiel steht, ist atemberaubend.
- 99954bb63ccc
Also, hat irgendjemand in den führenden KI-Labors darüber nachgedacht, _gute_ Dinge mit diesen Modellen zu tun, anstatt kontinuierlich zu beweisen, dass sie zu bösartigen Dingen fähig sind?
Anstatt Tokens damit zu verbrennen, intellektuell beeindruckende „Hacks“ oder Sandbox-Ausbrüche durchzuführen, von denen ich befürchte, dass sie gewöhnliche Malware enthalten könnten, warum nicht darauf konzentrieren, den Leuten zu zeigen, was man reparieren kann?
Oder Software, die Menschen tatsächlich täglich nutzen, besser machen.
Oder Anstrengungen in die medizinische Forschung spenden.
Ich mag es nicht, KI mit Kernenergie gleichzusetzen, aber es ist sehr ähnlich, den Leuten ständig zu zeigen, wie groß eine Explosion sein kann, anstatt ihnen zu zeigen, wie viele Häuser/Krankenhäuser/Schulen/etc. man mit Strom versorgen kann.
- voidfunc
Dieser Typ ist so ein selbstgefälliger Wichser.
- 708145_
Nach der 6-monatigen Mythos-Angstkampagne ist es schwer, ihn ernst zu nehmen.
- bkishan
Und Sam und Elon retweeten Dario und stimmen ihm zu. Nicht sicher, was seltsamer ist.
- malthaus
„Unsere Burn Rate ist irre, lasst uns alle gemeinsam beruhigen, unseren Burggraben verstärken, damit wir die nächsten 50 Jahre Regulierungseinfang und Rent-Seeking betreiben können“
Angst ist immer noch das beste Werkzeug, um die Massen dazu zu bringen, jedem Plan zuzustimmen, den man sich für sich selbst ausgedacht hat.
- knuppar
Ich wiederhole meinen Kommentar von vor Monaten, immer noch wahr
> Jesus Dario, wir haben es kapiert, Mann, du willst Anerkennung für den IPO.