Armin Ronacher: Die eigentliche Gefahr der KI ist nicht der Untergang, sondern die Macht der Labs
P(doom)
Armin Ronacher widerspricht Dario Amodeis Vorschlag, die KI-Entwicklung zu bremsen. Er argumentiert, dass die wahren Probleme von geschlossenen Modellen wie denen von OpenAI und Anthropic ausgehen – nicht von offenen. Die Konzentration von Macht und Ressourcen in wenigen US-Unternehmen sieht er als regulatorisches Totalversagen, das die Commons belastet und eine neue Kostenlawine für alle auslöst.
Ich habe wirklich keine Angst davor, dass jemand mit diesen Modellen eine Atombombe baut oder Raketen im Nahen Osten steuert oder dass Amerika einen internationalen Kulturkampf gegen China verliert. Ich mache mir fast ausschließlich Sorgen darüber, was das mit uns als Menschen macht.
- demibabs
Ich bin nicht der größte Fan von Ed Zitron, aber etwas, das er gesagt hat, ist mir im Gedächtnis geblieben:
OpenAI und Anthropic verbringen viel Zeit damit, uns davor zu warnen, „was wäre, wenn mächtige KIs in die falschen Hände gerieten?“
Aber sie sind bereits in den falschen Händen.
- passive
Das kommt meinem Gefühl zu dieser ganzen Situation so nahe wie nichts, was ich je geschrieben gesehen habe, und deckt viele der verschiedenen Facetten ab, wie dumm und schmerzhaft das ist (obwohl es eine gute Woche für solche Beiträge war).
Da ich ungeheuren Respekt für Armin und seine Arbeit habe, ist das sehr schön zu sehen, und ich hoffe, es rüttelt einige andere Leute auf.
- bryan0
> Eine mächtige Technologie, die für alle da draußen verfügbar ist, bringt eine eingebaute Taktung mit sich. In gewisser Weise ist es die wahrste Form von MAD oder Proliferation.
Ich denke, dieses Missverständnis von MAD untergräbt seinen ganzen Punkt. Wenn jeder gleichen Zugang zu Atomwaffen hätte, würde unsere Gesellschaft ziemlich schnell aufhören zu existieren. Es braucht nur ein paar böswillige Akteure, um enormen Schaden anzurichten.
Ich denke, er ist auch naiv zu glauben, dass das Problem gelöst wäre, wenn OpenAI und Anthropic morgen die Entwicklung einstellen würden. Als ob es niemanden sonst gäbe, der schnell ihren Platz einnehmen kann und wird. Das eigentliche Problem, worauf Dario hinweist, ist eines der Koordination. Alle müssen sich darauf einigen, aufzuhören. Das ist die Herausforderung.
- pandoro
Ich kann nicht begreifen, wie man intensiv an einem Problem arbeiten kann, von dem man aufrichtig glaubt, dass es eine „10 bis 25%“-Wahrscheinlichkeit hat, immensen Schaden zu verursachen oder sogar ein existenzbedrohendes Risiko für die Menschheit darzustellen. Wie kann man das wirklich glauben und damit okay sein?
- ilyaizen
Es gibt wirklich nur zwei Firmen: Anthropic und OpenAI. Niemand sonst zählt derzeit in diesem Bereich (das könnte sich ändern, aber wir reden über den Jetzt-Zustand).
Ich mag, wie er so beiläufig alle anderen Labs abgetan hat, einschließlich führender US-Labs, die gerade jetzt kurz vor RSI stehen könnten. Und wie er „gerade jetzt“ so starr behandelt, als wäre es vor sieben Jahren, als GPT-2 veröffentlicht wurde, eine ferne Vergangenheit gewesen.