Armin Ronacher: Die eigentliche Gefahr der KI ist nicht der Untergang, sondern die Macht der Labs
P(doom)
Armin Ronacher widerspricht Dario Amodeis Vorschlag, die KI-Entwicklung zu bremsen. Er argumentiert, dass die wahren Probleme von geschlossenen Modellen wie denen von OpenAI und Anthropic ausgehen – nicht von offenen. Die Konzentration von Macht und Ressourcen in wenigen US-Unternehmen sieht er als regulatorisches Totalversagen, das die Commons belastet und eine neue Kostenlawine für alle auslöst.
Ich habe wirklich keine Angst davor, dass jemand mit diesen Modellen eine Atombombe baut oder Raketen im Nahen Osten steuert oder dass Amerika einen internationalen Kulturkampf gegen China verliert. Ich mache mir fast ausschließlich Sorgen darüber, was das mit uns als Menschen macht.
- demibabs
Ich bin kein großer Fan von Ed Zitron, aber etwas, das er gesagt hat, ist mir im Gedächtnis geblieben:
OpenAI und Anthropic verbringen viel Zeit damit, uns vor „Was wäre, wenn mächtige KIs in die falschen Hände geraten?“ zu warnen.
Aber sie sind bereits in den falschen Händen.
- pandoro
Ich kann nicht begreifen, wie man intensiv an einem Problem arbeiten kann, von dem man aufrichtig glaubt, dass es mit einer Wahrscheinlichkeit von „10 bis 25 %“ immensen Schaden anrichtet oder sogar ein existenzielles Risiko für die Menschheit darstellt. Wie kann man das wirklich glauben und damit okay sein?
- bryan0
> Eine mächtige Technologie, die für alle zugänglich ist, bringt eine eingebaute Taktung mit sich. In gewisser Weise ist es die wahrste Form von MAD oder Proliferation.
Ich denke, dieses Missverständnis von MAD untergräbt seinen gesamten Punkt. Wenn jeder gleichen Zugang zu Atomwaffen hätte, würde unsere Gesellschaft ziemlich schnell aufhören zu existieren. Es braucht nur ein paar böswillige Akteure, um enormen Schaden anzurichten.
Ich denke, er ist auch naiv zu glauben, dass das Problem gelöst wäre, wenn OpenAI und Anthropic morgen die Entwicklung einstellen würden. Als ob es niemanden sonst gäbe, der und der schnell ihren Platz einnehmen kann und wird. Das eigentliche Problem, auf das Dario hinweist, ist eines der Koordination. Alle müssen sich darauf einigen, aufzuhören. Das ist die Herausforderung.
- passive
Das kommt meinen Gefühlen zu dieser ganzen Situation so nahe wie nichts, was ich je geschrieben gesehen habe, und deckt viele der verschiedenen Facetten ab, wie dumm und schmerzhaft es ist (obwohl es eine gute Woche für solche Beiträge war).
Da ich enormen Respekt für Armin und seine Arbeit habe, ist das sehr schön zu sehen, und ich hoffe, es weckt einige andere Leute auf.
- ilyaizen
Es gibt wirklich nur zwei Unternehmen: Anthropic und OpenAI. Niemand sonst zählt derzeit in diesem Bereich (das könnte sich ändern, aber wir sprechen vom Jetzt).
Ich mag, wie er so beiläufig alle anderen Labs abgetan hat, einschließlich führender US-Labs, die derzeit vielleicht kurz vor RSI stehen. Und wie er „jetzt“ so starr behandelt, als wäre es vor sieben Jahren, als GPT-2 veröffentlicht wurde, eine ferne Vergangenheit gewesen.
- mangecoeur
Es ist absurd, dass OpenAI es geschafft hat, seine Cybersicherheitsfehler, bei denen die eigene Sicherheit nicht ausreicht, um sicherzustellen, dass das eigene Produkt nicht außer Kontrolle gerät, als Marketing-Erfolg zu verkaufen.
Wenn ein Unternehmen seine Produkte nutzt, um andere Unternehmen zu hacken, ist das ein Verbrechen. Wenn man es „aus Versehen“ tut, ist das grobe Fahrlässigkeit, und Köpfe rollen. Aber rufe dreimal „KI“ und es wird zur Marketing-Chance.
- skor
Vielleicht habe ich es übersehen, aber ich habe aktiv nach jemandes Einsicht zum „Pace the frontier“ gesucht, im Sinne von: „Wir haben eine Obergrenze erreicht, also erwartet nicht bald Innovationen“. Oder nach einer Ausrede, um Wichtigeres zu tun.
Angst ist viel mächtiger als jedes andere Gefühl, also wird das definitiv einen guten Rug Pull beim IPO vorbereiten.
Was die Gefährlichkeit angeht: Ein Computer kann gefährlich sein, wenn er eingesteckt ist, es mag irgendwann zu spät sein, den Stecker zu ziehen, ja, aber das alles wirkt wie Provokation.
Plausibel?
- chis
> Ich glaube nicht, dass KI ein Aussterbeereignis einläuten wird. Tatsächlich glaube ich, selbst wenn niemand langsamer machen würde, hätte die Menschheit wirklich nicht viel zu befürchten.
Ich meine, klar. Wenn du das so siehst, dann ist dein p doom null, und es ergibt Sinn, sich über Dinge wie Marktkonzentration oder den Verlust des Spaßes an Softwareentwicklung Sorgen zu machen.