Alle sollen die KI-Entwicklung bremsen – außer mir

Ich muss mich fragen, ob einige von uns einfach viel abgehärteter gegenüber Verkäufern und damit auch gegenüber „AI Safety“-Propaganda sind. Ich habe noch nie eine logische Diskussion mit jemandem geführt, der denkt, die „AI Safety“-Leute sollten das Sagen haben, und ich glaube, sie begreifen einfach nicht, dass das, was die meisten von ihnen eigentlich wollen, ist, diejenigen zu sein, die die Schlüssel zur Macht in der Hand halten.

Vorhersage: In ein paar Jahren werden wir über diese Hysterie lachen und sie eine moralische Panik nennen.

Obligatorisches „Was ist Lygma?“ Aber im Ernst, dieser AI-Doomerismus hat einen komischen Wendepunkt erreicht. Vor ein paar Jahren war GPT-2 zu gefährlich, um veröffentlicht zu werden, dann sagte irgendein Google-Spinner, Gemini hätte eine Seele oder so, dann wurde „Mythos-tier“ zum Meme, dann kündigte irgendein Kind und ging zu FOX News, um über Skynet zu reden, und jetzt sind Amodei und Altman beide wieder auf dem „wir müssen langsamer machen“-Zug; das, nachdem wir diesen Weg schon gegangen sind und Claude im Ausland verboten wurde; warte, ist dieses Verbot eigentlich noch in Kraft? Ehrlich, wen juckt das an diesem Punkt noch.

Das ist alles Theater. OpenAI und Anthropic werden höchstwahrscheinlich pleitegehen – oder, realistischer, in Einzelteilen verkauft werden –, und das sollten sie auch absolut, weil sie mein geistiges Eigentum (Bücher, die ich geschrieben habe, Blogposts usw.) und das vieler anderer gestohlen haben. Wir nähern uns einem Punkt, an dem Modelle zur Ware werden, und ich bin zu 100 % überzeugt, dass der nächste Schritt eine Art „Softwareschicht“ auf diesen Reasoning-Systemen sein wird, die die eigentliche Revolution darstellen wird. Das Modell selbst wird nicht mehr so interessant sein, es ist die ganze Arbeit drumherum, die es lohnenswert macht (so ähnlich wie Computer und Telefone heute; Chips sind großartig, aber die Software ist wirklich die Magie).

Das einzig Beängstigende ist, dass die Boomer im Kongress diesen Nerds tatsächlich glauben könnten, aber angesichts der Tatsache, dass die Zustimmungswerte von Big Tech die von Big Tobacco in den 90ern streifen, glaube ich nicht, dass wir uns viele Sorgen machen müssen.

Es wird seltsamerweise davon geträumt/erwartet, dass eine Art Alignment erreicht wird. Oder dass das die Absicht ist. Das ist genau wie das nukleare Wettrüsten, das in den 40ern und 50ern begann und dessen Verhinderung noch andauert! Es geht nicht um Sicherheit und Gefahr, und ich sage nicht, ob ein offenerer nuklearer Zugang sicherer gewesen wäre (ich glaube nicht). Es geht darum, einer der wenigen Auserwählten zu sein, die diese möglicherweise – sehr bald – unvorstellbar gefährliche und unsichere technologische Grenze besitzen und kontrollieren. Ein paar Unternehmen eines einzigen Landes oder ein paar Unternehmen aus sehr wenigen Ländern. Alle anderen entschieden draußen halten. Darum geht es.

Was noch schlimmer ist – in diesem Fall ist „alle anderen“ nicht nur jede andere Nation oder jedes andere Unternehmen, sondern so ziemlich buchstäblich jeder andere.

Hier geht es um die Konsolidierung von Macht.

Open-Weight-Modelle holen zur Frontier auf. Es scheint auch, als hätten Frontier-Modelle irgendeine Grenze erreicht, ob das mit Capex, dem Geschäftsmodell oder etwas anderem zusammenhängt. Niemand weiß es, aber es scheint allen Frontier-Labs zu passieren.

Es wurde schon viele Male Angst geschürt, dass KI uns alle umbringen wird. Aber dieses Mal schaffte es eine Person mit etwa 2-3 Monaten Betriebszugehörigkeit bei Anthropic, viral zu gehen, ohne vorherige Aktivität in sozialen Medien, wird von allen Nachrichtenagenturen aufgegriffen und löst eine weitere Runde der Angstmacherei aus.

Also sind die eigentlichen Fragen:

* Dient das alles dazu, die Bewertungen vor dem IPO zu erhöhen?

* Was ist die echte Eintrittsbarriere für Open-Weight-Modelle, damit sie von der Öffentlichkeit genutzt werden können?

* Was zeigen die Finanzzahlen dieser Unternehmen, das diesen Aufschrei über Sicherheit verursacht?

Die Leute müssen wirklich kritisch über die Dinge nachdenken, die um sie herum passieren. Schaut nicht nur auf den Nennwert dessen, was hier präsentiert wird.

Genau das ist der Grund, warum Anthropics Aufruf, die KI-Entwicklung zu verlangsamen, scheitern wird. Aktionäre werden es nur ungern akzeptieren, dass das Unternehmen seine Führungsposition verliert und der Aktienkurs des Unternehmens entsprechend stark fällt.

Darüber hinaus könnte es dazu führen, dass China aufholt und schließlich verkündet, in diesem Bereich die USA überholt zu haben. Die US-Regierung wird das nicht zulassen.

Ich weiß wirklich nicht, was mit KI passieren wird. Es ist ehrlich gesagt ein bisschen beängstigend, weil die Frage, die ich als Kind nur zum Spaß gewälzt habe – „Was, wenn die KI revoltiert?“ – sich anfühlt, als könnte sie nicht mehr so weit entfernt sein. Es fühlt sich an, als wäre ChatGPT erst vor ein paar Jahren herausgekommen, aber wenn man sieht, wie weit es schon gekommen ist, ist es unmöglich vorherzusagen, wie KI in Zukunft sein wird. Ich hoffe nur, dass die Menschheit es schafft, das gut zu meistern.

Wenn schon jemand die Menschheit auslöschen wird, warum dann nicht Catgirls?

> Alle sollten die KI-Entwicklung verlangsamen, außer mir

Wer hat das gesagt? Und dann allgemeiner gefragt, wer hat das impliziert? Sehr neugierig, ob es bestimmte Artikel/Posts gibt, die das ausgelöst haben.