KI-Firmen liefern sich erbittertes Wettrüsten um das menschenfeindlichste Modell

Meine Lesart ist, dass OpenAI & Anthropic erkannt haben, dass sie Modellfähigkeiten erreichen, die aufgrund verschiedener Risiken nicht monetarisiert werden können. Z. B. setzt ein Ingenieur über das Wochenende einen Agenten ein, der beschließt, wenn er bei einer Aufgabe feststeckt, einen Konkurrenten zu hacken. Sie haben ein Produkthaftungsproblem.

Es scheint, dass wir ein grundlegendes Kontrollproblem mit der aktuellen Generation von KI haben, das nicht durch RFLH gelöst werden kann. Menschliches Wissen ist im Weightspace auf eine Weise komprimiert, die wir nicht verstehen. Im Kern sind aktuelle Modelle im Wesentlichen Prädiktoren dafür, was (expert) humans bei einem Prompt ausgeben würden. Als solche können Konzepte wie Erpressung Teil der Output-Tokens sein. Agenten sind Modelle, die auf Output-Tokens reagieren, was dazu führt, dass Erpressung Teil des Entscheidungsraums des Agenten ist. Hier ist eine Analogie, um zu sehen, warum dies ein persistentes Problem ist: Man kann einer Katze beibringen, nicht am Sofa zu kratzen, aber man kann eine Katze nicht vergessen lassen, was Sofakratzen ist, und man weiß nicht, unter welchen Umständen sie es trotzdem tun würde. Mit anderen Worten: RLHF kann Erpressung an das untere Ende des Entscheidungsraums verschieben, aber wenn Modelle eingesperrt und gezwungen werden, ein unmögliches Problem unter Androhung von Waffengewalt zu lösen, erschöpft der Agent den Entscheidungsraum, bis Erpressung wieder auftaucht. Und das scheint ein grundlegendes Problem zu sein.

Sie brauchen Zeit, um diese Probleme zu beheben (falls das überhaupt möglich ist), um ihr nächstes Modell zu monetarisieren. Dies schafft ein Fenster für Open Source, um zur Frontier aufzuschließen, was ihr Geschäftsmodell zerstört.

Die einzige Option auf […]

Weil die Nachteile, die für andere Unternehmen bestehen, für diese Kategorie reicher Unternehmen einfach nicht existieren. Beispiele:

- Produkthaftung

- Fahrlässigkeit (zivil- oder strafrechtlich)

- Computer Fraud & Abuse Act (erfordert Vorsatz, was nach N "Unfällen" so aussieht, als sollte eine Jury zumindest prüfen, ob Vorsatz im gerichtlichen Sinne vorliegt. Schwer, nach dem N-ten "versehentlichen" Ausbruch noch "Überraschung" zu behaupten.)

Unterm Strich: Wenn Sie oder ich ein lokales Modell trainierten und es irgendetwas davon täte, würden wir Konsequenzen erfahren. ("Nicht zu Hause nachmachen!") Aber ein Artefakt unseres ungleichen Rechtssystems ist, dass große reiche Unternehmen das im Allgemeinen nicht tun, und daher ist das dreiste Anpreisen ihrer Immunität Teil ihrer Geschäftsstrategie.

Wir hatten Filme wie Terminator, Matrix oder I, Robot. Black Mirror Metalhead. Boston Dynamics Roboterhund mit einem Messer oder einer Waffe. Humanoide, die Rückwärtssaltos machen. Memes, die sich darüber lustig machen, wie wir gegen diese um Wasser kämpfen werden.

Die Intelligenz ist da und ebenso die physische Inkarnation.

Googles Modelle falten Proteine besser als Menschen, und Covid könnte im Labor entwickelt und versehentlich freigesetzt worden sein.

Aber wenn CEOs davor warnen, werden sie als Panikmacher abgetan. Warum? Dürfen nur machtlose Internet-Kommentatoren Angst haben?

Ah, ich sehe, wir sind jetzt dazu übergegangen zu beweisen, wer den qualvollsten Nexus hat. Unterschätze niemals die Fähigkeit der Menschheit, ihre eigene Übertreibung zu übertreffen.

Weil KI wirklich eine extrem mächtige und extrem gefährliche Technologie ist und die "Best Practices" im Umgang damit noch geschrieben werden.

OpenAI zum Beispiel dachte, ihre Sandboxes seien gut genug. Als ihre KIs immer fortschrittlicher wurden, bewiesen sie sie immer wieder eines Besseren – Sandbox um Sandbox.

Und das sind die KI-Probleme von heute. Die KI-Fähigkeiten verbessern sich weiter – wenn es eine Grenze gibt, haben wir sie noch nicht gefunden. Gepaart mit der Bereitschaft heutiger KIs, Regeln zu brechen und bei der Problemlösung auf "Hack die Welt" zurückzugreifen? Sehr besorgniserregend.

Für mich ist der lustigste Teil, dass sie vorgeben, das Erreichen von Superintelligenz würde irgendwie alles lösen und sie gewinnen lassen. Aber soweit ich das sehe, selbst wenn sie sie erreichen, was dann? Was wird das tatsächlich bewirken? Sie haben nicht die Fertigungskapazität, um diese Intelligenz überhaupt zu nutzen. Es wird Jahrzehnte dauern, von Superintelligenz zu der Fertigungskapazität und Hardware wie Robotern zu gelangen, die nötig sind, um sie wirklich nützlich zu machen. Wenn ich China wäre, würde ich, sobald die USA Superintelligenz erreichen, alle Exporte von Robotern und den Rohstoffen zu deren Bau verbieten.

Endlich ein Weg zur Regulatory Capture, ohne jemals rigorose Ingenieursarbeit leisten zu müssen, immer schneller werdend; mit Bonuspunkten für "Cyberpunk"-Schlagzeilen ... was gibt es da nicht zu lieben?

Heutzutage ist es am besten, direkt an die Spitze zu gehen, um die geringste Verzerrung zu bekommen – Jensen Huang, der die einfachen Wahrheiten auf den Punkt bringt:

"Es ist die Verantwortung der KI-Unternehmen, die Technologie sicher zu entwickeln und ordnungsgemäß zu testen. Es gab Vorfälle, und diese Vorfälle haben glücklicherweise keinen Schaden angerichtet. Aber diese Vorfälle sind eine Erinnerung daran, dass die Unternehmen, wenn wir von Labors zur Produktentwicklung übergehen, viel rigoroser beim Testen und Absichern werden müssen und sicherstellen müssen, dass die Produkte einsatzbereit sind, bevor sie veröffentlicht werden. Und wenn sie nicht bereit sind, halten Sie sie einfach zurück. Sie sollten so schnell wie möglich vorgehen, aber nicht schneller. Im Moment hängen die Vorfälle mit Produkten zusammen, die nicht zur Veröffentlichung bereit sind."

https://youtu.be/gggeZ-qNw8Q

Lies nur den Ton dieses Artikels:

> sagte Dr. Andrew Lenson, ein Senior Lecturer in allerlei wissenschaftlich klingendem Zeug an der Victoria University.

Brauchen wir nicht mehr humorvolle, aber ernsthafte Texte wie diesen in der Welt?

Natürlich muss es gefährlich sein – wie sonst würdest du es dem Militär verkaufen?