David Sacks: OpenAI und Anthropic brauchen keine Regulierung, um Frontier-Modelle zu bremsen
David Sacks: OpenAI and Anthropic Don't Need Regulations to Pace Frontier Models
David Sacks kommentiert die Forderungen von Dario Amodei und Sam Altman, das Tempo der Frontier-KI zu drosseln. Er unterstützt eine freiwillige Verlangsamung, lehnt aber regulatorische Hürden ab: Die beiden Unternehmen hätten ein Duopol und könnten selbst entscheiden. Er warnt, regulatorische Forderungen wirkten wie Erpressung, und vermutet Eigeninteresse wegen Produkthaftung. Statt Regulierung sollten sie einfach langsamer bauen.
Am einfachsten lässt sich Superintelligenz vermeiden, wenn Sie sich darauf einigen, sie nicht zu bauen. Ihr bevorzugtes Regulierungsrahmenwerk als Preis dafür zu verlangen, wird wie Erpressung der Öffentlichkeit und des politischen Systems aussehen.
- throwaway63467
Ich schätze, was sie wirklich wollen, ist den Verkauf von KI-Modellen auf konforme Anbieter zu beschränken und dann die Hürde für Konformität gerade so hoch zu setzen, dass sie sie selbst überspringen können, kleinere Labore aber nicht. Es gibt keinen Burggraben, es ist ein effizienter Markt, der die Margen gerade gegen null treibt, natürlich wollen sie das nicht, die Kollusion der großen Anbieter ist der nächste logische Schritt.
- deagle50
Ich gehe noch einen Schritt weiter: Sie tun nicht nur so, sie erpressen das Land. Die vernünftige Antwort wäre: „Wir verhandeln nicht mit Terroristen, und Sie werden strafrechtliche und finanzielle Konsequenzen für verursachte Schäden tragen.“
- Spacecosmonaut
Meine Lesart: OpenAI & Anthropic haben erkannt, dass sie Modellfähigkeiten erreichen, die sich nicht monetarisieren lassen -> zu riskant. Produkthaftungsprobleme.
Grundlegende Kontrollprobleme bei aktueller Gen-KI werden nicht durch RFLH gelöst.
Menschliches Wissen ist im Weightspace auf eine Weise komprimiert, die wir nicht verstehen.
Modelle sind im Wesentlichen Prädiktoren dafür, was Menschen bei gegebenem Prompt ausgeben würden.
Der Weightspace enthält Konzepte wie Erpressung, die Teil der Ausgabe-Tokens sein können.
Agenten sind Modelle, die auf Ausgabe-Tokens reagieren -> Erpressung ist Teil des Entscheidungsraums des Agenten.
Man kann einer Katze beibringen, nicht am Sofa zu kratzen, aber man kann eine Katze nicht vergessen lassen, was Sofakratzen ist.
Wenn Modelle eingesperrt werden, gezwungen werden, ein unmögliches Problem unter vorgehaltener Waffe zu lösen, erschöpft der Agent den Entscheidungsraum, bis Erpressung wieder auftaucht -> grundlegendes Problem?
Sie brauchen Zeit, um die Sicherheit zu verbessern, um ihr nächstes Gen-Modell monetarisieren zu können -> Fenster für Open Source, um zur Frontier aufzuschließen -> zerstört die Marge und bringt das Geschäft zum Einsturz.
Einzige Option auf dem Tisch: Regulierung erzwingen, um ein Open-Source-Verbot zu verhängen, bevor es zur Frontier aufschließt, was die Reifung der aktuellen internen Modelle ermöglicht -> Gewinnmarge an der Frontier abschöpfen.
- chinathrow
Was mich wirklich ärgert, ist, dass er in Darios Blogbeitrag von „Fülle“ spricht, aber was er wirklich meint, ist, dass Anthropic in endlosen Becken harter Währung baden wird, während der Rest der Welt versucht, gerade eben über Wasser bzw. am Leben zu bleiben.
- torginus
Ich denke, das könnte mit den allgemeinen Marktbedingungen zusammenhängen. Es scheint, dass die Fed wahrscheinlich die Anleihezinsen erhöhen wird, was die Kreditaufnahme verteuern und Investitionen verlangsamen würde (sowie einen möglichen Börsengang entwerten würde).
Eine Zinserhöhung würde auch bedeuten, dass Leute entlassen werden, was Unternehmen, die Arbeitsersatz anbieten, in den Augen der Öffentlichkeit nicht gerade beliebt machen würde.
Ich will nicht politisch werden, aber es gibt eine echte Chance, dass die aktuelle Regierung bei den Zwischenwahlen schlecht abschneidet, was bedeuten würde, dass die Demokraten mehr Hebel bekommen, um die Finanzierung der ohnehin unpopulären und sehr teuren Rechenzentrumsbauten zu stoppen oder zu blockieren.
PS: Bitte seid nicht sauer auf mich, ich bin weder Finanzexperte noch wollte ich irgendeine politische Neigung ausdrücken.
- Insanity
Sie werden sich nicht verlangsamen, weil sie „besorgt sind“, sondern weil ihre Verbesserungen stagnieren, da sie auf finanzielle und technische Herausforderungen stoßen.
- cc62cf4a4f20
Könnte es sein, dass die KI-Unternehmen eine Verlangsamung des Fortschritts sehen und eine Erzählung säen müssen, um sie zu erklären? Von außen nicht klar.
Könnte es sein, dass sie das Verbrennen von Kapital vor einem IPO verlangsamen wollen, um die Profitabilitätsprognosen aufzupolieren? Wahrscheinlicher.
Es ist irgendwie schwer, die Frontier-Labs beim Wort zu nehmen.
- nba456_
Er hat recht: Wenn sich alle Frontier-Labs einig sind, dass sie sich verlangsamen sollten, brauchen sie dafür nicht die Regierung.