Garry Tan will, dass US-Labore ihre Frontier-Modelle selbst destillieren dürfen
Garry Tan wants US open-weight AI labs to 'distill' frontier models, too
Y-Combinator-CEO Garry Tan fordert, dass US-Regulierer nicht gegen die Destillation von Frontier-Modellen vorgehen. Er argumentiert, amerikanische Open-Weight-Labore sollten dieselben Trainingsmethoden nutzen dürfen, um eine robuste Alternative zu chinesischen Modellen zu schaffen. Während Anthropic von "illegalen Destillationsangriffen" spricht und Regulierung verlangt, sieht Tan darin einen Übergriff auf die Rechte von Kunden und verweist auf den ungefragten Einsatz urheberrechtlich geschützter Daten durch proprietäre Labore.
Das Albtraumszenario, das Doomer-Szenario für KI, ist, dass es nur ein einziges Unternehmen gibt. Es hat den besten Zugang zu Kapital. Es hat die besten KI-Forscher. Es setzt sich durch und plötzlich gibt es ein einziges, monolithisches Unternehmen. Und das wäre schlecht.
- kelnos
Ich stimme zu. Die Frontier-Modelle basieren auf Trainingsdaten aus unzähligen urheberrechtlich geschützten Werken. Ein Teil dieser Werke wurde sogar illegal beschafft. Sie könnten ohne das Abgrasen der Allmende nicht existieren. Die Labore haben weder moralisch noch ethisch ein Anrecht auf das Endergebnis, und andere sollten sich frei fühlen, jegliche von Unternehmen auferlegten Nutzungsbeschränkungen als ungültig zu betrachten.
Ich erwarte nicht, dass Tans Position auf irgendeiner echten moralischen Überlegenheit beruht, aber seine Schlussfolgerung ist richtig.
Ich liebe die Formulierung „illegale Destillationsangriffe“ von den Platzhirschen. Daran ist nichts illegal. Es gibt keinen Angriff. Es gefällt euch nur nicht, weil es eure Marktposition und euer Geschäftsmodell bedroht.
- TheJCDenton
> Er merkt auch an, dass die proprietären KI-Labore nicht um Erlaubnis gebeten haben, als sie so viel menschliches Wissen wie möglich aufgesaugt haben, um ihre Modelle zu trainieren.
Ich denke, das sollte die moralische Überlegenheit, aus der heraus Anthropic zu sprechen versucht, zunichtemachen. Dass sie die Destillation geordnet ablaufen lassen wollen, ist meiner Meinung nach fair, aber sie illegal zu machen, ist von jedem KI-Frontier-Labor wirklich starker Tobak.
- dvt
Ich denke, OpenAI und Anthropic werden pleitegehen oder zumindest in den nächsten fünf Jahren oder so in Einzelteilen verwertet werden. Es ist klar, dass die extremen Kosten für das Training unmöglich wieder hereingeholt werden können, da die Inferenz bereits subventioniert wird.
Es ist auch klar, dass, wie Tan anmerkt, Open-Weight-Modelle genauso gut sein werden (und im Grunde schon sind) wie Frontier-Modelle. Es kommt alles auf das Harness an, Baby. Wir werden zwei große Weggabelungen haben und zwei neue Industrien entstehen sehen:
- KI-Hardware (NVidia/Cerebras/usw.), das Äquivalent zu Intel/AMD
- KI-Software (Harnesses, Assistenten usw.), das Äquivalent zu Microsoft/Apple
Wir haben bereits einen Vorgeschmack davon gesehen mit der Popularität von OpenClaw – das Problem ist, dass es klapprig, schwer einzurichten, inkonsistent und sehr hackeresk ist. Meiner Meinung nach werden „KI-Labore“ eine aussterbende Gattung sein, weil in den eigentlichen Modellen kein echtes Geld steckt, wenn sie zur Massenware werden, was sie irgendwie schon sind.
- consumer451
> Für ihn ist das wahre KI-Doomer-Szenario, dass die ganze immense Macht der Frontier-KI in den Händen eines einzigen mächtigen, proprietären Anbieters landet. „Das Albtraumszenario, das Doomer-Szenario für KI ist, dass es nur ein einziges Unternehmen gibt“, sagte er. „Es hat den besten Zugang zu Kapital. Es hat die besten KI-Forscher. Es zieht davon und plötzlich gibt es ein Unternehmen, das monolithisch ist. Und das wäre schlecht.
Nun ja, wie ich, glaube ich, in einem früheren Kommentar sagte: Auf der aktuellen Flugbahn werden OpenAI und Anthropic aufgrund von Destillation und regulatorischem Druck wirklich aufhören, Modelle zu veröffentlichen. Dann würden sie die ganze Wissensarbeit selbst auffressen, was das Ende von YC wäre.
- nijave
Kein Anwalt, aber Destillation klingt nach einem transformativen Werk.
Dasselbe wie Cliff Notes, meiner Meinung nach. In jedem anderen Bereich der Fertigung und Technik kann ich eine Maschine benutzen, um eine neue Maschine zu bauen, die mit der ursprünglichen Maschine konkurriert. Sollte Milwaukee DeWalt daran hindern können, ihre Bohrmaschine zu benutzen, um eine konkurrierende Bohrmaschine herzustellen? Sollte Jetbrains Eclipse-Mitwirkenden verbieten, ihre IDE zu benutzen?
- dofm
Zu kontrollieren, was Nutzer und Kunden mit API-Aufrufen an Closed-Weight-Modelle tun, fühlt sich einschränkend an, und der Staat kann hier eine Rolle spielen, um zu normalisieren, dass der Zugang zu Intelligenz, die auf breit öffentlich zugänglichen Daten trainiert wurde, selbst eher eine Form eines öffentlichen Guts sein sollte als etwas, das hinter restriktiven Nutzungsbedingungen weggeschlossen ist.
Ich stimme diesem Mann nicht allzu oft zu, aber das ist sehr prägnant formuliert.
- gr_norm
Die Gesellschaft als Ganzes hat in diese Technologie eingezahlt: durch den Diebstahl ihres geistigen Eigentums, durch die Bewältigung der Plünderung so vieler Allmenden (digital oder anderweitig) durch sie, durch explodierende Energie- und Computergerätepreise und sogar einfach durch gewöhnliche Investitionen. Demokratisiert die Technologie! Zumindest sollte man rechtlich nicht eingreifen, um dies zu verhindern.
- layer8