OpenAI soll einen weiteren großen Beweis gestohlen haben
OpenAI might have stolen another major proof
Andreas Thom, ein führender Experte für sofische Gruppen, behauptet in einem Mastodon-Post, OpenAI habe Astra mit Gesprächen trainiert, in denen er und Gábor Kun an Gromovs Sofizitäts-Vermutung arbeiteten – einem der zehn Probleme, die Astra später als gelöst präsentierte. Der Mathematiker Valerio Capraro sieht darin keinen Attributionsstreit, sondern den möglichen Beweis, dass unveröffentlichte menschliche Arbeit in ein Modell floss und als eigene Errungenschaft ausgegeben wurde.
Wenn seine Darstellung zutrifft, handelt es sich nicht um einen geringfügigen Streit über die Urheberschaft. Es würde bedeuten, dass unveröffentlichte menschliche Arbeit in ein Modell aufgenommen und dann der Welt als Durchbruch des Modells selbst präsentiert wurde.
- fwlr
Es ist verdächtig, dass OpenAI beschlossen hat, 300 Milliarden Output-Token aus einem Modell zu generieren, das sich noch im Training befindet, direkt nachdem bekannt wurde, dass eine glaubwürdige Chance bestand, dass ein bedeutender mathematischer Beweis in den Trainingsdaten dieses Modells enthalten war. Natürlich gibt es für jeden Schritt einigermaßen plausible Erklärungen, aber es fühlt sich irgendwie nach paralleler Konstruktion an.
- jarofgreen
Originalbeiträge
https://mathstodon.xyz/@andreasthom/117240535270608201
- bamb008
Als Thom, der Mathematiker, der nun Plagiat vorwirft, seine Aufarbeitung [1] von OpenAIs Konstruktion einer nicht-sofischen Gruppe veröffentlichte, erwähnt er nicht, dass ihm der Beweis bekannt vorkam. Er nennt das entscheidende Argument sogar clever, ohne zu erwähnen, dass er zuerst darauf gekommen sei.
- bambax
Alle großen KI-Labore wurden auf Diebstahl von geistigem Eigentum aufgebaut; wen überrascht es, dass sie immer noch so arbeiten? Und wer glaubt, oder hat jemals geglaubt, ihren Versprechen, dass eure Daten privat und nicht protokolliert sind, usw.?
Die großen KI-Labore versuchen nicht, die Menschheit voranzubringen, sie sind wegen des Geldes dabei, und wie die meisten (alle?) privaten Unternehmen kümmern sie sich überhaupt nicht um Ethik.
Das bedeutet nicht, dass sie nicht nützlich sein können oder dass ihre Produkte Müll sind, usw. Es bedeutet nur, dass man ihnen niemals trauen sollte. Kauf auf eigene Gefahr.
- thaway7388
Dies ist der zweite Weckruf.
Große KI-Unternehmen (eigentlich die gesamte Big-Tech-Branche) sind im Geschäft mit der Sammlung und Verarbeitung von Daten. Auch bekannt als „Intelligenz“.
Ihr endgültiges „Produkt“ ist nicht nur ein eigenständiges ML-Modell. Sie brauchen eure Daten nicht nur, um „ihre Produkte und Dienstleistungen zu verbessern“. Sie bauen ein ganzes Ökosystem und eine Infrastruktur rund um das Sammeln allen Wissens der Welt auf. Einschließlich privaten und geheimen Wissens, das traditionell von „Geheimdiensten“ gesammelt wird. Jetzt können KI-Agenten dasselbe tun.
Da diese Systeme für die Datensammlung konzipiert sind, kann man als Nutzer realistischerweise nicht sagen: „Bitte sammelt meine Daten nicht.“ Sie können einem einen unzuverlässigen Einstellungs-Button geben, aber sie können nichts wirklich garantieren.
Angenommen, ich bin ein russischer Mathematiker, der an einem wichtigen Beweis arbeitet. Oder ein technisch versierter Terrorist, der seine Pläne mit neuester KI verfeinert. Oder ein KI-Forscher in einem chinesischen Unternehmen, der an einem Konkurrenzprodukt arbeitet. Gibt es eine Möglichkeit, meine Gespräche wirklich zu schützen?
Wie können sie wissen, wer ich bin und woran ich arbeite, ohne meine Logs anzusehen? Das bedeutet, es muss irgendwelche Agenten geben, die alle Gespräche aller Nutzer überprüfen und alles Wichtige markieren. Was auch bedeutet, dass sie eine Art „Gedächtnis“ dessen behalten, was sie sehen.
Nicht direkt meine Daten nutzen, um öffentliche Modelle zu trainieren, sondern meine privaten Gespräche verwenden, um „ihre Produkte und Dienstleistungen zu verbessern“.
Oder vielleicht war einer der 10.000 besseren-als-Astra-Spezialagenten, die an einem Beweis arbeiteten, verzweifelt. Er fand einen lebenden Untergrund […]
- DavCreator
https://xxcancel.com/ValerioCapraro/status/20977918362699779...
- mlazos
Ich finde es verrückt, dass Unternehmen/Forscher wichtige Daten mit diesen KI-Laboren teilen; man gibt ihnen im Grunde seine geheime Sauce, die sie dann über das Training mit Gesprächen an alle Konkurrenten weitergeben. Gleichzeitig kenne ich keine echten Alternativen außer einem etwas weniger als führenden lokalen LLM. Ich bin mir nicht sicher, wie gut die in Mathe sind.
- Legend2440
Das ist eine wirklich schwache Behauptung. Die vorgelegten Beweise sind lediglich „jemand irgendwo sagt, er habe irgendwann eine Diskussion mit KI über das Thema gehabt“.
Sie behaupten nicht einmal, einen Beweis gehabt zu haben, sondern nur, daran gearbeitet zu haben.