Mathematiker fordern Beweise: Hat OpenAI ihre Arbeit als Trainingsdaten genutzt?
Mathematicians want proof OpenAI didn't use their work
Nach OpenAI's gefeierten mathematischen Durchbrüchen erhebt der Mathematiker Andreas Thom schwere Vorwürfe: Seine früheren Interaktionen mit ChatGPT könnten in die Trainingsdaten eingeflossen sein und zu einem Ergebnis über non-sofic groups beigetragen haben. OpenAI räumte lediglich ein, dass de-identifizierte Nutzerdaten möglicherweise zur Modellverbesserung beigetragen haben – eine Unterscheidung, die Thom als irreführend und unehrlich kritisiert. Er verlangt vollständige Offenlegung der Datensätze.
De-identification may remove a name; it does not remove the intellectual content of a mathematical idea.
- arutar
Hier ist etwas (benachbarter, aber relevanter) Kontext, der anderswo gepostet wurde, aber ich denke, es ist wert, ihn hier noch einmal zu erwähnen:
https://mathstodon.xyz/@tao/117237320796901560
Besonders in den letzten Jahren hat die Mathematik-Community sehr stark in gutem Glauben gearbeitet, und es wird viel Aufwand betrieben, um Ideen angemessen zu würdigen. Selbst wenn Ideen parallel entdeckt werden, gilt es, wenn sich herausstellt, dass frühere Arbeiten dieselbe wesentliche Idee enthielten, weithin als bewährte Praxis, in diesem Fall den Vorrang zuzuerkennen. Der Punkt guter akademischer Praxis ist, die Gesundheit der Praxis insgesamt zu erhalten.
Wie Terence Tao in diesem Beitrag erklärt, ist das Ziel der Mathematik nicht nur, große Probleme zu lösen. Und selbst wenn man sich sehr einseitig auf die Lösung großer Probleme konzentrieren würde, ist es (langfristig) immer noch besser, die Gesundheit der gesamten Community zu erhalten, damit Probleme, die im Moment außer Reichweite sind, in Zukunft wieder in Reichweite kommen können. Gute akademische Praxis ist ein Teil dieser Kultur.
- shmoil
Andrew Wiles hielt 3 Vorträge, und erst am Ende des letzten kündigte er an, dass er FLT gelöst habe. Stellen Sie sich vor, jemand aus dem Publikum hätte zwischen dem zweiten und dem dritten Vortrag angekündigt, dass er FLT bewiesen habe (offensichtlich unter Verwendung seiner Ideen).
Warum ist es in Ordnung, wenn OpenAI das tut?
- asimpletune
Es ist ein wenig so, als wären wir zum Problem zurückgekehrt, dass der Kunde zum Produkt wird.
Wenn ich Mathematiker wäre, würde ich nicht wollen, dass meine unveröffentlichte Arbeit in die Hände eines Konkurrenten gerät.
Wenn ich Anwalt wäre, würde ich nicht wollen, dass private Details meiner Verteidigung der Staatsanwaltschaft zugänglich gemacht werden. Anonym oder nicht.
Ich würde nicht wollen, dass die Handlung eines unveröffentlichten Buches einem anderen Autor vorgeschlagen wird.
- throwaway713
Übersehe ich etwas Offensichtliches? Ist das nicht einfach eine simple DB-Abfrage, um den Zustandsverlauf des Schalters „Data Controls“ → „Improve model for everyone“ in den Einstellungen zu sehen? Man muss doch nur melden, ob dieser jemals aktiviert war und über welchen Zeitraum.
- aennassiri
Wenn OpenAI eine vollständige Non-Profit-Organisation geblieben wäre, die eine „OPEN“ AI zum Wohle der gesamten Menschheit (nicht nur der USA oder einiger Aktionäre) aufbauen wollte, hätte ich gerne meinen Code, meine Arbeit geteilt und sogar ihre Daten gekennzeichnet ... Allerdings mache ich ihnen keinen Vorwurf. Es ist eine schwierige Mission, gemeinnützig zu bleiben und gleichzeitig die erforderlichen Kapitalinvestitionen für den Aufbau von AGI zu haben.
Ich kritisiere sie nicht, aber ich hoffe, dass dieses Rennen um das erstbeste Ergebnis oder AGI sie nicht blind dafür macht, gute Entscheidungen zu treffen, wie etwa die Daten ihrer Nutzer nicht ohne Einwilligung zu verwenden.