Mathematiker fordern: KI-Labore sollen ihre Ergebnisse verantwortungsvoll veröffentlichen
Responsible Release of AI-Generated Mathematics
Eine Gruppe von Mathematikerinnen und Mathematikern hat Empfehlungen für den Umgang mit KI-generierten mathematischen Resultaten veröffentlicht. Grundlage sind über 600 Rückmeldungen aus der Community. Sie fordern, dass KI-Labore Ergebnisse nur mit nachvollziehbarer menschlicher Verständigung veröffentlichen, keine proprietären Modelle für fortgeschrittene Probleme testen und die mathematische Gemeinschaft nicht von ihrer eigenen Disziplin entfremden.
Wir möchten von Anfang an klarstellen: Wir billigen diese Praxis nicht und fordern sie auf, das Testen fortgeschrittener mathematischer Probleme auf proprietären Modellen einzustellen.
- kingstnap
Größtenteils ziemlich geradlinig. Die Idee, dass Beweise entschlackt, bestehende Literatur ordentlich zitiert und an einem geeigneten Ort veröffentlicht werden, wo sie kommentiert werden können, mit Artefakten zur Verifikation, ist alles höchst unkontrovers.
Ich denke, die scharfe These ist definitiv diese Haltung, dass langjährige mathematische Probleme nicht als Benchmarks für (speziell proprietäre) Modelle verwendet werden sollten. Gleich ganz oben genannt.
Die Begründung ist ziemlich klar.
> Die Nutzung proprietärer interner Modelle durch KI-Labore für mathematische Forschung riskiert ein Zweiklassensystem, in dem Labore den Rest des Feldes abhängen und die mathematische Gemeinschaft effektiv von ihrer eigenen Disziplin entfremden.
Es ist alles Spaß und Spiel (für Nicht-Mathematiker), wenn Mathematiker nicht mit KI-Laboren konkurrieren können, aber ich denke, die gefährlichere Richtung ist, wenn dies für den Rest von allem wahr wird. Zum Beispiel Cybersicherheit oder so. Deshalb halte ich Anthropics ganze Haltung, komplett gegen alles Offene zu sein, für tatsächlich *extrem* gefährlich wegen der Zentralisierung von Macht, die sie als Risikofaktor völlig ignorieren.
Das Diskutabelste daran ist sicherlich die Idee, dass Labore Mathematiker finanzieren sollten, um Darstellungen zu machen.
> Einer unserer Grundsätze ist, dass KI-Labore die Verantwortung haben, Unterstützung – einschließlich Finanzierung – für die Entwicklung des menschlichen Verständnisses der von ihnen veröffentlichten mathematischen KI-Ergebnisse zu bieten.
Offensichtlich klingt das in der Richtung nach der Rolle der Mathemati […]
- throwaway713
> wir bitten sie, damit aufzuhören, fortgeschrittene mathematische Probleme an proprietären Modellen zu testen.
Vielleicht bin ich damit allein, aber aus irgendeinem Grund kommen mir solche Bitten vor wie Gatekeeping darüber, wie jemand atmen sollte. Es ist Mathematik … die Zahlen und Symbole sind einfach da draußen im platonischen Reich und stehen jedem zur Verfügung, um damit zu machen, was er will. Es ist geradezu absurd, andere Leute zu bitten, damit aufzuhören.
Sicherstellen, dass Anerkennung dort ist, wo sie hingehört? Das ist in Ordnung. Wenn dein Modell die Bemühungen vieler anderer einbezieht, ist es vernünftig, die Anerkennung aller zu verlangen, die beigetragen haben (auch indirekt). Aber das ist nicht, was die Bitte besagt – vermutlich umfasst ihr Anliegen jedes fortgeschrittene ML-Modell, einschließlich solcher, die nicht auf einem riesigen Textkorpus trainiert wurden.
- mchusma
Entweder mathematischer Fortschritt hilft der Gesellschaft voranzukommen, dann ist Fortschritt eine gute Sache.
Oder Mathematik ist eher ein Hobby, und obwohl KI ihren Spaß verderben mag, müssen sie weitermachen wie Schach- und Go-Spieler.
- unddoch
Für jedes wichtige von KI gelöste Match-Problem gilt: Ohne Mathematiker wüssten wir nichts von der Existenz und Bedeutung des Problems.
Berühmte mathematische Vermutungen sind soziale Konstrukte, geformt durch Jahrzehnte, ja Jahrhunderte der Aufmerksamkeit, die ihnen Mitglieder der Mathematikgemeinschaft gewidmet haben. Ohne das besteht die Gefahr, dass zukünftiger Mathematik-„Fortschritt“ darauf reduziert wird, Tabellen von Lean-Aussagen und ein von KI generiertes wahrscheinlich/unbeweisbar-Bit zu erzeugen.
- astaza123
Als Antwort an KI-Unternehmen ist das so schlecht: Statt zu versuchen, einen Weg zu einer Win-win-artigen Lösung mit einigen Kompromissen zu finden, sagt das: sorry, uns fällt keiner ein, also hört einfach auf, Geld zu verdienen, ja? Mathematik braucht bessere Krisenmanager.
Aber als Idee ist das noch schlimmer: Bedeutet das, potenzielle Forschung zu Kernfusion, Krebs und allem einzustellen, solange sie irgendwelche Interessen eines Mathematikers berühren könnte, oder bedeutet es, dass Mathematik so hoffnungslos irrelevant ist, dass das nicht der Fall sein kann …? Wieder: Als Krisenmanager stellt man das nicht so dar.
Das lässt mich fragen, ob sie von Sam angeheuert wurden, um zu sabotieren?
- LelouBil
Ich habe ein Interview (auf Französisch) mit Cédric Villani gesehen, der für sich und andere Fields-Medaillengewinner sprach und sagte, dass wir, um die Mathematik voranzubringen, drei Dinge brauchen:
- Ideen
- Studenten
- Probleme
Im Grunde Studenten, die originelle Ideen einbringen, um bestehende Probleme zu lösen, und das erzeugt neue Ideen und möglicherweise neue Probleme, die neue Studenten mit neuen Ideen lösen können, und so weiter.
Und er fuhr fort, dass das Problem mit LLMs in der Mathematik sei, dass er befürchtet, ihnen könnten die Probleme ausgehen, und dann würden sich Studenten nicht mehr die Mühe machen, es zu versuchen, und das könnte dem Verständnis der Mathematik insgesamt schaden.
Es ist überhaupt nicht mein Feld, also bin ich nicht sicher, was ich davon halten soll, aber es scheint wichtig.
- Animats
Dieses Paper will, dass KI-Unternehmen menschliche Mathematiker dafür bezahlen, KI-generiertes Zeug zu verstehen.
Das ist eine ungewöhnliche Forderung.
- dsign
> Allerdings ist es jetzt der Fall, dass KI mathematische Argumente in Situationen ausgeben kann, in denen der Mensch, der sie angestoßen hat, nicht in der Lage ist, die Argumente zu verstehen, sie zu verifizieren oder Verantwortung für sie zu übernehmen.
Ich lese das als „jeder kann prompten, wenige können verstehen“. Und „wir brauchen mehr, die verstehen können“. Hätten wir mehr Mathematiker (als heute), die alle fortgeschrittene Modelle steuern, würde der Kuchen wachsen. Das Problem ist, dass KI-Fähigkeiten die Ausbildungspipeline aussaugen (indem sie sie entmutigen), die uns diese Mathematiker liefern würde, und wenn die jüngsten Gerüchte darüber, was KI mit Bildung macht, zutreffen, dann tut sie das viele Jahre, bevor Studenten überhaupt zur Graduiertenschule kommen.
IMHO ist es nicht so schlimm. Nach dem Butlerianischen Dschihad keinen Menschen mehr zu haben, der lineare Algebra versteht, ist ein Gewinn :-) .