Warum Large Language Models bei Tabellendaten versagen
Why Large Language Models Fail at Tabular Prediction
Large Language Models (LLMs) sind zum Standardwerkzeug für viele Aufgaben geworden, doch bei der Vorhersage auf tabellarischen Daten bleiben sie hinter klassischen Methoden zurück. Eine neue Studie untersucht ein LLM im reinen Inferenzmodus und testet fünf Hypothesen für dieses Versagen. Die Ergebnisse zeigen: Die Dimensionalität der Daten ist entscheidend. Während klassische Modelle mit zunehmender Dimension stabil bleiben oder besser werden, sinkt die Genauigkeit des LLMs. Die Autoren schlussfolgern, dass die Fähigkeiten des LLMs mit der Dimension kollabieren – ein Verhalten, das kein klassisches Modell nachahmt.
Unsere Ergebnisse zeigen, dass sich die Fähigkeit des LLMs mit der Dimension auflöst, und zwar auf eine Weise, die kein verrauschter klassischer Lernender nachahmt – was erklärt, warum LLMs, die sonst so leistungsfähig sind, bei Tabellen weiterhin gegen fünfzig Jahre alte Baselines verlieren.