Ist KI-Reasoning richtig aus den falschen Gründen?

Is AI Reasoning Right for the Wrong Reasons?

Als Science-Journalist bin ich verwirrt: Large Reasoning Models lösen komplexe mathematische Probleme, doch ihre Chains of Thought scheinen oft bedeutungslos. Forschung zeigt, dass diese Texte nicht unbedingt den inneren Prozess widerspiegeln und entfernt werden können, ohne die Leistung zu beeinträchtigen. Die Debatte zwischen Apple, OpenAI und Forschern wie Melanie Mitchell offenbart, ob wir echte Intelligenz oder nur geschickte Shortcuts beobachten.