Coding-Agenten blicken bis zu 25 Schritte in die Zukunft
Coding agents think ahead of time
Eine neue Studie zeigt, dass die internen Darstellungen von Sprachmodellen in Coding-Agenten den Programmzustand überraschend präzise kodieren. Mit logistischer Regression auf versteckten Zuständen lässt sich vorhersagen, ob der Code kompiliert, Tests besteht oder Regressionen einführt (AUC bis 0,83). Noch bemerkenswerter: Diese Repräsentationen laufen den tatsächlichen Änderungen des Agenten bis zu 25 Schritte voraus. Die Autoren nennen dies den "latenten Programmierhorizont" und zeigen, dass die Proben ohne erneutes Training auf andere Benchmarks übertragbar sind.
Probes, die darauf trainiert sind, das Ergebnis zukünftiger Änderungen vorherzusagen, erreichen eine über dem Zufall liegende Leistung, und das bis zu etwa 25 Schritte im Voraus.