AI-агенты провалили две статьи на NeurIPS: рекурсивное самоулучшение откладывается
AI recursive self-improvement might not come so quickly after all (August 2026)
Исследователи из Princeton и других университетов проверили, способны ли AI-агенты вести открытые научные изыскания. Агентам дали шесть дней, $3,000 в кредитах Anthropic API и доступ к открытому вебу, чтобы написать статьи по двум неопубликованным работам с NeurIPS 2026. Авторы оригиналов отклонили обе статьи: агенты отлично справились с инженерией, но не проявили креативности и суждения. Это ставит под сомнение сроки рекурсивного самоулучшения.
«С другой стороны, агенты были однозначно плохи в проведении самого исследования», — говорит Kapoor.
- smackeyacky
Как эти модели могут делать что-то близкое к RSI, если они даже не могут проверить собственный вывод? Gemini, например, у меня самоуверенно ошибается примерно в 30% случаев на определённых задачах. Я говорю ему, что ответ неверный, он приносит mea culpa, но вскоре снова ошибается. Мне кажется, что индустрия ИИ всё ещё сильно преувеличивает свои прогнозы.
- daavidhauser
Opus 4.8 плюс OpenClaw. Мне кажется, что эта область движется так быстро, что результат с такой конфигурацией мало что говорит о том, насколько мы на самом деле близки сейчас.
- 0xDEAFBEAD
Нужно остерегаться wishful thinking. Люди будут хотеть предположить существование некоего «deus ex machina», который всё уладит. Я предпочитаю перевернуть логику. Если есть хоть сколько-нибудь высокая вероятность, что всё может пойти наперекосяк, нам следует остановить разработку ИИ: https://pauseai.info/
- vessenes
Ну, очевидно. Если бы это можно было сделать с Opus 4.8, мы бы знали. Когда преемник Astra будет в 2–3 раза лучше в математических исследованиях, и внутренние команды скажут «мы верим, что доберёмся до этого», я склонен верить инсайдерам.
- dgellow
Ссылка на саму статью: https://arxiv.org/abs/2607.27191