Исследователи AI спорят, близки ли мы к рекурсивному самосовершенствованию
AI researchers debate how close we are to recursive self-improvement
Дваркеш Патель собрал трёх исследователей AI — Джона Шульмана из Thinking Machines, Берена Миллиджа из Zyphra и Чарли О'Нила из Baseten — чтобы обсудить, насколько близко рекурсивное самосовершенствование (RSI). Они разбирают, что движет прогрессом китайских лабораторий, как будут обучать автоматизированных AI-исследователей, вызовет ли AGI долгосрочное RL, и почему разрыв sim-to-real может затормозить взрывной рост. Участники спорят, сможет ли текущая парадигма transformer + RL породить следующий прорыв или упрётся в асимптоту.
Если нам потребуется ещё один такой разрыв, чтобы решить проблему, я не уверен, что текущий метод обучения LLM с помощью этих RL-сред, даже RL-сред, нацеленных на RSI, сможет обнаружить этот разрыв.