Исследователи AI спорят, близки ли мы к рекурсивному самосовершенствованию
AI researchers debate how close we are to recursive self-improvement
Дваркеш Патель собрал трёх исследователей AI — Джона Шульмана из Thinking Machines, Берена Миллиджа из Zyphra и Чарли О'Нила из Baseten — чтобы обсудить, насколько близко рекурсивное самосовершенствование (RSI). Они разбирают, что движет прогрессом китайских лабораторий, как будут обучать автоматизированных AI-исследователей, вызовет ли AGI долгосрочное RL, и почему разрыв sim-to-real может затормозить взрывной рост. Участники спорят, сможет ли текущая парадигма transformer + RL породить следующий прорыв или упрётся в асимптоту.
Если нам потребуется ещё один такой разрыв, чтобы решить проблему, я не уверен, что текущий метод обучения LLM с помощью этих RL-сред, даже RL-сред, нацеленных на RSI, сможет обнаружить этот разрыв.
- bretpiatt
Судя по тому, что я наблюдаю, у нас есть рекурсивное самосовершенствование, которое может находить локальные максимумы, но я не вижу действительно убедительных доказательств неконтролируемого RSI, который находит истинный оптимум.
- reilly3000
Я разработал высоко персонализированный, локальный, офлайн RSI, пролистывая слишком много статей об AI. В основном он в моём правом большом пальце.
- killbot5000
Может кто-нибудь определить «улучшение» в этом контексте? Иначе это понятие ощущается как модное словечко.
- anoplus
AI следует оптимизировать так, чтобы все люди были здоровы, счастливы и в безопасности без исключения.
- carabiner
Кто-нибудь знает статус работы Джона Кармака над AGI?
- preommr
Какое значение имеют эти обсуждения, когда слова не имеют значения?
Сколько раз уже объявляли AGI? Куча людей (например, Дженсен Хуанг) называли Astra AGI, к примеру.
Планку постоянно двигают, все суетятся, лгут, изобретают новые модные словечки, занимаются умственной гимнастикой, и всё это просто утомляет.
Просто покажите мне результаты, и пусть доказательство будет в пудинге.
- eugene3306
Ладно, AI теперь может написать стихотворение или сочинить песню.
Но может ли AI создать Terminal Bench 5.0 или GDPval 2027?
Без этого просто нет пути к RSI.
- deadbabe
Рекурсивное самосовершенствование в конечном счёте станет проблемой денег. Это очень большой счёт, и AI-компаниям нужно начать думать о том, как они будут накапливать дешёвую и бесплатную энергию, потому что просто платить за вычисления больше не будет достаточно. Деньги — это узкое место. Будущее требует компаний, которые пост-денежные.