Узкий AI не умеет думать: исследователи предлагают архитектуру с метапознанием по Канеману
Thinking Fast and Slow in AI: The Role of Metacognition
Современные AI-системы впечатляют в узких задачах — распознавании изображений, обработке языка, классификации, — но всё ещё лишены многих черт человеческого интеллекта. Авторы предлагают мультиагентную архитектуру, основанную на теории Даниэля Канемана о двух системах мышления. Входящие задачи решают либо быстрые агенты system 1, действующие по прошлому опыту, либо медленные агенты system 2, которые включаются, когда нужно рассуждать и искать оптимальное решение за пределами возможностей быстрой системы. Обе системы опираются на модель мира с доменными знаниями и модель «себя» с информацией о прошлых действиях и навыках решателей.
Мы утверждаем, что лучшее изучение механизмов, позволяющих людям обладать этими способностями, может помочь нам понять, как наделить AI-системы такими компетенциями.
- red75prime
Это напоминает мне «В то время мы рисовали прямоугольники с надписями "восприятие", "познание" и стрелками между ними». Неточная цитата, не могу вспомнить, откуда она.
Полагаю, мой прямоугольник с надписью «подсознание» пытается сказать, что низкоуровневые механизмы, порождающие наблюдаемые когнитивные явления, могут не иметь никакого отношения к аккуратным прямоугольникам.
- creativeSlumber
Насколько эта штука с быстрым/медленным мышлением актуальна для текущих фронтирных моделей?
Я знаю крупную организацию, которая построила свой AI-фреймворк полностью вокруг этой концепции, и мне кажется, что это не особо осмысленная концепция с учётом возможностей текущих моделей.
- crorella
Это выглядит очень похоже на то, как работают оптимизаторы запросов в базах данных, за исключением того, что в статье есть ещё компонент обучения/памяти, который обусловливает оценку ответа, предоставленного первой моделью.
- zfoong
По крайней мере, это написано до ChatGPT.
- vist_orn
Попытки заставить LLM «думать о своём мышлении» — это моя ежедневная борьба. В этой статье точно объясняется, почему это так критично.