AI에 메타인지를 심어 인간의 사고를 구현하다
Thinking Fast and Slow in AI: The Role of Metacognition
최신 AI는 이미지 해석, 자연어 처리 등 좁은 영역에서 놀라운 성과를 냈지만, 인간 지능의 핵심 능력은 여전히 결여되어 있다. 이 논문은 Kahneman의 '빠른 사고와 느린 사고' 이론에 주목해 다중 에이전트 AI 아키텍처를 제안한다. 과거 경험에 의존하는 system 1 에이전트와, 필요할 때 의도적으로 활성화되어 최적해를 탐색하는 system 2 에이전트가 협력하며, 세계 모델과 자기 모델이 이를 뒷받침한다.
우리는 특히 D. Kahneman의 빠른 사고와 느린 사고 이론에 주목하며, 들어오는 문제를 system 1(또는 '빠른') 에이전트가 과거 경험만을 활용해 반응하거나, system 2(또는 '느린') 에이전트가 system 1 에이전트에 기대되는 범위를 넘어 최적의 해를 추론하고 탐색할 필요가 있을 때 의도적으로 활성화되는 다중 에이전트 AI 아키텍처를 제안한다.
HN 토론
67- red75prime
이건 "당시 우리는 '지각', '인지'라고 라벨을 붙인 상자들을 그리고 그 사이에 화살표를 그렸다"는 말이 떠오르네요. 출처를 못 찾겠는 부정확한 인용이지만.
내가 '무의식'이라고 라벨 붙인 상자가 말하려는 건, 관찰된 인지 현상을 낳는 저수준 메커니즘은 깔끔한 상자와는 아무 관련이 없을 수도 있다는 것 같아요.
- creativeSlumber
이 빠른/느린 사고라는 게 현재 최전선 모델들과 얼마나 관련이 있나요?
이 개념을 중심으로 AI 프레임워크를 완전히 구축한 대형 조직을 아는데, 현재 모델들의 능력으로는 별로 의미 있는 개념이 아니라고 느껴요.
- crorella
데이터베이스 쿼리 옵티마이저가 작동하는 방식과 꽤 비슷해 보이는데, 논문에는 첫 번째 모델이 제공한 답변의 평가를 조건화하는 학습/기억 구성 요소도 있다는 점이 다르네요.
- zfoong
적어도 이건 ChatGPT보다 먼저 쓰였다는 게 다행이네요.
- vist_orn
LLM이 '자신의 사고에 대해 생각'하게 만드는 건 제 일상적인 고군분투입니다. 이 논문은 그것이 왜 그렇게 중요한지 정확히 짚어내네요.