AIに「メタ認知」を：Kahnemanの高速・低速思考を再現するマルチエージェント
Thinking Fast and Slow in AI: The Role of Metacognition
AIは目覚ましい進歩を遂げたが、依然として限定的なタスクに特化した狭いAIにとどまる。本論文は、人間の知能を支えるメタ認知の仕組みに着目し、Kahnemanの「ファスト＆スロー」理論を応用したマルチエージェントAIアーキテクチャを提案する。問題は、過去の経験のみで反応するSystem 1エージェントか、最適解の探索が必要な時に起動するSystem 2エージェントによって解決される。両者は世界モデルと自己モデルに支えられる。
State-of-the-art AI still lacks many capabilities that would naturally be included in a notion of (human) intelligence.
HNでの議論
78- red75prime
「当時、私たちは『知覚』『認知』とラベルを貼った箱を描き、その間に矢印を引いていたものだ」という言葉を思い出させる。正確な出典が思い出せない不正確な引用だけど。
私の『潜在意識』とラベルされた箱が言いたいのは、観察される認知現象を生み出す低レベルのメカニズムは、こうしたきれいな箱とは何の関係もないかもしれない、ということだろう。
- creativeSlumber
この速い/遅い思考というのは、現在のフロンティアモデルに関してどれほど relevant なんだろう？
この概念を中心に AI フレームワークを完全に構築した大規模組織を一つ知っているけど、現在のモデルの能力を考えると、これはあまり意味のある概念ではないように感じる。
- crorella
データベースのクエリオプティマイザの仕組みとよく似ているように見える。ただし論文では、最初のモデルが提供した回答の評価を条件付ける学習/記憶のコンポーネントも存在する点が異なる。
- zfoong
少なくともこれは ChatGPT より前に書かれたものだ。
- vist_orn
LLM に『自分の思考について考えさせる』のは、私の日々の格闘だ。この論文は、それがなぜこれほど決定的に重要かを的確に突いている。