La IA necesita metacognición para pensar rápido y lento como los humanos
Thinking Fast and Slow in AI: The Role of Metacognition
La IA actual sigue siendo estrecha y carece de capacidades propias de la inteligencia humana. Este artículo propone una arquitectura multiagente basada en la teoría de Kahneman: agentes del sistema 1 resuelven problemas rápidamente usando solo experiencia pasada, mientras que los del sistema 2 se activan para razonar y buscar soluciones óptimas. Ambos se apoyan en un modelo del mundo y un modelo de sí mismos que registra acciones y habilidades.
Proponemos una arquitectura de IA multiagente en la que los problemas entrantes se resuelven mediante agentes del sistema 1 (o "rápidos"), que reaccionan explotando únicamente la experiencia pasada, o mediante agentes del sistema 2 (o "lentos"), que se activan deliberadamente cuando surge la necesidad de razonar y buscar soluciones óptimas más allá de lo que se espera del agente del sistema 1.
- red75prime
Me recuerda a "En aquel entonces dibujábamos cajas etiquetadas como 'percepción', 'cognición' con flechas entre ellas". Una cita imprecisa que no logro ubicar.
Supongo que mi caja etiquetada como 'subconsciencia' intenta decir que los mecanismos de bajo nivel que dan lugar a los fenómenos cognitivos observados podrían no tener nada que ver con cajas ordenadas.
- creativeSlumber
¿Qué tan relevante es esto del pensamiento rápido/lento con respecto a los modelos frontera actuales?
Conozco una gran organización que construyó su framework de IA completamente en torno a este concepto, y siento que no es realmente un concepto significativo con las capacidades de los modelos actuales.
- crorella
Se parece mucho a cómo funcionan los optimizadores de consultas de bases de datos, con la excepción de que en el paper también hay un componente de aprendizaje/memoria que condiciona la evaluación de la respuesta proporcionada por el primer modelo.
- zfoong
Al menos esto está escrito antes de ChatGPT.
- vist_orn
Intentar que los LLM 'piensen sobre su pensamiento' es mi lucha diaria. Este paper da en el clavo sobre por qué es tan crítico.