KI nach Kahneman: Metakognition soll System 1 und System 2 vereinen
Thinking Fast and Slow in AI: The Role of Metacognition
Trotz großer Fortschritte bleibt KI meist schmale Intelligenz, die auf riesigen Datensätzen und Rechenleistung basiert. Inspiriert von Daniel Kahnemans Theorie des schnellen und langsamen Denkens schlagen die Autoren eine Multi-Agenten-Architektur vor: System-1-Agenten reagieren schnell auf Basis vergangener Erfahrungen, während System-2-Agenten gezielt aktiviert werden, wenn bewusstes Schlussfolgern und die Suche nach optimalen Lösungen nötig sind. Beide stützen sich auf ein Weltmodell mit Domänenwissen und ein Selbstmodell mit Informationen über frühere Aktionen und Fähigkeiten der Solver.
Wir schlagen eine Multi-Agenten-KI-Architektur vor, bei der eingehende Probleme entweder von System-1-Agenten (oder „schnellen“ Agenten) gelöst werden, die nur auf vergangene Erfahrungen zurückgreifen, oder von System-2-Agenten (oder „langsamen“ Agenten), die bewusst aktiviert werden, wenn es notwendig ist, über das hinauszugehen, was von einem System-1-Agenten erwartet wird, und nach optimalen Lösungen zu suchen.
- red75prime
Es erinnert mich an "Damals zeichneten wir Kästen mit der Aufschrift 'Wahrnehmung', 'Kognition' und Pfeile dazwischen." Ein ungenaues Zitat, das ich nicht einordnen kann.
Ich schätze, mein Kasten mit der Aufschrift 'Unterbewusstsein' versucht zu sagen, dass die niedrigstufigen Mechanismen, die zu den beobachteten kognitiven Phänomenen führen, möglicherweise nichts mit ordentlichen Kästen zu tun haben.
- creativeSlumber
Wie relevant ist dieses Schnell-/Langsam-Denken im Hinblick auf aktuelle Frontier-Modelle?
Ich kenne eine große Organisation, die ihr KI-Framework komplett um dieses Konzept herum aufgebaut hat, und ich habe das Gefühl, dass es mit den Fähigkeiten aktueller Modelle kein wirklich bedeutungsvolles Konzept ist.
- crorella
Es sieht stark danach aus, wie Query-Optimierer von Datenbanken funktionieren, mit der Ausnahme, dass es in dem Paper auch eine Lern-/Gedächtniskomponente gibt, die die Bewertung der vom ersten Modell gelieferten Antwort beeinflusst.
- zfoong
Zumindest wurde das vor ChatGPT geschrieben.
- vist_orn
Zu versuchen, LLMs dazu zu bringen, 'über ihr Denken nachzudenken', ist mein täglicher Kampf. Dieses Paper trifft genau den Punkt, warum das so entscheidend ist.