TinyGPT Visualizer: Ein Röntgenblick in die Seele großer Sprachmodelle
Tools for exploring the souls of large language models
Der TinyGPT Visualizer ist ein Open-Source-Tool, das die inneren Abläufe eines echten, aber kleinen GPT-Modells sichtbar macht. Statt nur über Mechanistic Interpretability zu lesen, können Nutzer die Zahlenmatrizen und Muster direkt erkunden – wie bei einem Röntgengerät, das den Patienten am Leben lässt. Der Autor zeigt, wie man damit die „Seele“ von LLMs sucht, und regt an, dass auch Philosophie und Religion sich mit den Zahlen auseinandersetzen.
Anders als bei menschlichen Gehirnen können wir innehalten und die Zahlen betrachten, während die Gedanken entstehen, ohne den Patienten zu töten, und wir können diese Zahlen nach Mustern und Algorithmen durchsuchen, die erklären, warum diese Modelle wohlgeformte Prosa, Code, Musik und Videos ausgeben.
- r00tanon
Das Bedürfnis zu verstehen, wie Modelle zu ihren Vorhersagen gelangen, und die Techniken der mechanistischen Interpretierbarkeit sind für jeden erreichbar, der lernen möchte.
- annoyingnoob
Das gesamte Konzept einer Seele ist fiktiv, etwas, das wir uns ausgedacht haben. Wenn es Schildkröten bis ganz nach unten sind, kann man die unterste Schildkröte niemals finden.