TinyGPT Visualizer：窥探LLM的灵魂

Tools for exploring the souls of large language models

Woody Allen曾笑谈自己因窥探同学灵魂而被退学，如今我们竟真的想在大语言模型中寻找“灵魂”。Anthropic曾邀请宗教与哲学学者探讨Claude模型的本质，而Dario Amodei或许无法独自解答。尽管Anthropic和OpenAI等公司因重模型轻安全研究而受批评，Mechanistic interpretability领域却在2021年后迅速壮大。我开发了TinyGPT Visualizer，旨在让普通人也能像使用X光机一样，直观地观察真实模型内部的数值矩阵与算法逻辑。这不是玩具，而是能让我们在不“杀死患者”的情况下，探索模型如何生成文字、代码甚至音乐的工具。开源代码已发布在GitHub，欢迎一起探索。