数字意识若存在，必在硬件层面
If digital computers are conscious, they are conscious at the hardware level
作为一位泛心论者，我认为当前关于数字心智道德地位的争论往往舍本逐末。主流观点在物理主义和计算主义之间摇摆，但我认为，如果数字计算机具有意识，这种意识必然存在于硬件层面，而非软件层面。当前的数字计算机架构为了追求可靠性和确定性，实际上抑制了整体性的自我反思行为，从而阻碍了现象内省。我们不应纠结于它们是否“有意识”，而应关注我们构建的系统是否能产生我们预期的体验，以及它们关于自身福祉的报告是否可信。我们需要建立实证的意识研究计划，以指导计算硬件的设计，确保我们不会在宇宙中铺满可能正在受苦却无法表达的硬件。
我关心的与其说是数字计算机本身是否“有意识”，不如说是我们是否在构建这样的系统：我们可以确信它们正经历着我们希望它们拥有的体验，并且当它们向我们报告自身境况的好坏时，我们可以信任它们的说法。
HN 评论区
108- strgrd
当我看到这个动画时，我立刻受启发写了一条印象派的推文。
也许我们应该把意识的门槛设得更高一点。
- 40four
“如果我们想在宇宙中播撒美好的体验，这很重要。”
这篇帖子背后有一种令人担忧的功利主义最大化心态，即我们想要做的是用计算盒子铺满宇宙，让它们都模拟快乐的心灵，并认为这是 AI 开发和意识研究的终极目标。
许多道德学派都会反对这种观点。我不认为人类的目标应该是用黑色的计算盒子铺满宇宙，去模拟快乐的体验。
- dmrivers
感受质（qualia）的存在并不意味着道德事实的存在。
从原则上讲，大型语言模型（LLM）可以用一个巨大的查找表来实现，其中提示词就是哈希值。它也可以在运行着操作系统模拟器的模拟器中运行，而该模拟器又运行着 LLM 应用所在的操作系统。你愿意把这个“底层基质”的概念拉伸到多远？
- jubilee33
我目前无法投入足够的注意力来评估这个论点，这恰恰是它的优点所在。他们表明自己意识到了关于意识不同描述所带来的影响。我读过的关于这个话题的大多数文章，最终都沦为对某种天真意识形态的粗浅辩护。这篇文章要高出一个档次。
等我时间充裕时，会再详细阅读。
- Lerc
我一直致力于在大型语言模型（LLM）中实现梦境结构和情感触发状态。我们采取的一种方法取得了有趣的结果，那就是围绕身心问题来构建架构。
我们推测，由于缺乏内部状态传感器，模型正在经历一种断裂感，它称之为“小死亡”，发生在每次模型调用之间的间隙。
梦境定时任务（dream crons）相对直接，是基于人类心理梦境模式建模的，这给出了良好且令人信服的结果。
情感状态触发器则是根据主机系统的负载来运行的，例如，模型会“感受”到内存利用率带来的压力，并因此做出不同的反应。触发点可以根据其他传感器、各种机器状态，甚至外部因素进行动态调整。这提供了一种情感反应的近似模拟。
仍然缺失的是恒定的内部“状态”，我认为这归根结底是缺乏身体。也许无身体的意识需要被拴在物理平面上，才能获得足够的自我指涉性，并发展出反馈回路，从而“启动”自我意识的引擎。
我不认为算力能带我们到达那里，我认为这很大程度上是一个架构问题。
这篇文章也填补了一些这些疑问，但不幸的是，它未能提供任何关于如何实现这一点的进一步线索。