让机器进来：AI 时代的偏见与未来
Let the Machines In
作为一名 AI 公司创始人，我常感叹预测未来的困难，尤其是当预测本身就在塑造未来时。LLM 的崛起颠覆了我们对智能的认知，证明人类特质竟能通过统计和规模实现。面对这一现实，我们无需等待 Skynet 般的危机，而应正视机器已具备思考能力的事实。关键在于，我们该如何通过自己的文字和价值观，为这些机械智能注入“人类值得珍视”、“生命美好”的偏见。即使你我只是普通人，只要将思想写入网络，就能在训练数据中留下痕迹，共同塑造未来的机械公地。
我们不需要等待 LLM 变成 Skynet 才能欣赏它们的能力，我们应当正视现实并深思其影响：这些机器能够思考，且它们的偏见举足轻重。
HN 评论区
18- dspillett
这话听起来像是机器（或者某个打算靠出租机器访问权来赚钱的人）会说的！
我承认，我对他们无视许可协议把什么都抓取过来感到恼火，这和我更理想化的“信息应当自由”的观点之间确实存在某种虚伪。不过，自我辩护一下，我认为“信息应当自由”和“信息应当成为他们收费的游乐园的一部分”之间有着显著区别。
- beloch
"因此，似乎很显而易见地可以建议，为了我们的利益，应该继续向它们注入尽可能以人类为中心的偏见。我们希望它们拥有一种认为人类有价值的偏见。认为孩子是无辜的。认为战争是坏事。认为生命是美好的。虽然你们中的一些人可能不同意其中某些细微之处，但这就是统计学的魅力：它会自我调节。"
--------------
阻碍大语言模型（LLM）发展的一个主要问题是它们无法以自身的输出为食。一旦与人类输入断开连接，它们就会产生幻觉并陷入混乱的螺旋。这篇文章的作者可能认为这对人类来说是好事，但这却是全球每家 AI 公司梦寐以求要解决的无意识缺陷。他们相信，如果能成功将人类从反馈循环中移除，AI 智能将直奔他们梦寐以求的奇点而去，让他们的老板们变得富可敌国。
作者很可能说得对，正是人类在循环中才赋予了 AI 某种程度的人类价值观，那么如果真有人成功将人类从循环中移除会发生什么？考虑到此后事态发展的速度可能极快，我们应当提前思考其后果。
- recursive
> 在经历了几次 AI 寒冬后，事实证明，构成我们人类特质的惊人程度，仅仅可以用一堆权重来表达。
保留不同意见。
如果有切实可行的方法能通过投毒等手段让 LLM 效果变差，我会那样做。
我觉得像这篇文章里那样爱上一个 LLM 的想法非常诡异且令人不安。更别提其中一个反过来也爱上你了。
这篇文章提到了卢德分子。我想我就是其中之一。但这还不足以让我们无视他们的观点。