Sam Altman 向员工透露：OpenAI 愿放缓 AI 研发
OpenAI considers slowing advanced AI development, Sam Altman tells employees
OpenAI 正认真考虑放慢前沿人工智能的开发步伐。CEO Sam Altman 在近期的全员会议上向员工表示，公司可能会调整 AI 发展的节奏，甚至希望其他 AI 实验室也能采取类似行动。尽管这一提议可能涉及多方协作，但并非所有参与者都愿意配合。这一表态标志着 OpenAI 在追求技术突破的同时，开始更加审慎地权衡安全与速度之间的平衡，反映出行业对 AI 潜在风险的日益关注。
OpenAI 正在考虑放慢前沿人工智能的开发速度，CEO Sam Altman 希望其他 AI 公司也能采取同样的行动。
HN 评论区
104- reticulates
在吃掉第 65 根热狗后，Joey Chestnut 向 Nathan's Famous 国际热狗大赛的组织者保证，他会停在 66 根，以确保他们不会把热狗吃光。
- an0malous
“我没有任何东西要欺骗你们，当然我没有在骗你们。我是在以人类的身份与你们交流。我为什么要骗你们？没有任何……没有任何理由让我这么做。”
https://xcancel.com/cocktailpeanut/status/209733229184439951...
- saalweachter
“进展放缓完全是故意的，”Altman 向投资者保证道。
- naveen99
长远的时间线是怎样的？现在是 10 万亿参数。十年后是 100 万亿参数？一百年后是 1 千万亿参数？
参数的增长会停止吗？或者十年后、一百年后，全球投资中有多少比例用于训练，全球运营预算中有多少比例用于推理？
- hgoel
Sam 也曾说过 Astra 就是 AGI，而他可是出了名的诚实。
这不过是他们的一种说法，表明他们正式从提供 AI 服务转向利用 AI 与自己的客户竞争，就像 Navier-Stokes 风波那样。
- int32_64
当中国模型在各项基准测试中超越暂停发展的 Anthropic 和 OpenAI 时，他们的估值会跌到多低？
- YesBox
<非 AI 研究人员——只是随口一说>
也许移动“球门”变得越来越难了？
- 在文本上训练 LLM -> 哇哦，AI 会写作了！
- 在代码上训练 LLM -> 哇哦，AI 会写代码了！
- 在图像上训练 LLM -> 哇哦，AI 能生成图像了！
- 在视频上训练 LLM -> 哇哦，AI 能生成视频了！
- 在数学上训练 LLM -> 免费向 10 万名研究人员/科学家/数学家开放 -> 投入资源到 Lean -> 哇哦，AI 能解决数学问题了！
我之所以说“球门”，因为这是一个常见的论点，但似乎未被考虑到的视角是：LLM 在不同领域一遍又一遍地做着同样的事情，同时通过标注和人工审核进行微调。
涌现行为的论点是一个单独的考量因素，但我可以想象，AI 被赋予一个单词列表（一种约束机制）来指导其运作——而不是反过来——而难题在于缩小范围并过滤所有与单词/约束机制相关的关联，以使其正确对齐。
也许大家讨论的递归循环会产生极其难以（甚至不可能）预测的行为？如果 AI 可以修改它自己的约束机制，那是不是 AGI？如果我们完全理解了高维空间中发生的一切，并能预测任何输入 token 组合的输出，那难道不是 AGI 吗？
或者，也许我只是用这些说法来安慰自己，好让我别担心涉及 ASI 的未来（：
- copperx
这是你能从 Sam 那里听到的最接近承认失败的言论了。