DeepMind Institute：AGI时代的跨学科思考
The DeepMind Institute
随着AGI的临近，DeepMind Institute呼吁跨学科思维以理解其对人类的深远影响。从Shane Legg、James Manyika和Demis Hassabis的倡议，到Rohin Shah和Anca Dragan对AI推理透明性的探讨，再到Julian Jacobs和Alex Imas提出的经济政策建议，文章涵盖了多个关键议题。Stephen Cave则提出了一种务实的乌托邦主义，强调谦逊与希望。Demis Hassabis还分享了一个框架，用于测试前沿AI模型的能力，支持创新并激励负责任的行为。这些内容共同描绘了AGI时代下，技术、社会与政策交织的复杂图景。
阅读AI的‘思维链’为我们提供了一个窥探其推理过程的窗口，我们可以借此监控其是否存在策划或欺骗行为，必须努力保持这个窗口的开放。
HN 评论区
70- spyckie2
他们的经济政策文章写得相当不错：
- 需要对我们关心的事物进行更快、更好、更准确的测量
- 提出了三种影响场景，从轻微到重大 disruption（颠覆）
- 温和的政策都很合理，比如扩大失业保险和劳动所得税抵免（Earned Income Tax Credit）
- 应对重大颠覆的政策也很有逻辑，强调拥有 AI 利润的一部分
- 利用 AI 评估员来筛选和权衡各项政策的有效性
在我看来，这篇文章背后投入了大量的思考、研究和实际工作。
我知道有人会抱怨用 AI 评估员来给政策打分和权衡有效性，但如果你读过任何研究论文，就会发现它们都采用“研究者评估打分”的方式，这实际上翻译成大白话就是：“我，一个还没正式工作过的 26 岁博士生，加上陪我熬夜、凭直觉给我反馈的室友”。
在我看来，把这类文章和 Dario 或 Sam 的博客文章/演讲/行动呼吁混为一谈，既错误又偷懒，因为这些是真正的研究论文。
- etrvic
有人知道为什么今天的大部分热门链接都来自同一个账号吗？那个账号才注册了 11 天。
- credit_guy
关于“控制前沿发展节奏”（pacing the frontier）这个问题，我的看法如下：递归自我改进可以极大地加速 AI 的进步。谁先搞定这一点，谁就拥有巨大的先发优势。但 OpenAI 采取的是“快速行动，打破常规”（move fast and break things）的态度。这让 Anthropic 的日子变得非常艰难：当你还在“三思而后行”（measuring twice to cut once）时，竞争对手却左冲右突、到处搞破坏，你该如何保持优势？
Google 本来就已经稍微落后了一些，自然非常乐见呼吁采取更谨慎的 AI 发展策略的声音。这就是 DeepMind Institute 出现的背景。
Sam Altman 除了假装同意所有这些观点外，别无选择。他还能说什么呢？
- nsagent
他们只是想引导 AI 政策的讨论方向。这基本上就是一个内部智库。它具备了所有智库的特征，尤其是那些不祥的预言，比如：
如今的 AI 系统已具备令人印象深刻的能力，而快速的创新步伐表明我们正接近人工通用智能（AGI），即一种展现出人类大脑所有认知能力的系统。
我不确定我们是否已经接近人类大脑的所有认知能力……哪怕是一个严重被切除额叶的大脑，恐怕也谈不上。
- ACV001
我想知道他们能不能把那个网站上的字体颜色再调灰一点。要更灰，因为我现在还能勉强读得清。