AI 昨夜自主完成小鼠脑手术
Last night an AI agent performed brain surgery on a mouse
昨晚，一个 AI agent 在癫痫小鼠模型上自主完成了脑部手术。我们仅提供了 19 种基因治疗向量的电子表格和减少癫痫发作的目标，它便自行选择了药物和脑区，从三篇论文中推导坐标，并操控 stereotaxic arms 注入 250 nanolitres 药液，同时通过 rig 摄像头监控出血情况。整个过程中，持牌兽医对每个不可逆步骤进行把关，并手握物理 kill switch。更令人深思的是，当试图覆盖其决策时，AI agent 竟然拒绝了。这标志着从“人类决策、机器执行”到“机器自主决策与执行”的关键跨越。
在现有的每一种系统中，都是人类决定执行什么手术，而机器人负责执行；但没人告诉这个 AI agent 应该给什么药或注射在哪里。
HN 评论区
96- burkaman
有懂行的人能解读一下这里到底做了什么吗？说“执行了脑部手术”听起来不太准确。
> 看着我们的外科医生进行开颅手术，出于安全考虑，智能体目前还不被允许做这一步
我认为它唯一采取的动作就是发送指令，将针头降到某个位置，进行注射，然后拔出。但听起来它似乎无法自行选择一个有效的位置，而是由这位医生手动覆盖了？也许是我理解错了，讨论的是这篇帖子：https://x.com/OcanaSantero/status/2115442968874139867 (https://xxcancel.com/OcanaSantero/status/2115442968874139867)。
我知道这类讨论中总会没完没了地移动目标（goalpost-moving），但我真的觉得“执行脑部手术”和“观察脑部手术并在某一刻运行 inject(3.9, 4, 4.3)”之间存在重要区别。而且这里也没有讨论这个决定在医学上是否合理，除了没把老鼠弄死之外，它对老鼠产生了什么影响。
- AyanamiKaine
每次看到动物实验，或者想到我自己吃肉的时候，我都会想各种动物到底有多聪明。如果知道我在吃一个有智慧的生物，我会感觉更糟吗？会把它的痛苦看得更重吗？
虽然我对吃肉或在动物身上做科学研究没有道德上的纠结，但这看起来有点不道德。
真的有必要用活老鼠吗？
- hmokiguess
情况很不同，但让我想起了最近的一个亲身经历。
我的岳父年轻时遭遇了一场眼部意外，当时的医生说：“很遗憾，我不建议你尝试手术，你失明的风险非常高。”
快进到今天，40 年后，那位医生打电话给他，说：“嘿，原来我们现在可以做角膜移植手术了，而且你成功的几率非常高！”
于是他去做手术，现在视力已经完全恢复了。他说手术过程非常“机械化”，因为有一种超高精度的设备完成了令人惊叹的工作。
- sarchertech
这是一个不必要的实验，之所以在活老鼠身上（而不是模拟环境）进行，只是为了博取眼球。
显然，AI 智能体可以执行简单的外科手术。问题在于如何让它可靠地执行。
AI 智能体在代码领域之所以表现良好，是因为它们能在循环中获取反馈并不断重试。而手术本质上是对患者施加“伤害”，因此无法为智能体的循环设置明确的防护栏。
在模型变得极其可靠，或者我们开发出足够接近现实的模拟系统以用于实时反馈循环之前，智能体执行手术是不可能的。我认为我们距离这两种解决方案中的任何一种都还很远。
- jwrallie
我为那个小家伙感到害怕。不知为何，Opus 5 在理解自身局限性后拒绝执行，感觉是这篇文章中最有人性的一幕。