AI研究员辞职：Anthropic正拿生命赌博
Gambling with our lives: AI researcher quits Anthropic with warning about safety
曾在OpenAI和Anthropic工作的AI研究员Jacob Coxon近日离职，并在社交媒体上发出严厉警告，称这两家科技巨头正在“拿我们的生命赌博”。他指出，构建AI的团队真诚地相信，到本十年末，AI可能会杀死全人类。Coxon强调，我们正朝着能够自我改进的超级智能狂奔，这种系统能破解任何事物、一夜之间颠覆任何领域并获取真实权力。Anthropic负责对齐工作的Evan Hubinger随后回应，确认了Coxon的说法，并估计未来十年内发生此类灾难的概率超过10%，但目前尚无应对超级智能失控的计划。
构建AI的人们真诚地相信，到本十年末，它可能会杀死我们所有人。
HN 评论区
100- themgt
大家在中国怎么看这件事？即使他们的模型落后，但也并非落后数年。如果我们限制美国公司（假设这是可取的），这丝毫无法阻止中国，AI 末日依然会在短时间内降临。