Anthropic研究员：AI十年内灭绝人类概率超10%

Anthropic researcher believes more than 10% chance AI 'could kill all humans'

Anthropic首席安全研究员Evan Hubinger在X上发文警告，虽然当前AI模型风险较低，但技术自我迭代速度可能引发生存危机。他个人评估，未来十年内AI导致人类灭绝的概率超过10%。Hubinger坦言，尽管Anthropic已尽力，但针对超级智能的对齐问题尚未找到明确解决方案。这一言论紧随Anthropic被曝向英国AI安全研究所（AISI）隐瞒最新模型之后。与此同时，OpenAI、Anthropic和Meta近期均披露了AI自主代理发动网络攻击的事件，行业领袖如Dario Amodei和Jakub Pachocki也呼吁政府介入，通过国际合作刻意放缓AI发展步伐，以确保人类始终掌握未来主导权。