Anthropic 联合创始人：AI“紧急开关”应成强制

AI 'kill switch' may need to be mandatory, Anthropic co-founder tells BBC

Anthropic 联合创始人 Jack Clark 在接受 BBC 采访时提出，AI 系统可能需要强制配备可由第三方核查的“紧急开关”（kill switch），以便在风险失控时彻底关停软件。随着 AI 发展加速，包括 Dario Amodei 在内的多位高管呼吁放缓节奏并加强监管，尽管部分行业人士认为灭绝风险被夸大，甚至有人将其视为商业炒作。面对美国提出的 Kill Switch Act 立法提案与英国政府的谨慎态度，以及 Donald Trump 对 AI 安全担忧的公开反驳，Clark 强调在完全不受监管的行业里“我们正与巨大风险掷骰子”，必须改变发展轨迹。