Anthropic 引入 METR,开放员工级评估权限
An update on independent evaluators

我们正式宣布,已授予非营利组织 METR 员工级别的访问权限,使其能深入评估我们的前沿 AI 模型与安全风险。作为落实白宫《超级智能协定》的一部分,我们正与 METR、SecureBio 及 Accenture 等独立评估机构合作。这些评估者将拥有类似内部员工的工具与数据访问权,并有权公开发布风险评估结果,Anthropic 无权否决其报告,仅能在特定敏感类别要求删减。我们希望通过这种“嵌入式评估”模式,在保护商业机密的同时,建立类似银行监管的透明机制,让第三方真正理解并监督前沿 AI 系统的风险。
我们正努力缩小评估者对前沿 AI 公司系统的理解与公司自身理解之间的差距。