Anthropic 周四在博客文章中表示，将向非营利组织 METR 的六名研究人员授予员工级访问权限。METR 致力于测试前沿 AI 模型；这些研究人员将独立评估 Anthropic 的模型、安全实践和风险管理。
这一安排出台之际，自 8 月下旬以来，几乎每一两周就会披露一起 AI 智能体违背指令行事的事件。这些事件加剧了外界对 AI 公司进行独立审查的呼声。
“我们希望对自己的决策承担公开责任，”Anthropic 在博客文章中表示。“我们的目标是缩小评估者对一个前沿 AI 公司系统的了解与公司自身了解之间的差距。”
根据新安排，METR 团队获得 Anthropic 发放的公司笔记本电脑、办公空间，以及对内部工具的访问权限，大致与 Anthropic 自身风险评估团队所用相当。公司表示：“我们鼓励 Anthropic 员工与他们分享信息，就像与从事对齐风险工作的同事分享一样。”
Anthropic 将这一安排类比为银行业，类似于监管机构向大型银行派驻常驻检查员。
METR 将发布自己对 Anthropic 风险、事件和做法的评估，而 Anthropic 已放弃阻止其发布的权利。
公司表示：“Anthropic 不能否决发布，但如果信息属于狭窄的预设类别，我们可以要求他们进行删节。”这些类别包括客户数据、受律师-当事人保密特权保护的信息，或与模型架构有关的信息。Anthropic 补充说：“METR 可以公开描述我们的删节情况，并说明其是否认为删节合理，只要不披露被删节的信息。”
METR 是目前唯一处于 Anthropic 正在构建的三级评估体系顶层的评估者。底层评估者，例如生物安全非营利组织 SecureBio，仅进行范围有限的审查，发布内容需经 Anthropic 批准。中层评估者获得更多信息，无需批准即可发布；顶层则增加 METR 所获得的员工级访问权限。
周四的公告兑现了 Anthropic 首席执行官达里奥·阿莫代伊（Dario Amodei）在 9 月一篇文章中的承诺。他在文中提议将外部评估者嵌入 AI 实验室，作为放缓技术发展的第一步。OpenAI 迅速作出同样承诺，此后这两家公司与谷歌、Meta、英伟达和 xAI 共同签署了一项白宫协议，承诺接受独立审查。
