上周，全球六家最具实力的AI公司向白宫承诺，将允许外部人士检查它们的工作成果。
9月29日，英伟达、OpenAI、Anthropic、谷歌、Meta和xAI就最先进AI模型签署了一项协议，美国总统唐纳德·特朗普称其具有“道德约束力”。每家公司都承诺将“与独立的外部审计方或评估方合作”，并由独立董事会成员审查审计报告，确保问题得到解决。
外部审计是个好主意，我很高兴看到协议中有这项内容。但协议没有说明由谁选择审计员、他们可以检查什么，或者任何发现是否公开；不遵守也没有惩罚。按照目前安排，每家公司自己挑选审计员，并决定审计员能看什么。
2000年，安然向会计师事务所安达信支付2500万美元审计账簿，又支付2700万美元用于税务和咨询业务。安达信曾被认为是国际会计师事务所“五大”之一；在安达信崩溃后，如今行业只剩“四大”。不到两年，两家公司都垮了。国会以《萨班斯-奥克斯利法案》作出回应，该法案将选择审计师的权力从管理层手中拿走，禁止审计师向被审计公司销售大多数其他服务，并设立公共委员会来检查审计师本身。
安达信的失败并非因为专业能力不足，而是因为缺乏动力去严格审查一个一年支付其5200万美元的客户。AI行业的自愿承诺同样记录不佳。2023年，领先AI公司向白宫作出了一系列自愿承诺，包括在发布前让外部专家测试其系统。斯坦福、哈佛和布朗大学的研究人员后来根据这些承诺对16家公司进行评分，平均得分只有53%。在“帮助外部人士发现并报告问题”这一承诺上，16家公司中有8家得分为零。
即使确实进行了外部测试，规则也由开发者制定。测试AI模型的非营利组织METR写道，其对OpenAI的o3模型在发布前进行的测试“只持续了三周”，并且“对模型信息的访问有限”，也无法看到模型逐步推理的过程。
平心而论，OpenAI一开始允许了这项测试。但这表明，企业选择分享哪些内容，会产生多么大的影响。
一个训练好的AI模型本质上是一个巨大的数字文件，生产成本往往超过1亿美元，谁拥有副本，谁就拥有模型。把副本交给外部人士存在安全风险。直到最近，这仍让测试者面临一个尴尬选择，谷歌DeepMind对此描述得很到位：要么测试者交出他们的问题，让公司提前看到考卷；要么公司交出模型。
8月，DeepMind展示了一种绕开该问题的方法。它与新加坡AI安全研究所及其他三个外部团体合作，进行了其所称的全球首个AI模型双盲测试，原理与双盲药物试验相同。测试在密封的计算机硬件上运行，因此外部测试者从未看到模型，谷歌也从未看到他们的问题。谷歌表示，双方都可以通过数学方法验证自己的材料保持私密。
这也把信任问题转移到了硬件上。去年，研究人员用不到1000美元的设备攻破了这类密封硬件，尽管他们需要实际接触服务器才能做到。这值得认真对待。但与“我们不能让任何人接近模型”相比，这只是一个小得多的问题，而且可以通过谨慎管理谁控制机器来应对。
为我们的报告《集中式AI的替代方案》（本周由去中心化研究中心发布），我和合著者凯尔·布莱根采访了36人，并梳理了近30种可行的、可替代对AI集中控制的方案。我们的主要发现是：外部人士如今已能在不占有模型或其数据的情况下审查先进AI。
如果协议中的审计要有任何价值，审计员就应当选择测试什么，既然他们现在无需取得模型副本也能做到这一点。公司还应公布其审计员是谁、审计覆盖了哪些内容，即使详细发现仍不公开。上市公司几十年来一直披露其审计师姓名，却并未泄露商业秘密。而阅读这些报告的董事会委员会应当对公司的外部主体负责。《萨班斯-奥克斯利法案》为审计者设立了监察者。该协议没有任何类似机制，国会应决定如何填补这一空白。
注：本专栏表达的观点仅代表作者本人，不一定反映CoinDesk, Inc.或其所有者及关联方的观点。
