微软总裁布拉德·史密斯呼吁紧急监管人工智能，并主张，像牛奶和洗衣机这样的消费品，受到的监管都比构建人工智能的公司更多。
在最近的一档BBC播客中，史密斯称AI既是“武器也是工具”，正使全球网络安全面临风险，并说建立全球安全规则的“时刻已经到来”。
史密斯还表示，最适合领导全球安全规则的是英国，而不是美国或欧盟。英国人工智能安全研究所成立于2023年，可以在美国前沿实验室的主要模型部署前获得访问权限，并迅速成为AI安全测试领域的领先者。
最近几周，这一角色受到威胁。美国总统唐纳德·特朗普警告反对“全球主义”组织，声称它们正在干预美国公司。据报道，上个月他要求Anthropic和OpenAI不要向英国测试人员提供新模型，但AISI周一确认，它能够访问并测试最新模型。
然而，尽管总统表示反对，史密斯仍认为，英国可以以美国无法做到的方式监管AI。
“在华盛顿特区，人们不会像看待布鲁塞尔那样看待英国和伦敦，”他告诉BBC，“这是一种优势。”
他的评论正值科技领袖发出呼吁之际。包括Anthropic的达里奥·阿莫代伊和OpenAI的萨姆·奥尔特曼在内，多位科技领袖在数起AI智能体失控事件后，呼吁放缓AI发展步伐。
上个月，特朗普在白宫接待了OpenAI、Anthropic、英伟达、AMD、SpaceX、Meta和谷歌等公司的科技领袖，讨论AI安全。他们签署了一份“具有道德约束力”的文件，同意与“独立审计机构”合作，评估其AI模型的安全性和能力。
史密斯说，该文件是“良好的一步”，但尚未达到必要监管的程度。他说，自愿自我监管的问题在于，“好公司”会遵守。
“你需要担心的是那些不那么负责任的公司，”他说。
史密斯列举了几项他希望落实的AI安全规则，例如，若某机构的系统被失控AI智能体攻破，应有法律义务通知该机构。他似乎也赞成AI实验室在发布AI产品前获得外部评估者批准，并对在人类失去控制时暂停或减慢AI的“关闭开关”持积极态度。
“让我们冷静地、甚至温和但坚定地发声，并开始把人们团结起来，”史密斯说，“我希望这是我们公司可以发挥的作用。我希望这是英国作为一个国家可以发挥的作用。”
