我们正目睹一场关于AI安全与潜在放缓的激烈辩论：Anthropic CEO达里奥·阿莫代伊最近公布了一项“控制前沿步伐”的计划，而英伟达CEO黄仁勋则公开附和唐纳德·特朗普总统的说法，称对AI的反弹是一场骗局，监管并无必要。
在最新一期TechCrunch的Equity播客中，Kirsten Korosec、Sean O’Kane和我讨论了阿莫代伊和OpenAI CEO萨姆·奥尔特曼等高管是否真心想要放缓。
虽然行业领袖中似乎有这么多人对阿莫代伊的计划表示支持，让我感到意外，但Sean指出，该计划似乎缺乏细节。
当Kirsten问到，现有监管与自由市场机制相结合，本身能否提供足够保障时，Sean回答说：“我们目前的联邦政府显然并不急于广泛执行监管，更不用说在这个具体领域了。”
他还认为：“这个市场似乎并没有多少消费者选择在推动，也就是说，如果其中一家公司做了非常糟糕的事，我们并不清楚会看到多少取消订阅之类的实际影响。”
请继续阅读我们对话的预览，内容经过长度和清晰度编辑。
Anthony Ha：Sean，你怎么看？我们真的会“控制前沿步伐”吗？
Sean O’Kane：不知为何，这听起来像《惊爆点》里的台词。它是一句非常加州的话，就像：“我们要控制前沿步伐了，兄弟。”
我不知道。上周我在这个节目里说过，我不认为我们会走向任何形式的放缓，很大程度上是因为我不认为这些公司的结构会让这种做法奏效。
所以，听到Anthropic的Dario、OpenAI的Sam，甚至某种程度上还有埃隆·马斯克也这么说，这几乎立刻推翻了我一周前的说法——而我们可以再讨论是否相信他们。我要说，我不认为自己完全错了，因为即便有Dario在博客文章中提出的这些松散计划，以及其他一些领袖谈到的内容，我仍觉得我们缺少大量具体细节：不仅缺少关于他们为何认为存在危险和风险的论证细节，也缺少他们所谓“放缓”到底意味着什么的具体说明。
Anthony，我知道你上周末在事情发酵时仔细读了这些内容，所以我很好奇，你在理解他们想要表达什么方面，是不是比我更宽容一些。
Anthony：我的意思是，我也有疑问。真正让我注意的是，业内这么多人似乎相当迅速地聚集到了这一点上。甚至在阿莫代伊发布博文之前，我就在前几天看到其他人发布了这个计划的某种版本。
据我理解，这些来自AI安全社区的建议已经酝酿了一段时间。它们并不只是阿莫代伊自己想出来的东西。但似乎很多人都准备好拥抱它，从某些方面看，看到有共识是令人鼓舞的。但这也让我有点怀疑，这是否真的代表着朝着放缓迈出的真正重大步骤。
Kirsten Korosec：首先，共识可以是好事。它也可能是形成卡特尔的起点。所以，我们要明确这里谈论的是谁。我们谈论的是前沿AI实验室，这一点很具体，也很重要。
你刚才确实说细节还不太清楚，但我们知道这里的大致想法是，独立的第三方评估者将进入Anthropic或OpenAI这样的公司内部，监督AI安全实践和事件。但围绕这一点有很多模糊之处。
然后还有另一项提议，让民主国家的主要AI公司在安全标准和限制上协调。再然后是这个国际协调部分。这些就是围绕此事的大致构想。
我还要补充，有一些非常具体的人提出了相当多的反对意见。而且令人意外的是，其中有些人我原以为不会反对。最明显的大概是英伟达CEO黄仁勋，他说了一些相当尖锐的话。我不知道你们俩怎么看他的部分言论，以及他在All-In峰会上台上接到特朗普总统电话这件事。
Sean：我认为黄仁勋明白，在某种程度上，他在这里被视为房间里那个成熟的人。这很有趣，因为我认为这种格局已经改变了。如果你在一年、差不多两年前问人们，当这些AI公司真正开始大规模爆发时，谁在扮演这个角色，我想很多人会指向微软和萨蒂亚·纳德拉。而我觉得微软已经——出于一些我们现在不必展开的原因——失去了作为房间里成熟者的掌控力。部分当然是因为纳德拉曾说他要让谷歌跳舞，但后来这从未发生；事实上，在很多方面，情况正好相反。
我认为黄仁勋不仅明白他需要取悦尽可能多的人，因此想说出最审慎的话，而且他也是这个领域与这届政府之间最有用的联络人之一。以至于他在一个出席人数众多、备受瞩目的会议上站在台上时，接到了总统的电话，这让两人都能回应这一团乱局。
Kirsten：关于你说他是房间里成熟的人、也是联络人，他确实处于可以这么做的位置。但在我看来，他的那次露面——确实感觉有点安排痕迹——有些过头了，并突显了一个事实：英伟达从AI以不受节制的步伐前进中大大受益。我不愿对此过于愤世嫉俗，但这差不多是我最初的反应。
Anthony：特朗普和黄仁勋的利益是一致的，而且黄仁勋也在说特朗普想听的话。
我确实认为，他特别强调的一些内容值得稍微拆解一下。首先，他谈到了“我们不会放缓”这个说法。有意思的是，“放缓”这个词已经被频繁提及；但同时，奥尔特曼和阿莫代伊都会使用放缓的说法，而他们更喜欢的词是“节奏”，对吧？
而你刚才描述的那三项提议，Kirsten，理论上可能导致事情放缓，但他们并没有明确这么说。它说的是：“嘿，我们正在采取一些基本安全措施，并让一些人盯着我们。”但至少据我理解，这些内容本身都没有说事情必须比现在更慢。
Kirsten：那我问Sean一个问题。你难道不能说，在自由市场社会中，我们已有现行监管，而且在没有保护主义的竞争环境中，如果一家公司发布了不安全的什么东西，它就不再能成为一家可存续的公司吗？而且今天已有监管机构可以追责这些公司？还是你反对这个想法？
Sean：在一个真空环境里，或在一个没有被一大堆外部压力扭曲的市场里，是的，我认为其中有道理。但我们目前的联邦政府显然并不急于广泛执行监管，更不用说在这个具体领域了。
而且我们还处在一种奇怪的情况中——我不太知道该怎么准确表述，但这个市场似乎并没有大量消费者选择在驱动。也就是说，如果其中一家公司做了非常糟糕的事，它们就会在取消订阅数量之类的事情上看到影响。
尤其是现在，随着它们进入企业市场，越来越多收入来自向公司出售服务，在那里用钱投票自然更难。企业不会仅仅因为原则上不认同OpenAI做的某件事，就打包从OpenAI的Codex迁移到Anthropic的Claude Code。
而且它们还被大量投资资金托举着，这让它们即便真的面临那些损失，也更容易吸收。所以我认为这在理论上是个好主意，但我觉得在实践中，这些并没有真正发生。
