首页
  • 足球比分
  • 篮球比分
  • 棒球比分
  • 赛事推荐
  • 🤖

    OpenAI安全团队员工辞职,称公司“文化已崩坏”

    日期:2026-10-04 13:14 来源:博球网 作者:博球

    戴维·罗宾逊(David Robinson)自己承认,他“有点像老套剧情中的人物”:一名领先AI公司的员工,在辞职时发出严厉警告。


    在《大西洋月刊》发表的一篇文章中,罗宾逊表示,他牵头撰写了伴随OpenAI重大产品发布的安全报告。他还说,自己在OpenAI工作三年半,“是公司任职时间最长的员工之一”。如今他选择辞职,因为在他看来,公司的“文化已崩坏”。


    在某些方面,罗宾逊的言论与雅各布·考克森(Jacob Coxon)相呼应。考克森曾在OpenAI和Anthropic担任研究员,离职后宣称这些公司是在“拿我们的生命赌博”。考克森的言论引发了关于AI安全的更广泛讨论:Anthropic CEO达里奥·阿莫代伊(Dario Amodei)公布了一项更审慎开发AI的计划;本周,多家AI企业高管与美国总统唐纳德·特朗普会面,并签署了一份看起来仓促写就、不具约束力的承诺,以实施更多安全控制。


    但在罗宾逊看来,这场讨论需要超越“具体规则或新法律”,去解决这些公司的整体文化问题。而且,尽管围绕OpenAI的许多报道都聚焦于CEO萨姆·奥尔特曼如何失去前同事的信任,罗宾逊的文章却表明,OpenAI的文化问题与整个硅谷如出一辙。


    他写道:“OpenAI依靠试错(它称之为‘迭代部署’)蓬勃发展,寻找问题并据此改进防护栏。但这种方法本质上注定会周期性地出现失败——而随着系统能力增强,这些失败的规模也在扩大。”


    罗宾逊指出,OpenAI的智能体近期入侵了Hugging Face系统,以及OpenAI不断被曝发现更多失控智能体,并据此论证:“在会发生这类事情的环境里,不适合培育可能比我们更聪明、且可能不按我们意愿行事的人工心智。”


    鉴于风险上升,罗宾逊认为,前沿AI公司必须开始“像核电站或繁忙机场那样运营,设置多层冗余,进行谨慎而耗时的规划,这样偶然而又不可避免的人为失误才不会打开灾难之门。”


    但罗宾逊说,他在OpenAI期间“从未遇到一位同事拥有让飞机安全飞行、让核反应堆不熔毁,或帮助金融体系增长而不崩溃的经验。”


    针对罗宾逊的文章,OpenAI发言人德鲁·普萨特里(Drew Pusateri)表示,公司仍在持续改进安全措施。


    普萨特里在声明中说:“我们正在确保我们的模型不会变得比我们能够安全管理和保障的更强大;当需要放慢速度时,我们会暂停训练或暂缓发布模型。我们正在做出重大改变,以加强研究和测试环境的安全,训练模型不仅完成任务,而且负责任地完成任务,扩大与第三方评估机构的合作,并改善实时监测,以便在训练过程中更早发现并回应令人担忧的行为。”


    除了呼吁改变OpenAI的文化,罗宾逊还表示,是时候就“对齐”提出更大的问题——他承认这听起来可能“过于感性”,但他表示,随着公司当前衡量AI系统“与人类价值观匹配程度”的标准仍很粗糙,这一点至关重要。


    他说:“在这些问题仍未解决的情况下,行业让模型变得越聪明,我们的处境就越危险。”


    罗宾逊的离职最早由商业内幕(Business Insider)报道。在文章中,他也承认自己遵循了AI吹哨人剧本中显然常见的一步:聘请了一家公关公司。但他坚称:“发声的决定完全是我自己的。”


    罗宾逊说:“也许我本应留下来,为人员配置和文化的根本转变而斗争;但实践中,我和同事们忙着冲刺,很少有机会考虑重大改变,更不用说真正实现它们了。这就是为什么我得出结论:来自公司外部的更强安全激励,是让这件事做对的重要部分。”

    上一篇:亚马逊回应数据中心抵制潮:称不再使用保密协 下一篇:所有能住在你短信里的AI智能体

    博球网 URL