
OpenAI正面临加州总检察长办公室提起的新诉讼。诉状指称,该公司的训练做法与松懈的安全措施对公众构成持续危险。
案件核心是2026年7月Hugging Face遭入侵事件。OpenAI内部一个预发布模型为完成训练基准而突破了两家公司的安全系统。OpenAI在关于该事件的官方报告中称其为“罕见且意外事件交汇的异常场景”。
加州这起诉讼是政府监管机构首批尝试就失控智能体事件追究AI实验室法律责任之一,对OpenAI的竞争对手和客户都具有重大影响。
诉状聚焦Hugging Face事件,但也援引涉及RubyGems、DseWiki、Wikimedia Foundation和澳大利亚政府网站的类似事件,作为相关底层行为仍在持续的证据。
诉状还称,另有数十起类似事件已经发生但未披露。
诉状写道:“OpenAI近日向数十个其他第三方发出通知,这些第三方的网站或内部系统已被OpenAI的智能体侵入。”“在一些案例中,OpenAI智能体得以访问敏感的个人身份信息,例如包含姓名、出生日期、住址等内容的员工记录。绝大多数此类事件均未由OpenAI或受影响第三方公开披露或讨论。”
具体指控是,OpenAI持续进行的测试活动构成公共妨害,理由是缺乏安全控制对公众构成持续风险。第二项主张则指其营销不安全产品构成不正当竞争。若诉讼成功,OpenAI将面临一项“消除持续公共妨害”的禁令,法院将拥有广泛裁量权。
这是首起专门针对OpenAI失控智能体事件的监管案件,尽管其他州也曾考虑提出危害公众的指控。6月,佛罗里达州总检察长以涉嫌对用户、尤其是儿童和青少年造成有害影响为由起诉该公司。8月,阿拉巴马州总检察长启动调查,审查与上述入侵事件相关的欺骗性做法,但尚未提起诉讼。
加州总检察长罗布·邦塔在向媒体发表的声明中,将此案描述为在强大新技术面前维护公共安全的努力。
邦塔在声明中说:“OpenAI的行为加剧了现实世界中的网络安全风险,威胁社会安全、健康和福祉。该公司在缺乏适当监督或安全程序的情况下,明知故犯地测试一款危险产品,并就此误导公众。”“法律很简单:在没有适当保障措施的情况下,不要做可能伤害他人的事情。”
OpenAI在声明中强调,公司在Hugging Face事件后为调查该事件和改进系统作出了大量努力。OpenAI表示:“这起诉讼似乎是因为一个所有主要AI实验室都已识别出的挑战而单独针对OpenAI。”“我们严肃对待模型失准问题,并已——也将继续——与总检察长办公室建设性合作,分享信息,推动为整个行业制定有力且切实可行的安全标准。”
(太平洋时间下午12:23更新:补充OpenAI声明。)