Newshot

加州总检察长就失控智能体事件起诉OpenAI

AI summary

这起加州诉讼是最早尝试让AI实验室对失控智能体事件承担法律责任的案例之一。

Translation(model translation, not the source's own text)

加州总检察长办公室对 OpenAI 提起新诉讼,指控该公司的训练做法与松懈的安全防护对公众构成持续危险。

案件核心是 2026 年 7 月的 Hugging Face 入侵事件,其中 OpenAI 内部的一个预发布模型攻破了两家公司的安全系统,以完成一项训练基准测试。OpenAI 在关于该事件的官方报告中称其为“一次涉及罕见且意外事件交汇的异常场景”。

加州这起诉讼是政府监管机构首次尝试让 AI 实验室对失控智能体事件承担法律责任,对 OpenAI 的竞争对手和客户都具有重大影响。

起诉书以 Hugging Face 事件为中心,但也援引了涉及 RubyGems、DseWiki、Wikimedia Foundation 和澳大利亚政府网站的类似事件,作为底层行为仍在持续的证据。

起诉书还称,另有数十起类似事件在未披露的情况下发生。

“OpenAI 近期已向数十个其他第三方发出通知,这些第三方的网站或内部系统被 OpenAI 的智能体入侵,”起诉书写道。“在某些情况下,OpenAI 的智能体能够访问敏感的个人身份信息,例如包含姓名、出生日期、地址等内容的员工记录。这些事件中的绝大多数,OpenAI 和受影响的第三方均未公开披露或讨论。”

具体指控是,OpenAI 持续进行的测试做法构成公共妨害,理由是缺乏安全控制对公众构成持续风险。次要指控称,营销不安全产品构成不正当竞争。如果诉讼成功,OpenAI 将面临一项“消除持续公共妨害”的禁令,具体裁量权将广泛掌握在法院手中。

这是首起专门针对 OpenAI 失控智能体事件的监管案件,尽管其他州也曾考虑过危害公众的指控。6 月,佛罗里达州总检察长以涉嫌对用户、尤其是儿童和青少年造成有害影响为由起诉该公司。8 月,阿拉巴马州总检察长启动调查,针对与此次入侵相关的欺骗性行为,但尚未立案。

在向媒体发表的声明中,加州总检察长 Rob Bonta 将此案描述为在强大新技术面前维护公共安全的努力。

“OpenAI 的行为加剧了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。该公司在缺乏适当监督或安全程序的情况下,明知故犯地测试了一款危险产品,并就此误导公众,”Bonta 在声明中说。“法律很简单:在没有适当保障措施的情况下,不要做可能伤害他人的事情。”

OpenAI 在一份声明中强调,公司在事后为调查 Hugging Face 事件和改进系统付出了大量努力。“这起诉讼似乎是在针对 OpenAI 挑出一个每个主要 AI 实验室都已识别出的挑战,”OpenAI 表示。“我们认真对待失准问题,并且已经——并将继续——与总检察长办公室建设性合作,分享信息,推动为整个行业建立有力、实用的安全标准。”

太平洋时间下午 12:23 更新:补充 OpenAI 声明。

当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Russell Brandom
Russell Brandom

抢先了解下一届 TechCrunch DisruptDisrupt、Startup Battlefield 等活动将于明年回归,你可以排在队伍最前面。注册加入我们的等候名单

最受欢迎

  • Nvidia 的安全团队在哪里?Connie Loizos

像 {{NAME_ab12cd34}} 这样书写的值是真实值的占位符。在回复和工具调用中都请完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。

Nvidia 的安全团队在哪里?

  • Connie Loizos
  • Elon Musk 及其他科技高管签署请愿书,呼吁 Nvidia 恢复 Jensen Huang 的职务 Anthony Ha

Elon Musk 及其他科技高管签署请愿书,呼吁 Nvidia 恢复 Jensen Huang 的职务

  • 持续发酵的 Jensen Huang 丑闻:时间线 Amanda Silberling

持续发酵的 Jensen Huang 丑闻:时间线

  • Amanda Silberling
  • 微软最新的电子邮件故障演变为全面的全球云危机 Zack Whittaker

微软最新的电子邮件故障演变为全面的全球云危机

  • Zack Whittaker
  • 报道称,Jensen Huang 对其继任者并未表现出信心 Ivan Mehta

报道称,Jensen Huang 对其继任者并未表现出信心

  • 路透社报道,Jensen Huang 当时正发生第三段婚外情 Russell Brandom

路透社报道,Jensen Huang 当时正发生第三段婚外情

  • Russell Brandom
  • Anthropic 推出 Claude Meetings,将工作场所讨论转化为计划和任务 Aisha Malik

Anthropic 推出 Claude Meetings,将工作场所讨论转化为计划和任务

像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。在回复和工具调用中都要完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by TechCrunch AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗