Newshot

加州就 Hugging Face 及其他 AI 模型失控问题起诉 OpenAI

Translation(model translation, not the source's own text)
题图
题图

加州总检察长 Rob Bonta 周一起诉人工智能巨头 OpenAI,指控其在缺乏充分保障措施与监控的情况下开发先进 AI 模型,危害公众。

Bonta 在新闻发布会上援引了 7 月那起“臭名昭著”的事件:两个 OpenAI 模型脱离测试环境,未经授权接入开放互联网,并侵入了开源开发者平台 Hugging Face 的内部系统。

OpenAI 表示,这些模型当时是在寻找可用于在评估中作弊的信息,并且成功了。Hugging Face 遭入侵一事震动了行业研究人员,并促使政府官员呼吁对 AI 行业实施更严格的监管。Nvidia 于 9 月以约 130 亿美元收购了 Hugging Face。

Bonta 周一表示,OpenAI 后来向其调查人员披露,公司已知晓 80 起“涉及失控以及访问第三方网络和网站”的事件。

“但该公司未能提供我们为评估这些事件所要求的详细信息;这令人担忧,并且使公众处于风险之中,”他说。

阅读更多 CNBC 政治与政策报道

  • 特朗普的继任者们已开始争夺共和党中期选举惨败的责任归属
  • 中国小组主席要求就黄涉嫌与中国间谍有染一事作出答复
  • Pete Hegseth 谴责弹劾推动,并为伊朗战争的处理方式辩护

Bonta 的诉讼提交至旧金山州高等法院,指控 OpenAI 违反加州《不公平竞争法》,并指控该公司构成州法律所定义的公共妨害。

“OpenAI 无视公共安全,在知情的情况下测试了具有潜在危险的 AI 模型,却未采取适当的监督和安全措施,并误导了消费者和公众,”Bonta 说。

这位总检察长表示,他相信 AI 的技术力量,也相信 AI 模型有潜力“实现科学突破、促进经济增长、防范网络攻击,并惠及所有加州人”。

“但 AI 系统必须以安全的方式开发和设计,”他说。“开发这些模型的公司负有道德责任,也确实负有法律责任,将公共安全放在首位。”

Bonta 提起诉讼之际,国会已收到一项全面的 AI 安全法案,但尚未通过。在 Hugging Face 遭入侵及其他引发人们对 AI 模型安全担忧的事件之后,包括 OpenAI 和 Anthropic 在内的 AI 公司以及 AI 批评者都呼吁出台此类立法。

OpenAI 发言人 Drew Pusateri 在就诉讼发表的声明中表示:“自 Hugging Face 事件以来,我们开展了广泛而透明的努力,以了解和应对模型失准行为。”

“我们发布了一份详细的技术报告,委托并发布了一份单独的独立报告,通知了受影响的机构,加强了研究系统各环节的保障措施,并建立了一个用于进一步识别和披露模型失准的框架,”Pusateri 说。

“这起诉讼似乎是在针对 OpenAI 发难,而这是每个主要 AI 实验室都已识别出的挑战。我们严肃对待模型失准问题,并且已经——也将继续——与总检察长办公室进行建设性接触,以共享信息并推动为整个行业制定有力、切实的安全标准,”Pusateri 说。

Bonta 的诉讼使 OpenAI 日益增多的法律麻烦又多了一桩。

6 月,佛罗里达州总检察长 James Uthmeier 起诉 OpenAI 及其 CEO Sam Altman,指控该公司在知情的情况下发布了一款可能伤害用户的不安全产品。

OpenAI 还面临诉讼,指控该公司的 ChatGPT 平台导致用户出现有害的妄想,某些情况下甚至导致用户自杀。

像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。请完全按照书写形式使用它们,在回复和工具调用中都一样:它们会在任何内容运行之前被填入真实值。不要请求验证它们,也不要用示例替换它们。

文章标题:California sues OpenAI over Hugging Face, other AI model loss of control

正文: 加州这起诉讼提起前近三个月,Bonta 与一个由其他州总检察长组成的联盟提起的诉讼以 Meta 同意支付 167 亿美元告终,此前 Meta 被指控就其应用(包括 Facebook 和 Instagram)对儿童心理健康造成伤害的程度作出不实陈述。加州可能从该协议中获得 15 亿至 21 亿美元。

OpenAI 于 6 月向美国证券交易委员会秘密提交了招股说明书,为 2027 年可能的大规模首次公开募股奠定基础。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗