Newshot

EFF 的 AI 网络安全政策框架

Translation(model translation, not the source's own text)

最近新闻里充斥着 AI 突破网站安全防护的故事。虽然由于 AI 的参与,这听起来像是一个新问题,但事实证明,这些公司——其中一些是世界上最大的科技公司——本可以而且本应该采取长期存在的现有网络安全安全最佳实践来防止这些入侵。

最近的网络安全事件表明,一些世界上最大的科技公司在联网系统上测试前沿 AI 系统时,未能采取基本的安全预防措施。不幸的是,这些失误导致众多第三方网站被入侵,包括一个名为 Hugging Face 的 AI 研究共享平台和澳大利亚医疗系统的网站。更糟糕的是,由于测试期间对 AI 系统监控不足,AI 开发者直到大多数事件发生很久之后才发现它们。如果这些公司遵守基本的常识性安全协议,这些事件很可能不会发生。

虽然白宫和一些大型 AI 公司领导人声称无需采取行动,但可以理解的是,各级、两党议员都在提出立法,以制定新的、额外的安全协议。这些事件可能值得采取立法行动。然而,好消息是事后报告表明,新的协议基本上没有必要。遵循现有最佳实践本足以防止 OpenAI-Hugging Face 事件及其他类似事件。换句话说,负责任的 AI 开发者可以在开发和测试系统时实施成熟的安全预防措施,从而立即采取行动保护公众。

立法者应首先参考现有法律保护,包括过失、重大过失、动产侵占、《数字千年版权法》(DMCA)第1201条等主张,以及《消费者欺诈和滥用法》(CFAA)等计算机侵入法规和类似的州法律规定,例如《加利福尼亚州刑法典》第502条。

政策制定者可以通过要求 AI 开发者遵循既定安全协议,并对未遵循者设定法律责任,来帮助保护公众。这些政策将保护公众免受 AI 开发者不负责任行为的影响,同时不妨碍创新。在现有法律空白足以需要新立法的情况下,EFF 建议采用以下政策框架:

  • 法定安全要求:立法者应颁布立法,要求 AI 开发者在测试 AI 系统时遵守成熟的网络安全最佳实践,例如强沙箱和网络隔离、最小权限访问、有效的日志记录和监控,以及清晰的事件响应程序
  • 监管标准:国会应要求现有联邦机构(例如美国国家标准与技术研究院(NIST)1)采用针对生成式 AI 系统部署前开发和测试的安全标准,并以上述既定最佳实践为基础。应要求该机构每 2 年更新一次标准,或在因报告的安全事件和/或重大技术进步而有需要时提前更新。这些标准应在与学术和非营利 AI 研究人员、公民自由组织以及商业 AI 开发者协商后制定,并在通知与评论程序后通过正式机构规则制定予以采用。该协商应包括评估对竞争的潜在不利影响,目标是确保监管标准不会实际上将潜在竞争者排除在外。
  • 责任:法律应规定,若 AI 开发与测试导致未经授权访问第三方系统,且其实施条件不满足 NIST 或负责采纳这些法规的另一联邦机构所采纳的网络安全标准,则应承担民事责任;除非公司证明其在当时情形下已采取合理行动防止未经授权访问第三方系统
  • 执法:联邦和州当局都应能够追究 AI 开发者的责任,在其未能达到指定联邦机构(如 NIST)所采纳的最低标准时。在联邦执法权之外再赋予州执法权,可降低监管俘获的风险。监管机构应要求独立调查,并在发生涉及未经授权访问第三方计算机系统的安全事件时通知受影响方。最后,立法应包括适当有针对性的私人诉权。

公众不必担心鲁莽 AI 开发带来的风险——也不应仅仅为了防止不负责任的开发者造成伤害而放弃 AI 的益处。通过采纳针对已证实风险的政策,立法者可以在不阻碍有用工具开发的情况下提供有意义的公共保护。

1NIST、NSA 和 CISA 最近发布了一套自愿性实践,用于在 AI 智能体的训练和评估期间管理安全事件。这些实践可为应按照本文所述公开、参与式流程制定的监管标准提供参考,但不能替代这些标准。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗