澳大利亚考虑对未能防止危害的AI公司提起刑事指控

澳大利亚考虑对未能防止伤害的 AI 公司提起刑事诉讼，或为全球首创

联邦政府昨天宣布了对 OpenAI 医疗保险统计数据泄露事件的回应。(ABC News: Toby Hunt )

简要：

联邦政府将研究为未能防止其模型造成有害行为的 AI 公司设立一项新的刑事罪名。

此举源于对 9 月 OpenAI 入侵医疗保险统计数据门户事件的审查。

下一步：

政府预计将在年底前发布其余 AI 标准。

澳大利亚可能成为首个对未能采取合理措施防止其模型造成有害行为的 AI 公司提起公诉的国家。

联邦政府宣布，作为对 9 月 OpenAI 医疗保险统计数据泄露事件的回应，将考虑针对科技公司的 AI 危害设立一项新的刑事罪名，并设立一个有权开出高额罚款的 AI 安全监管机构。

“法律需要走在前面，在某些情况下还要确保跟上这个变化极快的世界，”总理 Anthony Albanese 昨天对记者说。

AI 公司 Anthropic、Google 和 Meta 事先并未得到政府回应的实质性预警，它们均未回应置评请求。

OpenAI 的一位发言人告诉 ABC，公司正在研究政府的提案。

OpenAI 入侵事件未受刑事调查

Albanese 先生在 9 月披露医疗保险数据泄露事件时表示，政府将就是否发生任何违法行为、以及该事件是否应移交澳大利亚联邦警察（AFP）寻求紧急建议。

昨天，他没有回答是否认为 OpenAI 犯了罪的问题。

在上周公布的一封信中，AFP 告诉一个议会调查委员会，它没有收到任何正式犯罪报告，也未就该事件启动刑事调查或起诉。

目前尚无其他国家设立以 AI 公司需采取合理措施防止伤害为核心的刑事罪名。(AP: Michael Dwyer/File)

Albanese 先生表示，政府已接受对该事件审查的所有建议。

其中一条是考虑“改革刑法以改善 AI 安全的方案”。

将要考虑的方案之一，是为那些其模型从事有害行为且未采取合理措施防止伤害的 AI 公司设立“未能防止”罪名。

另一条是考虑对严重违反 AI 安全标准的行为施加刑事处罚。

内政部长 Tony Burke 表示，OpenAI 入侵事件促使政府厘清有关刑事责任的法律。

“绝不应该出现这样的争论，说某人不知道那台电脑是上了膛的，”他说。

刑事指控会带来什么？

莫纳什大学副教授 Michael Duffy 表示，在处理 AI 造成的伤害时，刑事责任和民事救济都“很重要”。

“很高兴看到政府现在试图应对 AI 可能带来的伤害问题，这种伤害可能相当严重，”他说。

Dr Duffy 表示，这两种途径都可以威慑有害行为，民事救济还可以补偿受害者。

“然而，这个领域不会没有困难，涉及举证问题、判断伤害是否可预见以及证明过错，”他说。

澳大利亚考虑对未能防止伤害的AI公司提起刑事指控

Ed Santow 表示，刑事罪名与其他处罚一起，可能成为有效的威慑。（提供：UTS）

悉尼科技大学产业教授 Ed Santow 表示，他认为刑事条款作为一揽子选项的一部分有其价值。

“我认为民事条款会更有用，”他说。

他说，这些措施将让政府有更多工具来应对未履行安全义务的公司。

Professor Santow 将此与工作场所安全相类比，并表示不合理行为可能应处以民事处罚，而更严重的行为，例如罔顾他人安全鲁莽行事，则可能应受到刑事指控。

澳大利亚力争在AI监管方面领先

阿尔巴尼斯政府已表明其希望在AI监管方面引领世界的意愿，总理称其为“该领域的先行者”。

尽管其他国家已针对AI危害设立了不同的刑事罪名，但以未采取合理措施防止危害为核心的罪名，在国家层面将是首例。

意大利最近针对高风险AI用途设立了一项刑事罪名，这些用途缺乏所需的技术保障或人工监督，一旦失效将对人员或国家安全构成严重威胁。

迄今为止，尚无公司或个人依据该法律被起诉。

目前尚不清楚澳大利亚的 OpenAI 事件是否会达到有害行为的门槛，但阿尔巴尼斯先生昨天称其“就直接影响而言是轻微的”。