Newshot

OpenAI首次向四家独立现场审计机构开放其AI系统

AI summary

OpenAI首次允许包括Apollo Research和METR在内的四家独立审计组织直接访问未发布的模型、源代码和训练数据。这些嵌入式审查旨在发现隐藏的不当行为和安全漏洞。OpenAI可以删改或推迟报告,因此这一监督机制的实际独立性仍存疑问。

Translation(model translation, not the source's own text)

OpenAI 首次向四家独立现场审计机构开放其 AI 系统

OpenAI 首次向四家外部审计机构开放其内部 AI 系统的直接访问权限,允许它们在现场调查安全风险和模型行为。据 OpenAI 宣布,该公司正与 Apollo Research、METR、Transluce 和 Goodfire 合作。该项目建立在早前对其监控系统进行现场审查的基础上,并履行了“白宫超级智能协议”中的承诺。

根据各自的任务安排,这些机构可在 OpenAI 办公室访问未发布的模型、源代码、训练数据和监控系统。他们还可以与开发者进行保密交谈。Apollo Research 正在审查模型是否会暗中违背开发者的意图行事。METR 正在审查最大规模强化学习训练运行中的 AI 不当行为,强化学习是一种让模型通过奖励来学习的方法。Goodfire 正在分析模型内部过程,Transluce 正在评估训练后的安全检查。OpenAI 和 Transluce 还计划于 2027 年初进行为期八周的后续审查。

一个独立安全委员会监督整个流程,接收未经删减的报告,并调解争议。审计机构独立发布其调查结果,但 OpenAI 可以删减机密材料,并推迟报告以先行修复风险。该公司预计初期会出现一些摩擦,但已在考虑更多审查,包括聚焦公司文化和内部流程的审查。

无炒作 AI 新闻——由人工精选

订阅 THE DECODER,享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整存档访问权限以及评论区访问权限。

Only about 658 characters could be extracted — the rest did not come through (common on sites that need scrolling or a login). Read the original for the full piece.

Published by The Decoder
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗