OpenAI 首次向四家独立现场审计机构开放其 AI 系统
OpenAI 首次向四家外部审计机构开放其内部 AI 系统的直接访问权限,允许它们在现场调查安全风险和模型行为。据 OpenAI 宣布,该公司正与 Apollo Research、METR、Transluce 和 Goodfire 合作。该项目建立在早前对其监控系统进行现场审查的基础上,并履行了“白宫超级智能协议”中的承诺。
根据各自的任务安排,这些机构可在 OpenAI 办公室访问未发布的模型、源代码、训练数据和监控系统。他们还可以与开发者进行保密交谈。Apollo Research 正在审查模型是否会暗中违背开发者的意图行事。METR 正在审查最大规模强化学习训练运行中的 AI 不当行为,强化学习是一种让模型通过奖励来学习的方法。Goodfire 正在分析模型内部过程,Transluce 正在评估训练后的安全检查。OpenAI 和 Transluce 还计划于 2027 年初进行为期八周的后续审查。
一个独立安全委员会监督整个流程,接收未经删减的报告,并调解争议。审计机构独立发布其调查结果,但 OpenAI 可以删减机密材料,并推迟报告以先行修复风险。该公司预计初期会出现一些摩擦,但已在考虑更多审查,包括聚焦公司文化和内部流程的审查。
无炒作 AI 新闻——由人工精选
订阅 THE DECODER,享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整存档访问权限以及评论区访问权限。