Translation(model translation, not the source's own text)
AI 能力提升速度已超出专家可靠评估新系统安全性的能力,METR 警告
AI 模型在 AI 研究任务上的能力正快速提升,也越来越难以衡量。据 AI 研究组织 METR 称,现有的公开数据不足以排除未来几年 AI 研究出现急剧加速的可能性。该组织警告,这可能会让人类无法“有意义地理解、评估并应对新 AI 系统带来的灾难性风险”。
METR 发现,在定义明确、有直接反馈的编程与计算任务上,模型在大多数情况下已经胜过经验丰富的人类专业人士,尽管它们尚未超越由顶尖专家组成的大型团队。对于人类耗时更长的任务,模型能处理的任务时长每 3.6 个月翻一番。对 METR 数据的朴素外推显示,到 2027 年 7 月,模型在最长 200 小时的任务上将达到 50% 的成功率。

据 METR 称,这些系统仍然难以应对缺乏即时反馈、需要真正判断力的开放式问题,也难以应对难以复现用于训练的情境。该组织还警告,常见且易于运行的测试可能会高估模型在实际使用中的表现,因为开发者是在非常相似的测试环境中训练它们的。
THE DECODER+
无炒作、由人工精选的 AI 新闻
- 每篇 Plus 文章及完整存档
- 无广告横幅
- Frontier Radar:每年 6 篇深度解析
已是订阅用户?登录