Newshot

METR警告:AI进步速度超出专家可靠评估新系统安全性的能力

AI summary

METR报告称,Opus 5.5和GPT-6 Astra等领先AI模型在研究任务上进步迅速,但越来越难以衡量。该组织警告,现有数据无法排除AI发展出现危险加速的可能,不过也表示常见测试可能高估模型的真实能力。

Translation(model translation, not the source's own text)

AI 能力提升速度已超出专家可靠评估新系统安全性的能力,METR 警告

AI 模型在 AI 研究任务上的能力正快速提升,也越来越难以衡量。据 AI 研究组织 METR 称,现有的公开数据不足以排除未来几年 AI 研究出现急剧加速的可能性。该组织警告,这可能会让人类无法“有意义地理解、评估并应对新 AI 系统带来的灾难性风险”。

METR 发现,在定义明确、有直接反馈的编程与计算任务上,模型在大多数情况下已经胜过经验丰富的人类专业人士,尽管它们尚未超越由顶尖专家组成的大型团队。对于人类耗时更长的任务,模型能处理的任务时长每 3.6 个月翻一番。对 METR 数据的朴素外推显示,到 2027 年 7 月,模型在最长 200 小时的任务上将达到 50% 的成功率。

据 METR 称,这些系统仍然难以应对缺乏即时反馈、需要真正判断力的开放式问题,也难以应对难以复现用于训练的情境。该组织还警告,常见且易于运行的测试可能会高估模型在实际使用中的表现,因为开发者是在非常相似的测试环境中训练它们的。

THE DECODER+

无炒作、由人工精选的 AI 新闻

  • 每篇 Plus 文章及完整存档
  • 无广告横幅
  • Frontier Radar:每年 6 篇深度解析

已是订阅用户?登录

Only about 637 characters could be extracted — the rest did not come through (common on sites that need scrolling or a login). Read the original for the full piece.

Published by The Decoder
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗