Newshot

中国 AI 旗舰模型集体收紧网络攻击能力,加强 AI 技术出口管制

Summary

IT之家 11 月 17 日消息,彭博社今日报道称,阿里、腾讯、月之暗面最新发布的新一代模型普遍限制了网络进攻能力,同时强化了漏洞检测与防御功能。 彭博社指出,阿里最新旗舰模型 Qwen4-Max 刻意过滤了训练数据中可用于网络攻击的材料,保留了对漏洞检测等防御场景有用的能力。而且该版本暂未公开模型权重,用户无法自行下载部署无审查版本。IT之家注意到,该系列模型此前深受开源社区青睐,阿里 Qwen 系列曾是全球下载量最高的开放权重模型家族之一。 除阿里外,腾讯在 Hy4 正式版发布之前已明确限制了模型的网络安全功能,并将漏洞利用生成相关数据从训练流程中剔除。 月之暗面 10 月 23 日宣布 Kimi K3.1 Pro 时,同样从后训练的两个阶段移除了网络攻击相关材料。据该公司披露,过滤后的模型在内部漏洞利用基准测试中得分为 81.0%,低于未过滤版本的 90.5%。 智谱则在 8 月开放 GLM-5.3 权重之前进行了安全审查,并向有关部门通报了系统漏洞。 作为背景,CrowdStrike 在 10 月底发布的报告中披露,一个名为 VAPOR PANDA 的组织使用 DeepSeek 模型配合 ARTEX 框架,在 11 天窗口内针对至少 14 个国家的 200 余家机构发起入侵。 腾讯首席 AI 科学家姚顺雨 11 月 7 日在香港出席科学会议时表示,模型的网络能力以及“很快到来的生物能力”将触及可能造成实际危害的阈值。 AI 安全公司 Fangcun AI 创始人李晓健对彭博社表示,从训练中剔除攻击性材料是在成本与效果之间的一种平衡,但“目前没有方法能完全消除模型的风险”。 政策方面,今年 10 月 16 日,商务部联合科学技术部发布公告,就修订《中国禁止出口限制出口技术目录》公开征求意见,拟将 AI 驱动的恶意代码生成与变异技术等纳入出口管制或限制范围,涉及人工智能领域共 23 项技术。11 月初,国家发展改革委官员表示正在加快推出面向 AI 开发者的安全标准与伦理准则,并强调在开发过程中嵌入安全措施。 相关阅读: 《 欧盟网络安全局警告:超市冰箱遭黑客攻击后,家用电器可能是下一个目标 》 《 360、阿里云等首批 18 家网络产品安全漏洞收集平台签署自律公约 》

Original text(via IT之家)

中国 AI 旗舰模型集体收紧网络攻击能力,加强 AI 技术出口管制

IT之家 11 月 17 日消息,彭博社今日报道称,阿里、腾讯、月之暗面最新发布的新一代模型普遍限制了网络进攻能力,同时强化了漏洞检测与防御功能。

彭博社指出,阿里最新旗舰模型 Qwen4-Max 刻意过滤了训练数据中可用于网络攻击的材料,保留了对漏洞检测等防御场景有用的能力。而且该版本暂未公开模型权重,用户无法自行下载部署无审查版本。IT之家注意到,该系列模型此前深受开源社区青睐,阿里 Qwen 系列曾是全球下载量最高的开放权重模型家族之一。

除阿里外,腾讯在 Hy4 正式版发布之前已明确限制了模型的网络安全功能,并将漏洞利用生成相关数据从训练流程中剔除。

月之暗面 10 月 23 日宣布 Kimi K3.1 Pro 时,同样从后训练的两个阶段移除了网络攻击相关材料。据该公司披露,过滤后的模型在内部漏洞利用基准测试中得分为 81.0%,低于未过滤版本的 90.5%。

智谱则在 8 月开放 GLM-5.3 权重之前进行了安全审查,并向有关部门通报了系统漏洞。

作为背景,CrowdStrike 在 10 月底发布的报告中披露,一个名为 VAPOR PANDA 的组织使用 DeepSeek 模型配合 ARTEX 框架,在 11 天窗口内针对至少 14 个国家的 200 余家机构发起入侵。

腾讯首席 AI 科学家姚顺雨 11 月 7 日在香港出席科学会议时表示,模型的网络能力以及“很快到来的生物能力”将触及可能造成实际危害的阈值。

AI 安全公司 Fangcun AI 创始人李晓健对彭博社表示,从训练中剔除攻击性材料是在成本与效果之间的一种平衡,但“目前没有方法能完全消除模型的风险”。

政策方面,今年 10 月 16 日,商务部联合科学技术部发布公告,就修订《中国禁止出口限制出口技术目录》公开征求意见,拟将 AI 驱动的恶意代码生成与变异技术等纳入出口管制或限制范围,涉及人工智能领域共 23 项技术。11 月初,国家发展改革委官员表示正在加快推出面向 AI 开发者的安全标准与伦理准则,并强调在开发过程中嵌入安全措施。

  • 《欧盟网络安全局警告:超市冰箱遭黑客攻击后,家用电器可能是下一个目标》
  • 《360、阿里云等首批 18 家网络产品安全漏洞收集平台签署自律公约》

相关文章

  • AI 大模型周榜:谷歌 Gemini 4 Carbon 首秀强势登顶,国产模型稳居视频榜前五阵营
  • 腾讯混元 Hy4 flash 模型发布:224B 总参、12B 激活,单任务成本约 Hy4 的 5%
  • 算力承压:曝 DeepSeek 应用及网页端实施限额,长对话与日额度双双受限
  • 2.4 万亿参数阿里通义千问 Qwen4-Max 正式上线:任务成本降低超 60%,后续将开源小尺寸模型
  • DeepSeek 前端代码出现“额度耗尽”提示,开发者猜测将首次推出 C 端付费方案
  • DeepSeek 发布全家桶应用 API:开发者将能 1:1 复刻完整 DeepSeek App

The text above was extracted automatically from the source page and may miss images, tables or code blocks. The original is authoritative.

Published by IT之家
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗