Newshot

谷歌发现黑客利用AI智能体从软件补丁构建并执行漏洞利用

AI summary

谷歌周一披露,威胁行为者使用人工智能已超越手动提示,转而部署ARTEX、CAIRN、CyberStrikeAI和PentAGI等自主多智能体攻击框架,以更快的行动速度执行多阶段入侵。同时,威胁行为者正在利用大语言模型的能力。

Translation(model translation, not the source's own text)

文章标题:Google 发现黑客利用 AI 智能体从软件补丁构建并执行漏洞利用

正文:

Google 周一披露,威胁行为者对手工提示词之外的人工智能(AI)对抗性使用,已经发展到部署像 ARTEX、CAIRN、CyberStrikeAI 和 PentAGI 这样的自主多智能体攻击框架,以更高的行动速度执行多阶段入侵。

与此同时,威胁行为者正利用大语言模型(LLM)和智能体框架的强大能力,通过差异分析自动完成补丁的逆向工程,从而能够快速将新披露的漏洞武器化,今年 9 月 PaperCut NG/MF 漏洞事件中观察到的情况正是如此。

Google 威胁情报小组(GTIG)在向 The Hacker News 分享的一份报告中表示,滥用开源的智能体渗透测试(pentesting)框架被视为一种“在实时入侵期间自动化离散阶段和特定操作任务”的方式。

这家科技巨头表示,这种采用代表着一种范式转变,网络攻击以机器速度进行,即使底层机制保持不变,也能通过串联各种攻击路径大幅扩展行动规模。

已观察到多个威胁行为者正在试验这些框架和工具集,其中包括出于经济动机的行为者,以及与 China 有关联的疑似间谍活动行为者。

“这些观察还延伸到其他工具和服务的使用,例如 ZeroHollow——一种用于漏洞利用开发和 LLM 路由的推理服务,以及 Agent Zero——一个具备自主代码执行和动态工具生成功能的开源智能体框架,”Google 表示。

另一个滥用的关键领域,是利用 LLM 驱动的流水线自动化漏洞分析和概念验证(POC)武器化等劳动密集型任务,使威胁行为者能够压缩补丁披露与主动利用之间的时间窗口。

“威胁行为者可能会发现,使用 LLM 快速将已修补的 n-day 漏洞武器化更为高效,因为他们可以将研究集中在有限的一组源材料上:比较源代码版本(包括来自预发布或预览渠道的版本),并检查与特定漏洞相关的发布说明、安全研究和 POC 代码,”Google 补充道。

与此同时,威胁行为者还将目标对准 AI 基础设施,通过从受入侵的企业环境中窃取 LLM 凭据和云资源,发动 LLMjacking 攻击以非法获利,然后通过 APIMart 和 JetNight 等地下代理服务以折扣价格转售访问权限,这类服务也被称为 LLM mixers。

研究结果表明,开源框架的出现进一步降低了入门门槛,使恶意行为者能够轻松集成新的漏洞利用、自主扩展攻击规模,并发起具有说服力的钓鱼活动,进一步压缩攻击时间线。

其中包括一个名为 Jieyou 的中文钓鱼平台,该平台集成了一个 LLM 聊天机器人助手,使客户能够使用自然语言命令配置钓鱼面板并修改现有模板,而无需具备相应的技术专长。

“Jieyou 平台的演变凸显了一个日益增长的行业趋势,即 PhaaS 提供商将 LLM 用作模块化的力量倍增器,”Google 表示。“低技能的下游成员现在不再需要手动编辑载荷,而是可以通过聊天机器人使用自然语言,即时动态定制诱饵话术和钓鱼界面。”

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by The Hacker News
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗