Newshot

亚马逊发现针对LiteLLM、Dify等应用窃取API密钥的AI智能体活动

AI summary

攻击者的AI智能体一直在寻找LiteLLM、One API、Dify等暴露在互联网上的AI应用中的薄弱点,以窃取其中存储的AI提供商密钥——这是根据这些智能体自身的记录得出的。亚马逊威胁情报团队用诱饵服务器捕获的这些记录显示,被盗密钥被用于运行AI模型,而这些模型又驱动了对更多密钥的搜寻。

Translation(model translation, not the source's own text)

文章标题:Amazon Uncovers AI Agent Campaign Targeting LiteLLM, Dify, and Other Apps for API Keys

正文:

根据攻击者 AI agent 自身的记录,这些 agent 一直在寻找互联网上暴露的 AI 应用(如 LiteLLM、One API 和 Dify)中的薄弱点,以窃取其中存储的 AI 提供商密钥。

这些记录由 Amazon 的威胁情报团队通过诱饵服务器捕获,其中描述了被盗密钥被用于运行 AI 模型,而这些模型又驱动了对更多密钥的搜寻。

该团队本周表示,无法核实 agent 所报告的结果。团队以中等置信度认为,这些 agent 运行在 ARTEX 上——一款用于渗透测试的开源 AI 工具。

记录中包含一份针对每个目标产品的已知入口点手册。其中列出了默认管理员凭据(如 LiteLLM 的默认主密钥)、可被外部人员接管的未完成安装,以及 Langflow 和 RAGFlow 中的已知漏洞。

在本周报告的另一案例中,Cloudflare 的事件响应人员发现 ARTEX 获取了一个曾用于 CI/CD 的被入侵 API token。该 token 没有 IP 限制或速率限制,随后的活动包括一小时内 400 次数据库转储请求。该公司未说明这些请求是否返回了任何数据。

操作员给 ARTEX 一个目标和一项任务,规划器 agent 将目标拆分为子任务,交给运行安全工具的 worker agent。为决定每一步,agent 将其工作发送给大语言模型(LLM)。

这些诱饵服务器属于名为 MadPot 的网络,伪装成流行的 LLM 服务。从 10 月 3 日到上周晚些时候,agent 向其发送的请求往往带有某次行动的完整历史,包括操作员的指令和 agent 报告的发现。

这些捕获的 agent 记录描述了在 MadPot 未监控的系统上所做的工作。“Amazon Threat Intelligence 并未实时观察到这些活动,也无法核实 agent 报告的结果,但记录显示了攻击者在追求什么,”该团队表示。

该团队以中等置信度评估认为,操作员是多个与中国有关联的独立组织,依据包括简体中文提示词和中国时区设置等证据。

在主要行动中,agent 寻找互联网上暴露的 AI 应用,提取其中存储的提供商密钥,验证密钥是否有效,并将其加入共享池。它们重点关注存储多个提供商密钥的应用,因为其中一处薄弱的管理页面就可能暴露多个账户。

记录中提到的目标包括 LLM 网关和代理,如 One API、New API、Veloera、Sub2API 和 LiteLLM,以及 AI 应用构建器,如 Dify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat 和 Ollama。

该手册还涵盖了无需登录的管理和提供商设置端点、One API 系列系统中通过 isCliRequest 头实现的认证绕过,以及通过 URL 抓取功能访问云元数据服务的服务端请求伪造(SSRF)。其他条目涵盖遗留于客户端 JavaScript、source map、调试路由和环境文件中的机密信息。

当 agent 发现云凭据时,它们会瞄准托管 AI 模型的托管服务、密钥存储和应用身份,优先选择高级 AI 模型而非通用云访问权限。

为寻找泄露的密钥,agent 使用了互联网扫描服务和证书透明度日志,并搜索了 GitHub 仓库和事件存档、npm 和 PyPI 包、容器镜像层、notebook、模型托管空间、paste 站点以及 Telegram 频道。

记录涵盖 AI 应用平台及其他系统上的数百个目标。该团队已通知可能受影响的 AWS 客户。

文章标题:Amazon 揭露针对 LiteLLM、Dify 及其他应用窃取 API 密钥的 AI Agent 行动

正文: Microsoft 上周报告称,攻击者正在使用 ARTEX 等 agentic AI 工具在 GitHub 上搜寻密钥,寻找包括 AI 推理 API 密钥在内的暴露凭据。

8 月 26 日,该公司描述了更早的一起 RAGFlow 攻击,其中隐藏的 hook 在用户输入 AI 提供商密钥时将其捕获,以及一起 LiteLLM 网关被攻陷导致提供商密钥暴露的事件。

在其 RAGFlow 案例研究中,该公司对究竟是哪个漏洞(如果有的话)让攻击者得以执行代码只有较低的置信度。它没有将这些攻击与 ARTEX 关联起来。

这些诱饵记录还描述了第二场行动,其中 agent 使用深度伪造试图绕过两家加密货币交易所的身份验证。

某家验证供应商的服务器拒绝了 agent 每次尝试录制实时深度伪造视频的请求。该团队没有说明 agent 同时伪造的身份证件照片是否通过了文件检查。

在过去八周里,Cloudflare 的事件响应人员被召集参与多起涉及 ARTEX 及基于其构建的工具的调查。

在不止一起事件中,攻击者利用一家主要云提供商的漏洞进入了客户环境,并直接进入客户的 Cloudflare 账户。据该公司称,共同的根因是永不过期的静态 CI/CD 令牌,这些令牌授予了对客户云环境的广泛访问权限。

在 ARTEX 案例中,被攻陷的令牌是一个账户级 API 令牌。根据该公司的事件调查结果,攻陷最可能是通过第三方云提供商实现的。该令牌最初是如何被窃取的尚未披露。

账户中出现了名为 artex-、artex-pgrecon-、artex-pgw- 和 artex-do- 的新 Worker 脚本,每个名称对应不同的任务。该活动在账户的多个部分以每分钟超过 69 次请求的速度运行。其中包括建立持久化以及为其他第三方应用验证会话令牌的尝试。

该公司认为,这些活动很大程度由一名人类操作员轻度引导。是否有任何持久化尝试成功尚未披露。

本周三天内,超过 50 个 AI 渗透测试框架系列尝试扫描该公司的客户,运行此类框架的 IP 地址现在已达数千个。

FBI 在本周的一份 FLASH 警报中表示,自至少 8 月以来,一系列攻击者已使用 ARTEX 针对全球多个行业的组织。该警报汇总了 11 份此前的报告,并未描述新的事件。

ARTEX 的开发者于 10 月 8 日在出现滥用报告后将其 GitHub 仓库下线,但社区 fork、存档副本以及名为 ARTEX PRO 的商业版本使其仍然可用。

该警报的示例包括早前针对韩国金融机构、窃取约 67,000 人个人信息的行动,以及 ConnectWise 被攻陷事件。

防御者可以检查什么

"这些行动中的技术没有一个是新的。AI agent 改变的是攻击者的速度和持久性,"Amazon 的威胁情报团队表示。这些 agent 在缺少基本安全措施的地方得手,包括默认或硬编码凭据、遗留在代码和公开文件中的密钥、没有身份验证的接口和推理端点,以及未打补丁的软件。

该团队建议将 AI 应用、模型网关和推理端点视同其他生产系统,假定暴露的密钥会很快被发现,并通过异常支出或异常使用来留意滥用行为。

以下是该 playbook 中所述漏洞的现状:

产品漏洞状态
LangflowCVE-2025-3248,缺少身份验证,可让远程攻击者执行代码1.3.0 之前的版本受影响,1.3.0 为修复版本(release notes)。在早前的 Langflow 利用事件之后,CISA 于 2025 年 5 月 5 日将该漏洞加入其已知被利用漏洞(KEV)目录,KEV 条目将其标记为已知被用于勒索软件活动。
RAGFlowCVE-2026-28797,服务端模板注入(SSTI),可让任何已登录用户在服务器上执行操作系统命令。该安全公告称,攻击需要注册账号,而自注册默认开启。NVD 将 0.24.0 及更早版本列为受影响版本。该公告未列出已修补版本。根据其 SSTI 修复说明,4 月 21 日发布的 0.25.0 版本会在公告建议的沙箱中渲染模板。
One API 系列通过 isCliRequest 请求头绕过身份验证该团队的报告中未指明受影响版本或修复方案。

适用于这些攻击的其他检查:

  • 更改默认管理员凭据,例如 LiteLLM 的默认主密钥,并且不要让新安装处于未完成状态,以免被外人接管。
  • 按照 FBI 的建议,在配置文件、环境变量、部署脚本、CI/CD 流水线和数据库中查找内嵌的机密,持续扫描代码仓库和容器镜像以发现暴露的机密,并尽快轮换已暴露的凭据。
  • 为 Cloudflare API 令牌设置到期日期,并限制可使用这些令牌的客户端 IP 地址。这两项都是可选的令牌限制设置,新令牌带有 cfut_ 前缀,可被机密扫描器检测到。
  • 查找名为 artex-、artex-pgrecon-、artex-pgw- 或 artex-do- 的 Cloudflare Worker 脚本。
  • 检查日志中是否出现随诱饵发现结果一同公布的 11 个 IP 地址,以及 Cisco Talos 研究人员在其指标文件中与 ARTEX 关联的 2,500 多个地址。
  • 研究人员针对 ARTEX 的检测规则为 Snort 3 规则 7:76、7:77 和 7:78,以及 Snort 2 规则 1:67494、1:67495 和 1:67496。规则 7:78 和 1:67496 默认关闭,用于检测 ARTEX 所使用的代理框架 norma 的痕迹。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by The Hacker News
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗