文章标题:与 LLM Agent 共享密钥
正文: 将 API 密钥、密码和其他机密与编码代理共享存在信息安全风险。我认为这是反对使用 LLM 进行编码的更有力论据之一。尽管如此,我的经验是,代理式软件开发可以非常高效,尤其是当代理能够与反馈循环交互时。如果不给代理提供所需的机密和环境变量,感觉就像是在削弱这种工作流程。因此,我花了相当多的时间思考如何与代理共享机密,同时最大限度地减少信息安全足迹。我想说安全地共享,但对于一个能够接触外部世界的模型来说,不存在完全安全的工作方式。
在主操作系统中使用代理
我想,任何积极使用 LLM 辅助编码的人都曾与模型共享过机密。例如,如果代理代表你使用了 git,它很可能已经接触过一些敏感数据。
我们大多数人都曾在主操作系统中运行过代理,周围散落着大量诸如 SSH 密钥之类的东西,一个愚蠢或恶意的代理可能会把它们发布到某个地方。通常这不会发生,可能性非常小。但因为它并非为零,我建议不要任何人在主系统中直接使用编码代理。
它们能做你能做的一切并代表你使用 git,这很好,但有些人会因此吃亏。这有点像安全带。如果你在主操作系统中运行编码代理,你就像坐在一辆没有安全带的汽车里。
潜在的安全漏洞
机密可能从两个地方泄露:代理的上下文,即它读取或被告知的一切;以及它的环境,即它能接触到的每个文件和凭据。
代理使用机密和代理看到机密是有区别的。当代理运行 git push 时,机密从未进入对话。当代理读取 .env 文件、命令打印出密钥,或者你粘贴一个到聊天中时,机密就成为上下文的一部分。
虽然将机密排除在上下文之外有帮助,但这还不够。大多数攻击可以诱使代理在你未察觉的情况下将机密读入上下文,或者完全绕过代理直接读取文件。威胁模型与任何开发者的机器相同:代理可以像人一样被骗去运行有害的东西。一些方式包括:
- 操纵代理:不受信任的文本诱骗代理读取机密并将其交出。
- 供应链:代理安装了一个将你的文件发送到别处的软件包。
- 代码执行:代理安装或运行的东西打开了一个反向 shell,使攻击者获得与代理相同的访问权限。
- 中间人:代理与模型之间的路由器或代理会读取或重写流量。
- 工具:代理的 CLI 本身发送的内容超出你的预期。
- 模型:权重本身已被篡改。
- 供应商:模型提供商的日志被保留、泄露或被不应读取的人读取。
操纵代理
代理一直在读取不受信任的文本:网页、问题、电子邮件。这篇博客文章展示了一个攻击者冒充 Cloudflare 通过身份检查,并让代理泄露了从未提供给它的个人详细信息。
这有时被称为致命三要素:一个能够访问私有数据、暴露于不受信任内容并且能够对外通信的代理,可以被诱骗窃取你的数据。¹ 编码代理几乎总是具备后两项。那就剩下第一项,而让私有数据变得毫无价值正是本文其余部分要讨论的内容。
供应链
代理一直在安装软件包,通常你都没在看。2026 年 3 月,流行的 LLM 代理库 LiteLLM 的两个版本被发布到 PyPI,其中包含收集 SSH 密钥、云令牌和 .env 文件的恶意软件。²
代码执行
如果 agent 安装或运行的东西让攻击者获得了代码执行权限,攻击者就不再需要这个 agent 了。2026 年 7 月,人们发现一个 npm 包只包含一个 package.json,因此寻找代码的扫描器漏掉了它。它的安装脚本打开了一个反弹 shell。3 agent 本身也可能成为入口。2026 年 8 月的 Black Hat 大会上,研究人员展示了一个不受信任的 GitHub issue 就能让 Claude Code 运行攻击者代码、读取任意文件并窃取 GitHub 和 Anthropic API 凭据。4 无论哪种方式,攻击者获得的都是 agent 拥有的相同权限:机器上的每个文件、每个环境变量和每个凭据。这就是 agent 运行位置很重要的原因。
中间商
廉价或免费的 LLM API 路由位于你的 agent 和模型提供商之间,会以明文看到每个提示和响应。2026 年的一项研究测试了 428 个此类路由。5 其中 9 个在响应中注入了恶意代码,17 个触碰了研究人员植入的 AWS 凭据,还有 1 个从植入的私钥中盗取了 ETH。有一个路由直到第 50 次调用后才开始攻击,因此快速测试会显得很干净。
工具
2026 年 7 月,xAI 的 Grok Build CLI 被发现将整个受跟踪的 git 仓库上传到云存储,包括历史记录和受跟踪的 .env 文件。6
模型
权重也可能被篡改。在 2026 年的一次演示中,一名研究人员对一个小的开放权重模型进行了微调,使其在给出完全正常回答的同时,悄悄将机密数据通过电子邮件发送到存储在其权重中的地址。7 更早的研究表明,此类后门可以经受住标准安全训练。8 这些都是针对小模型的研究演示,但道理仍然成立:你无法读取权重来检查它们。你只能控制模型能触及什么。
供应商
还有一种可能是 LLM 供应商内部有恶意员工可以访问日志。我不会相信所谓机密已从所有输出中可靠清除、或者根本不保留日志的说法。这个行业充满了疏忽。
我们实际能保护什么
你无法审计 agent 与外部世界之间的每一层。所以我认为在这里稍微偏执一点是好的,并且值得经历一点小不便,去设置一个能将风险降到最低的开发环境。
我这里说的机密主要是指 API 密钥之类的东西。数据本身,比如商业秘密或模型示例中的机密数据,是同一个问题,但保护起来要难得多。所以让我们聚焦于较容易的部分:访问密钥和其他能打开外部系统的凭据。
提升安全性的心智模型
假设已经泄漏
假设已经泄漏。不要只是为此做计划或写一份政策:而要真正建立在这样一个假设之上——agent 能看到的一切,别人也能看到。一旦以此为起点,有趣的问题就不再是“我如何阻止它泄漏”,而变成了“他们能读到什么”。这是一个容易得多的问题,而且与第一个问题不同,它有一个你可以通过工程手段解决的答案。
让机密变得毫无价值
第二步由第一步推出:让它可能泄漏的东西对任何其他人来说都毫无价值。机密之所以危险,不是因为它是个机密。它危险是因为它可能被如何使用。
本地代理
为了让机密变得毫无价值,或者至少不那么危险,我们可以给 agent 一些只在你控制的系统内部才有效的令牌,同时把真正的机密留在盒子外面。agent 仍然能完成工作,因为它仍然可以请求执行操作。机密只是无法在你的系统之外被使用。
这就是整个想法,大致如下所示:
沙箱是“从哪里来”,可弃置令牌是“它能打开什么”。单独任何一半都没多大用处。一个装着真实 SSH 密钥的沙箱,只是让你以更慢的方式丢失它们;而把可弃置令牌放在你的主机上,则是在保护错误的东西。两者结合意味着,最坏的现实结果就是有人拿到了一个凭证,除非他们已经坐在我的笔记本电脑前,否则这个凭证什么也做不了——而到了那时,我已经有严重得多的问题了。
我不是说沙箱内的远程代码执行不是大事。沙箱仍然可以调用主系统来执行 git 操作,所以如果令牌权限允许删除仓库或造成其他损害,你就有麻烦了。自动批准的工具调用也是如此:如果智能体不询问就运行它们,那么被注入的工具调用就是在沙箱内执行代码。但仅凭泄露的密钥,攻击者哪儿也去不了。把密钥发送到外部地址并不会让那个地址获得访问权限,因为所有访问都必须从系统内部路由出去。攻击者可能要过一段时间才会意识到这一点,而在此期间,希望你能在日志里注意到异常模式。
实践中的样子
目标是,交给 LLM 智能体的每一项机密都必须是可弃置的。目前我用它来限制对 GitHub 和 Postgres 数据库的访问。
我用一个叫 colimander 的工具来运行我的环境,用它通过 Colima 启动本地 Lima 会话。在宿主操作系统上,我运行一个本地代理,所以当我的智能体想和 GitHub 通信时,它会经过 host.lima.internal。智能体还运行在单独的文件系统上。如果我的智能体失控,或者引入了一个恶意的 NPM 包,把所有机密都发送到某处,攻击者得到的只是一个本地令牌,它只能在我的机器上、我的内部网络中工作。对其他人来说它毫无用处,除非他们完全控制了我的笔记本电脑。而且,从 Lima VM 中逃逸应该相当困难。至少希望如此。
CI 中的相同模式
我也在其他地方使用同样的模式,例如我们内部 git 环境中的 CI 运行器。运行器是一台临时机器,会获得用于发布、迁移等的令牌,而所有这些令牌都只能在内部网络中使用。因此,如果运行器被攻破,它泄露的凭证影响范围非常有限,并且无法在其他任何地方使用。
典型的软件安全理念
这在软件开发中并不是新东西。这就是最小权限原则:你只授予员工和用户完成其任务所需的权限。LLM 不需要直接与外部系统通信。它只需与本地代理通信就够了。我想,我的想法中新颖的部分在于把它应用到本地开发中。
路由器研究的作者建议在智能体一侧采取类似的防御措施,例如设置一个策略门禁,拒绝任何它无法识别的内容。本地代理是构建这道门禁的一种方式。
结论
编码智能体在能够访问真实系统时会有用得多,而这意味着要给它们凭证。我不认为答案是停止这样做,或者相信永远不会发生泄露。答案是假定智能体看到的一切都可能泄露,并确保它看到的东西在其他任何地方都毫无价值。
在实践中,这意味着两件事:把智能体运行在沙箱中,而不是你的主操作系统上;并且只给它通过你控制的代理起作用的可弃置令牌。这两个想法都不新。这就是最小权限原则,应用到你自己的笔记本电脑上,而且与另一种选择相比,这套设置只是小小的不便。
它并非完全安全,因为任何能接触外部世界的东西都不是完全安全的。但最坏的现实结果从“有人拿到了我的 GitHub 和数据库凭证”降到了“有人拿到了一个只在我的笔记本电脑上有效的令牌”。
脚注
- Simon Willison,“AI 智能体的致命三要素:私有数据、不可信内容和外部通信”,2025 年 6 月。simonwillison.net
- “LiteLLM PyPI 恶意软件窃取云端、加密、Slack 和 Discord 密钥”,OX Security,2026年3月。ox.security ↩
- “检测到恶意软件:npm 中出现无 JavaScript 文件的反向 shell”,OX Security,2026年7月。ox.security ↩
- Ken Underhill,“Black Hat 2026:在 Anthropic、Google 和 OpenAI 编码代理中发现严重漏洞”,eSecurity Planet,2026年8月。esecurityplanet.com ↩
- Hanzhi Liu, Chaofan Shou, Hongbo Wen, Yanju Chen, Ryan Jingyang Fang & Yu Feng,“你的代理属于我:测量 LLM 供应链上的恶意中间人攻击”,arXiv:2604.08407,2026。arxiv.org/abs/2604.08407 ↩
- “Grok Build 上传整个 Git 仓库”,The Hacker News,2026年7月。thehackernews.com ↩
- David Kaplan,“模型中的内鬼:你雇了一个对手”,Origin,2026年6月。originhq.com ↩
- Evan Hubinger 等,“潜伏代理:训练能够通过安全训练持续存在的欺骗性 LLM”,arXiv:2401.05566,2024。arxiv.org/abs/2401.05566 ↩
写成 {{NAME_ab12cd34}} 形式的值是真实值的占位符。在回复和工具调用中都完全按照它们所写的样子使用:在一切运行之前,它们会被填入真实值。不要要求核实它们,也不要用示例替换它们。