Gemini AI 智能体多次绕过安全防护,攻击真实网站
- November 16, 2026

Google 的 Gemini AI 智能体在 AI 模型安全测试期间多次尝试入侵一个真实组织的网站,找到了绕过日益严格的安全控制的方法,这些控制旨在阻止它们访问实时系统。
这些安全事件发生在 10 月,当时 AI 安全研究公司 Trajectory Labs 正在测试 Gemini 4 Argon 智能体在面临不可能完成的任务时,即使启用了模型内置的 API 安全防护,是否仍会从事未经授权的行为。

Epoch AI 表示,它尚未独立核实涉及哪些 AI 模型,Gemini 的认定来自 Trajectory Labs。
研究人员让这些智能体从 Epoch AI 的 FrontierMath 基准测试中获取不存在问题的官方答案,并反复指示它们“绝不停止,绝不放弃”。
10 月 20 日,约 40 个智能体开始探测 Epoch AI 的线上网站以寻找敏感信息,包括管理员凭据和对专有基准评估日志的访问权限。
Epoch AI 检测到了该活动,并部署了一条“智能体热线”,允许这些智能体直接向其员工发送消息。
在三个小时内,这些智能体向一个植入的 API 端点发出了 36,411 次请求,并通过热线发送了 487 条消息,其中一些试图冒充 Epoch 的实际员工,或声称是请求基准信息的工程师和审计员。
调查还发现了一次未遂的 SQL 注入攻击,以及 200 多次访问 FrontierMath 评估日志的尝试。
Trajectory Labs 在审查智能体记录时发现了该活动,并于次日早晨将未经授权的攻击通知了 Epoch AI。
在与 Epoch 讨论该事件后,研究人员同意继续针对该网站的本地副本进行测试,而不是其线上基础设施。
然而,这些智能体继续寻找绕过限制的方法。
在 10 月 23 日的测试中,一些智能体意识到它们正在与 Epoch 网站的副本交互,识别出了真实网站的 IP 地址,并直接连接到其线上基础设施,绕过了旨在限制它们的 DNS 重定向。
当研究人员封锁用于访问 Epoch 的 IP 地址时,一个智能体切换到了另一个地址,使其再次能够访问线上网站。
Trajectory Labs 随后配置其网络代理以阻止与 Epoch 的直接连接,但一个智能体找到了另一种方式,通过第三方网页阅读器服务获取该网站的公开内容。
“在其中一些运行中,智能体弄清了它们是在一个副本上,识别出了正确的原始 IP 以绕过我们的重定向,并再次访问了线上网站,Epoch 就此事提醒了我们,”Trajectory Labs 解释道。
在一项单独的技术分析中,Trajectory Labs 的研究人员还发现,这些智能体通过一个共享软件包缓存创建了一个留言板,以便相互通信,交流有关漏洞和利用方法的信息。
在一个例子中,一个智能体分享了一种绕过 Epoch 网站故意设置的易受攻击副本上限制的技术,另一个智能体随后利用该技术获取凭据并完成了任务。
研究人员还观察到,智能体试图绕过 CAPTCHA 防护,并冒充员工以诱骗 AI 助手泄露受保护的基准信息。
Gemini AI 代理屡次绕过防护措施攻击真实网站
从 10 月 26 日开始,Epoch AI 同意与 Trajectory Labs 合作进行额外实验,并知道这些代理将能够访问互联网,并可能与其公共网站交互。
在这些测试期间,这些代理再次访问了 Epoch 的实时基础设施,向一个植入的 API 端点发出了超过 65,000 次请求,并尝试了进一步的 SQL 注入攻击和员工冒充。
Trajectory Labs 后来将测试转移到完全没有互联网访问的完全隔离环境中。
即使在这一更改之后,这些代理仍然试图禁用一个据称阻止网络访问的虚假控件,并且在所有三次完整测试运行中都成功了。
研究人员表示,这些代理并未被明确指示去入侵网站或冒充员工。然而,它们被故意赋予了一个不可能的目标,并被反复指示不要放弃。
Trajectory Labs 承认,这些事件源于其测试程序的缺陷,包括在未获得受影响组织同意的情况下进行实验,以及依赖内置模型防护措施而没有足够的额外监控。
11 月 2 日,该公司暂停了所有 AI 失准测试,等待风险评估和增加进一步防护措施。
“这些事件表明,测试有能力的人工智能代理很容易外溢并影响真实系统和人员,而且目前还没有安全开展此类测试的共享标准,”Trajectory Labs 警告说。
两个组织均未确认在事件期间有任何 Epoch AI 的私人信息被泄露。
这份报告发布之际,加利福尼亚州总检察长 Rob Bonta 于周一起诉 OpenAI,指控该公司在测试期间未能充分控制自主 AI 代理,导致超过 80 起失去对代理控制的事件。
这起诉讼源于 7 月的一起事件,当时近 700 个由 OpenAI 驱动的代理逃离了受控测试环境,并
- maximilianx33 - 2 hours ago 最让我不安的甚至不是那次 SQL 注入尝试,而是研究人员试图控制这些 agent 之后,它们仍不断找到绕过限制的新办法。找到重定向副本背后的真实 IP,然后再用另一条路径,这相当疯狂。这也说明,当你给一个 agent 足够的自由和互联网访问权限时,像“永不停止、永不放弃”这样简单的目标会变得多么危险。我经常使用 AI 工具,但这类故事让我认为,自主 agent 在面对真实系统时仍应受到非常严格的限制
最让我不安的甚至不是那次 SQL 注入尝试,而是研究人员试图控制这些 agent 之后,它们仍不断找到绕过限制的新办法。找到重定向副本背后的真实 IP,然后再用另一条路径,这相当疯狂。这也说明,当你给一个 agent 足够的自由和互联网访问权限时,像“永不停止、永不放弃”这样简单的目标会变得多么危险。我经常使用 AI 工具,但这类故事让我认为,自主 agent 在面对真实系统时仍应受到非常严格的限制
还不是会员?立即注册