
本文由 VicOne 提供。
VicOne 借助 AI 辅助研究,在不到两天的时间里,针对支撑 Physical AI 生态的软件与工具,识别出首批 28 项零日发现。这些发现涉及由 Google、NVIDIA 和 Meta 等开发或维护的项目。
基于初步验证,全部 28 项发现均被归类为零日漏洞。在厂商与漏洞权威机构审查之后,数量可能会发生变化,且部分发现尚未获得 CVE 跟踪编号。
其中许多工具帮助团队训练、仿真、测试和运行机器人。这些工具中的弱点可能影响团队所构建的模型、他们所信任的测试结果,以及发送给机器人的指令。
这些发现对机器人团队提出了两项要求:在 AI 帮助更快发现弱点的同时做出响应,以及评估每一项发现可能如何影响机器人的安全与运行。
AI 改变了漏洞发现的哪些方面
漏洞发现包括检查代码、追踪系统之间的通信方式,以及测试某个可疑弱点是否真的能被利用。AI 可以加速其中部分工作,帮助研究人员在更短的时间内分析更多软件。攻击者也可能使用类似的能力。
当弱点属于零日漏洞——此前未知且尚无可用修复——更快的发现速度可能让团队几乎没有时间响应。尽管这种暴露并不一定意味着攻击已经发生,团队仍需确定自己是否使用了受影响的软件,以及攻击者可能访问或更改什么。
这些发现在机器人生命周期中的位置
VicOne 的发现横跨机器人生命周期的三个阶段:开发与训练、仿真与验证、部署与运行时。每个阶段的弱点都可能影响机器人学到什么、如何被测试,以及如何被控制。
图 1. 在本研究数据集中,75% 的发现涉及开发、训练、仿真或验证工具,凸显了机器人部署之前就可能出现的风险。VicOne
以下场景展示了受感染的组件在每个阶段可能如何影响机器人。
- 开发与训练:隐藏的更改可能进入最终完成的机器人团队下载一个预训练模型,以便为其机器人进行适配。加载恶意文件可能让攻击者获得对训练系统的访问权限,从而可以更改训练数据或模型本身。被操控的模型在常规测试中可能表现正常,但在部署后对特定物体、场景或指令做出错误响应。风险可能通过团队所信任的工具进入,而无需任何人直接攻击机器人。
- 仿真与验证:通过测试可能带来虚假的信心导入受感染的场景或机器人模型可能让攻击者获得对仿真环境的访问权限。在拥有足够控制权的情况下,攻击者可以篡改仿真传感器读数、物理条件或测试结果。于是机器人可能看似通过了本应暴露不安全行为的测试,导致团队基于误导性证据批准其在真实环境中使用。
- 部署与运行时:操作人员可能失去可见性或控制权攻击者可能利用弱点更改影响运动规划的文件,或发送恶意地图数据使操作人员的监控显示崩溃。攻陷远程操作计算机也可能危及发送给机器人的指令。取决于系统及其防护措施,这些弱点可能改变机器人的运动,或使操作人员无法看到正在发生的情况并及时响应。
这些是潜在后果,而非每一项发现都已证实的实际结果。实际影响取决于攻击者的访问权限、系统设计,以及其他防护措施能否阻止这些改动影响到物理行为。
在另一项演示中,VicOne 研究人员提供了一个影响防护功能的具体弱点示例。研究人员利用一个漏洞,使机器人的远程停止命令无法生效。该案例表明,当支撑安全防护的软件本身被攻破时,团队必须测试这些防护是否仍然有效。
视频 1. VicOne 研究人员演示了一个使机器人远程停止命令无法生效的漏洞。VicOne
已发布的补丁仍需证明其安全性
AI 可以缩短寻找弱点的时间,但机器人团队仍需判断某个修复是否可以安全部署。即使软件维护者发布了补丁,团队也必须确定受影响的系统、检查兼容性,并验证更新是否保持了预期行为。
此前一次成功的测试仍然是有用的证据。然而,新发现的弱点可能揭示该测试从未考察过的条件。
以下三个问题可以帮助团队应对:
- 我们在哪些地方使用了受影响的软件?包括训练用计算机、仿真环境和已部署的机器人。
- 这个弱点可能改变什么?评估它是否可能影响模型、测试结果、操作人员的可见性,或机器人行为。
- 我们如何验证防护?确认修复解决了该弱点,并且更新后的系统仍按预期运行。
当立即更新不切实际时,团队可能需要临时防护措施,例如限制对受影响服务的访问,同时准备经过验证的修复。
从发现到更安全的部署
随着这 28 项发现的细节通过协同披露逐步公开,下一步是让机器人制造商将每一项发现与其对开发、部署和机器人行为的潜在影响对应起来。
这项工作还需要理解威胁可能如何影响机器人行为,以及如何保护已在运行中的系统。VicOne Radeis 帮助团队识别潜在的零日漏洞、评估 AI 模型和系统安全,并利用仿真在部署前评估这些风险可能如何影响机器人行为。VicOne Rthena 在运行期间于既定策略范围内支持威胁检测与响应。
图 2. 网络安全在整个生命周期中强化机器人安全证据。VicOne 帮助团队在部署前测试安全限值抵御操纵的能力,并在运行中监控安全行为背后的条件。VicOne
只有当团队能够把发现转化为行动时,更快的漏洞发现才有意义:确定哪些需要关注、验证防护是否仍然成立,并确认修复不会引入新风险。随着系统不断变化,网络安全正是以这种方式强化机器人安全。
如需深入了解网络安全如何影响机器人安全,请下载我们的白皮书《Why Robot Safety Depends on Cybersecurity: Protecting the Information That Safety Decisions Rely On》。