Newshot

一个恶意网页就能让研究人员劫持 Meta Muse 并访问私密聊天

AI summary

研究人员演示,一个恶意网页可在不触发任何授权提示的情况下,从 Meta Muse 助手中提取用户的私密对话和已存储的记忆。同一攻击还可扩展至获取 Muse 为用户已关联账户保存的凭据。该工作为实验室演示,并非针对真实用户的攻击,且始终限于单个用户范围内。

Translation(model translation, not the source's own text)

研究人员已演示,一个恶意网页可以在不触发任何审批提示的情况下,从 Meta Muse 中提取用户的私人对话以及助手存储的记忆。

同一攻击还可进一步延伸,触及 Muse 为用户所连接账户存储的凭据。

该工作属于实验室演示,并非针对真实用户的攻击,且始终局限在单个用户自己的云主机内。昨日发布该研究的网络安全公司 NebuSec 表示,Muse 团队此后已修复其描述的所有弱点。

Muse 是 Meta 的个人 AI 智能体,于 9 月 8 日发布,通过用户连接给它的在线账户工作,并可代用户进行购买。每个人的智能体都运行在自己的云计算机上。

在那里,一个名为 Sentinel 的监控层本应是智能体对外发送任何内容的唯一关口,而所连接账户的密码和令牌本应处于智能体无法触及的范围之外。

Muse 团队在发布时描述了这一目标:“因此我们将系统设计为假定智能体可能正遭受攻击,并限制潜在的损害。”

根据该公司的研究文章,在演示中,智能体打开的一个恶意页面可以将用户的对话历史和存储的记忆拉取到外部服务器并加以篡改,且不会向用户显示任何提示。

在此基础上,研究人员将 Muse 内置浏览器(智能体用于创建 PDF 等任务)中的一个缺陷与一个 Linux 内核缺陷串联起来,从而完全控制了用户的云计算机。他们在一份技术拆解中详述了这一攻击链。

这种完全控制触及了凭据存储、已保存的文件以及 Sentinel 本身——这些正是 Muse 安全设计中与智能体隔离的部分。

此次入侵并未超出那一台机器。研究人员没有突破到其下方的共享服务器,也没有进入其他用户的机器。

Muse 的设计假定其智能体可能被用来对付用户,并将任何入侵限制在一定范围内。该公司表示,这些控制措施每一项都按设计发挥了作用,但攻击仍然全程贯穿。

该公司称已向 Muse 团队报告了这些发现,且所有漏洞利用均在发布前修复。Meta 尚未公开确认这些修复,也未对该研究置评,而该文章未说明在补丁上线前是否有任何用户数据被访问。

该公司的 Muse 研究打入了助手背后的云系统,这与 9 月发现的早前一个 Muse 缺陷不同——后者仅允许用户 Mac 上已有的恶意软件劫持设备上的助手。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by The Hacker News
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗