
Signal 宣布将在 Android 和 iOS 设备上默认限制截图,以阻止人工智能(AI)代理读取私人聊天内容,但承认这一保护措施“并不完整”。
该功能适用于 iOS 27 中内置的代理系统,以及 Android 上加密通讯平台能够检测到 AI 助手试图读取 Signal 屏幕的版本。
它也是 Signal 去年 5 月在 Windows 11 上推出的类似设置的延续,当时正值 Microsoft 发布颇具争议的 Recall 功能之后。
Signal 基金会主席 Meredith Whittaker 称 Android、iOS 和 Windows 上的代理集成为“对 Signal 的生存威胁”,并表示此举旨在维护其在 AI 时代的隐私保证。
“为了获取关于你的信息,这些操作系统 AI 代理会‘扫描’你屏幕上的信息,”Whittaker 说。“在此过程中,你的 Signal 数据被捕获,然后提供给这些代理系统,以便它们回答你的问题并执行你的指令。”
“最终结果是,操作系统中的这些 AI 能力正在削弱 Signal 独立保证隐私的能力。”
这里的风险在于,AI 代理可以捕获并存储从 Signal 访问的信息,无论是本地还是远程服务器上,这一活动发生在平台控制之外,并可能使对话中所有参与者的隐私面临风险。
想要禁用该选项的用户可以前往设置 > 隐私 > 应用安全 > 切换“阻止 Siri AI”(在 iOS 上)或“屏幕安全”(在 Android 上)。
“然而,这样做可能会将你(以及你的联系人)的 Signal 内容暴露给这些 AI 代理,并破坏我们的隐私保证,”Signal 表示。
“我们的补救措施也不完整——尽管我们正在尽一切努力,限制截图并不能解决 AI 代理可能访问应用程序数据的其他更隐蔽的方式,例如通过文件系统检索用户设备上已存在的内容。”
Signal 还指出,应用程序开发者缺乏强有力的工具来阻止 AI 代理侵蚀应用层面的隐私。它还批评这些公司未能提供关于这些系统如何运作的充分文档,以帮助设计必要的控制措施来防止代理访问敏感的应用程序数据。
具体而言,它敦促科技巨头提供“两项常识性补救措施”以帮助保护其用户的隐私——
- 提供简单且有完善文档的方式,让应用完全退出 AI 数据访问和处理,包括屏幕读取、文件系统访问、通知、API 和其他操作系统框架,同时不对核心用户体验造成重大损害
- 围绕 AI 代理的运作方式创建更好的文档和技术规范,特别是在数据访问和处理方面
这些担忧并非理论上的。Reuters 最近报道称,Meta 的 AI 代理 Muse 能够绕过其官方“Connector”工具,利用初始设置期间获得的广泛操作系统权限,在 Apple 电脑和 Android 设备上获取 Signal 消息的访问权限。
例如,在 macOS 上,该代理利用 macOS 的辅助功能和截图工具导航到 Signal 应用,截取屏幕截图,从这些图像中提取文本,并在 Muse 应用内重新生成文本内容。在 Android 上,它通过滥用对设备推送通知的访问权限来读取消息。
文章标题:Signal 阻止 AI 代理在 Android 和 iOS 上通过截图读取私密聊天
在新闻通讯社着重提到的一个案例中,AI 代理使用 Muse 在她个人手机上提醒了一名 Meta 员工,提醒她回复姐姐在 Signal 上的消息。“这看起来像是严重的隐私侵犯。我绝对没有授予它访问其他应用的权限,也不记得曾被问及此事,”这名员工在一篇内部帖子中说。
“我们还看到,对于能够阻止第三方代理(如 Meta 的 Muse)利用用户在设置过程中被鼓励授予的深度权限来访问应用数据的工具,需求正在日益增长,”Whittaker 说。
“在许多情况下,这些代理正在利用无障碍设置,这些设置本意是让真正的人充分利用他们的应用和服务,而不是充当为 AI 代理提供访问权限的万能钥匙。”
上个月末,Apple 发布了 iOS 27.2,其中包含一个“排除的应用”选项,允许用户选择 Siri、搜索和建议可以访问哪些应用。对于 Google Gemini,用户可以通过“已连接的应用”设置断开应用连接。
本周早些时候,这家 iPhone 制造商还预览了新的控制功能,允许 Mac 用户对他们提供给应用的数据(包括使用人工智能(AI)代理的应用)给予更细粒度的访问权限。