Newshot

门口的狼:AI 智能体时代,Apple 重新思考 Mac 权限

Translation(model translation, not the source's own text)
门口的狼:Apple 正在为 AI 智能体时代重新思考 Mac 权限
门口的狼:Apple 正在为 AI 智能体时代重新思考 Mac 权限

十月份的时候,我曾以《披着毛巾布的狼》这个颇不客气的标题,写过 Meta 的新 AI 智能体 Muse;这个标题指的是它那个(无疑是有意为之的)让人卸下防备的吉祥物。

至少可以这么说,Meta 在隐私方面的做法并没有让我印象深刻。我实际上相当愤怒。尤其让我恼火的是这些新 AI 智能体所请求的非同寻常的权限。能够访问你的消息、电子邮件往来、照片、浏览历史和其他个人信息是一回事。但让一个越来越自主的软件解释这些信息并代表你采取行动,则完全是另一回事。

有一些相当令人担忧的例子说明了可能出什么问题。一位用户 Matt Robb 发现,Muse 被授权向陌生人发送包含他家庭住址的消息。他随后解释说,他选择了“始终允许”选项,以为仍然有机会批准某些操作。该权限允许 Muse 发送包含他地址的消息。另一位用户、记者 Jason Aten 报告称,Muse 同步了他的 Apple Messages 数据库的很大一部分,尽管他理解 Full Disk Access 是关闭的。(顺便说一句,Meta 对这一说法提出异议)。

这整件令人遗憾的事在网上引发了相当多的讨论,尤其是在 Apple 宣布打算在 macOS 中围绕 Full Disk Access 引入额外控制之后。随之而来的是不安和咬牙切齿。Apple 会让开发者的日子不好过吗?!Alfred 或 Hazel 这样完全合法的应用会被殃及吗?!这会不会又是 Apple 认为自己比

一个 AI 代理并不只是等你提问然后返回答案——它可以主动承担任务、与应用程序交互、解读信息、做出决策,并代表你采取行动。它就像一个管家,你出门时把它留下照看某些任务。

一个 AI 代理可能需要检查你的电子邮件往来以找出待办任务,翻查你的日历以找到合适的预约时间,或查看文档以准备报告。我们越想让它变得有用,它可能就越需要更多信息和更多控制权。但一个需要整理你电子邮件的代理,是否也应该能查看你的私人短信?一个帮你管理文件的应用程序,是否应该能访问你的财务记录?而且,即使它只是偶尔需要这些权限,它是否应该无限期保留所有这些权限?

回到我假设中的管家:如果我让他整理我的卧室,这是否等同于允许他翻遍我的床头柜抽屉?而如果这个管家其实是穿着管家服装的狼,暗藏恶意呢?

应用程序不必是恶意的,也可能成为问题。我们正在把越来越复杂的权限授予越来越复杂的软件,而这些权限原本是为一种相当不同的应用程序设计的。还有一个问题是,用户是否真正理解他们同意了什么。如果授予同意的人不理解其后果,同意就没有意义。Apple 似乎也得出了大致相同的结论。

Apple 到底在改变什么?

27.3 中更新了两个相关的 macOS 权限领域。第一个是 Full Disk Access 本身。第二个是此前称为 Device Control and Data Access 的独立权限。Apple 还引入了一种单一、一致的权限授予方法,允许用户从列表中选择请求访问的应用程序。

  • Full Disk Access 变得更加细粒度。

以前,如果某个应用程序需要 Full Disk Access,你基本上必须决定它能否访问所有内容。那是一种相当全有或全无、要么接受要么放弃的安排,类似于把整座房子的钥匙交给管家,或者一把钥匙都不给。在新系统下,Apple 转而引入允许访问特定受保护文件夹的选项。

设想一个需要处理你 Documents 文件夹中文档的应用程序。它为什么需要访问 Photos、Messages 以及你 Mac 上的其他所有内容?在 macOS 27.3 beta 2 中,在支持的情况下,用户将能够挑选并选择允许某个应用程序访问的特定受保护文件夹。

这就是安全圈中所称的“最小权限原则”的应用。这个想法很直接:应用程序应当只获得执行其预期功能所需的权限,而不是仅仅因为这是让它运行起来最简单的方式就被授予不受限制的访问权限。

这算不上什么革命性的概念,但我个人喜欢这一点:Apple 让普通用户更容易实施它,而无需理解 macOS 安全的所有复杂细节。

授予更广泛访问权限的选项仍然可用。Apple 的支持文档比以往更清楚地说明了其影响——它解释说,拥有这种访问级别的应用程序可以读取、更改、删除和导出你的所有数据,包括你可能通常不会认为是 Mac 上文件的信息。例如,这包括隐藏的和最近删除的照片,以及有关你的浏览活动的信息。Apple 现在鼓励用户仔细考虑某个应用程序是否真的需要那么大的访问权限。

门口的狼:Apple 正在为 AI Agent 时代重新思考 Mac 权限

Apple 的文档指出,选择特定文件夹或应用程序的能力只会在某些应用程序中出现。其他应用程序,包括一些备份工具和辅助技术,仍然可能需要更广泛的权限。

  • 设备控制与数据访问(Device Control and Data Access)被一分为二。

这或许是其中最重要的变化。Apple 此前有一项统一的权限,名为设备控制与数据访问。它涵盖的能力可以让应用程序与其他应用程序交互,并对 Mac 施加相当大的控制。我们说的是控制应用程序、监控键盘输入、访问屏幕上显示的信息,以及与操作系统的其他部分交互这一类事情。都是分量很重的东西。

在 macOS 27.3 beta 2 中,Apple 把它拆分成两项截然不同的事项。

  • 辅助功能(Accessibility):这一项面向屏幕阅读器、语音控制应用这类辅助技术。这些应用程序有正当理由以普通应用无法做到的方式与操作系统交互。Apple(正确地)希望保留这种功能,同时把它与应用程序自动化所关联的广泛得多的能力区分开来。
  • 系统与 App 保护覆盖(System & App Protection Override):这一项在 AI Agent 的语境下更为切题。它允许应用程序绕过某些 macOS 保护机制,从而控制其他应用程序并执行自动化任务。用户现在可以选择允许自动化工具控制哪些应用程序。例如,你可能希望让一个 AI agent 与 Mail 交互,但完全没有正当理由让它控制 Messages、Photos 或 Safari。现在你可以只授予任务实际所需的那些应用程序的访问权限。

Apple 的支持文档写道:

当你授予某个 app System & App Protection Override 权限时,你可以选择允许它控制哪些特定的 app。如果你改为允许它绕过系统保护,它就能完全控制你的 Mac 和各个 app,从而访问你的所有数据。它还能看到每一个窗口和 app,包括后台运行的那些,并捕获每一次按键。
  • 你可以让 agent 在控制某个应用程序之前先征得同意。

在授予系统与 App 保护覆盖权限时,用户可以通过以下两种方式之一来配置对单个应用程序的访问。

  • 先询问(Ask First):应用程序必须先请求你的许可,才能控制所选的应用程序。
  • 随时(At Any Time):应用程序可以控制它,无需再次请求许可。

当然,这是有取舍的。一个不得不停下来请求许可的 agent,自主性会大打折扣。如果你要自动化一个复杂的工作流,反复出现的权限请求可能会变得很烦人。但说实话,有些事情我们本就不该希望计算机完全在无人监督的情况下自行去做。

  • 当应用程序被控制时会有可见的指示标识。

Apple 还在菜单栏中引入了隐私指示器,当某个应用程序使用系统与 App 保护覆盖来控制另一个应用程序时就会显示。可以把它想象成应用使用麦克风时出现的橙色圆点,或访问摄像头时出现的绿色圆点。

这是一个微小但值得欢迎的改变。自主软件的一个难处在于,它可能在我们眼皮底下之外、在后台做事。可见的指示器并不能告诉你 agent 所做的一切,但它确实提供了一个有用的提示:有另一个应用程序正在对你的 Mac 施加控制。我宁愿有它,也不愿事后才发现某件事一直在我的知情之外发生。

授权不等于同意。

在我 10 月的 Field Note《“始终允许”——AI Agent 存在同意问题》中,我探讨了用户以为自己已授权 AI agent 去做的事情与 agent 在实践中实际做的事情之间那道令人不安的鸿沟。

门口的狼:Apple 正为 AI 智能体时代重新思考 Mac 权限

那场论证的核心是一个直白的问题:我们给 AI 智能体的权限,是否真的被理解、足够具体且有意义?我借用了同意框架 FRIES(Freely given、Reversible、Informed、Enthusiastic and Specific),并将其应用到一系列涉及 Meta 的 Muse、银行应用以及 Dots——OpenAI 自家的编码智能体——的事件中。这些案例的表现并不特别好。

Apple 的新控制措施回应了其中一些担忧,尤其是权限需要具体,以及在一定程度上可撤销这一点。能够授予智能体访问 Mail 的权限,而不会自动授予访问 Messages 的权限,是一种改进;但授予智能体控制某个应用的权限,并不等同于允许该智能体在其中为所欲为。

例如,一个智能体可能合法地拥有 Mail 的访问权限,但这并不意味着它就应该能够发送披露你家庭住址的电子邮件、转发机密通信,或在没有进一步批准的情况下删除重要邮件。

在我的 Allow Always 一文中,我建议应当允许智能体“只看不碰”,并且在产生后果的行动发生之前需要明确批准。我仍然认为这是一个不错的起点。Apple 的改动有助于划定智能体可以访问和控制什么的边界。但它们本身并没有确定智能体应该被允许利用这种访问权限做什么。

那 Alfred、Hazel 以及其他所有这些 Mac 工具呢?

当 Apple 首次宣布打算收紧对此类访问的控制时,人们担心合法应用可能会受到影响。MacStories 的 John Voorhees 提出了一种可能性:像 Alfred[2] 和 Hazel 这样的成熟工具可能会被卷入这些变化之中。

Mac 一直拥有相对开放且灵活的应用生态系统。开发者能够创建强大的工具,以在 iPhone 或 iPad 上根本不可能的方式与文件、应用和系统服务交互。我们绝对不应该以安全之名失去这种灵活性。

Apple 在其公告中回应了其中一些担忧。

首先,用户已经授予的权限将继续有效。应用不会仅仅因为你安装了 macOS 27.3 beta 2 就突然失去访问权限。其次,Apple 表示当前已知的应用不会受到影响,并且无需 entitlement 就能保留其现有体验。第三,使用 Full Disk Access 的备份应用以及使用新 Accessibility 设置的辅助应用的开发者,可以申请 entitlements,以便为新安装提供相同的体验。

Apple 表示,有关这些 entitlements 的更多细节将随后公布。现阶段没有理由认为 Alfred、Hazel 或你最喜欢的其他成熟 Mac 工具即将停止工作。但开发者需要确保他们的应用能够应对更受限的权限。Apple 明确表示,他们应准备好调整其引导流程,并处理用户只授予对选定文件夹或应用访问权限的情况。

Apple 似乎在区分两类应用:真正需要广泛访问权限的应用,以及仅仅因为方便就请求这些权限的应用。

还有一个值得提及的注意事项:这些变化不会自动撤销你已经授予的权限。Apple 表示现有权限仍然有效。因此,如果你之前给了某个应用不受限制的 Full Disk Access,安装 macOS 27.3 beta 2 并不会突然把它限制到特定文件夹。你需要自己审查这些权限。这大概是个好机会,可以浏览你的 Privacy & Security 设置,并仔细思考哪些应用真正需要你已授予它们的访问权限。

Apple 真的解决问题了吗?

说实话,也不完全是。而这正是我无法让自己完全对 Apple 的改动满怀热情的地方。

权限只是隐私等式中的一环。想想当 AI agent 获得你电子邮件的访问权限时会发生什么。即便你把它限制在 Mail 中、阻止它访问 Messages,它仍可能接触到极其敏感的信息:财务细节、医疗通信、私人对话、机密商业信息等等。你的电子邮件账户大概是 Mac 上最丰富的个人信息来源之一。一旦 agent 访问了那些信息,撤销权限并不能撤销已经发生的事。

如果我允许我那假设中的管家翻看我实体信箱里的信件,我不可能突然让管家“忘掉”,或者没看过他读到和看到的东西。同样,AI agent 可能已经处理了来自 Mail 的信息,生成了摘要,把数据传输到了远程服务,或者把它纳入了正在进行的任务。所以,尽管 macOS 能控制一个应用即将访问什么,它本身无法保证在一个应用合法获得信息之后,这些信息会怎样。

还有 AI 处理发生在哪里的问题。有些 agent 主要使用基于云的模型运行;另一些提供本地处理,或者两者结合。同样,我那假设中的管家读我的信件并把信息留在自己心里,与把它分享给他所有的管家朋友们,是有区别的。[3]

这些是开发者需要明确回答的问题,也是用户需要开始提出的问题。我们需要了解一个应用想要访问什么、为什么想要,或许更重要的是,它一旦拿到这些信息打算做什么。

Mac 在变,信任的含义也在变。

几十年来,Mac 的一大优势一直是它的灵活性。它允许用户安装强大的实用工具、自动化复杂的工作流,并让它以 Apple 可能从未预料到的方式运行。

但 AI agent 正在从根本上改变用户与其软件之间的关系。应用不再只是等着我们告诉它们该做什么——它们开始解读我们想要什么,找到所需的信息,主动做出决定并代表我们行动。而我们对这些 agent 的期望越多,它们很可能需要的访问权限就越多。

给 AI agent 访问你的电子邮件、照片、文件和浏览历史,意味着给它访问你个人生活中极大量信息的权限。我们应该问一问:一个应用是否真的需要访问权限,是否需要全部的权限,以及我们是否对它在获得权限后可能做的事感到安心。

Apple 显然认识到,其现有的权限模型在设计时并未考虑到这一代新软件。当然,我们不想要一台限制得让开发者无法构建真正有用应用的 Mac。但享受 AI 的好处,也不应意味着交出我们几乎所做一切的访问权限。

Apple 一如既往,似乎在试图找到一个温和的中间地带。它并没有取消完全磁盘访问权限——而是让授予该权限的决定更加知情、更加审慎,并在可能的情况下更加具体,

如果我们要把自主软件请进我们的个人生活,我们需要更用心地思考我们允许它看到什么、做什么。

就个人而言,我挺喜欢自己家门上有把锁。它能把狼挡在外面。

  • 完全磁盘访问权限于 2018 年随 macOS 10.14 Mojave 在 Mac 上推出。 ↩︎
  • 说到管家,我一直以为 Alfred 应用得名于蝙蝠侠的管家 Alfred。遗憾的是,据开发者说,并无此关联。 ↩︎

《门口的狼:Apple 正在为 AI 智能体时代重新思考 Mac 权限》

  • 管家们有网络吗?有工会吗?我愿意相信有。有这样一个组织:The International Guild of Professional Butlers。提醒一句——要善待你的管家。 ↩︎

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗