Newshot

AI 智能体时代,数据最小化势在必行

Translation(model translation, not the source's own text)

数据最小化对 AI 智能体时代至关重要

The AI-Deal,作者 Daniela Zampieri / Better Images of AI / CC by 4.0

监控是互联网的商业模式。个人数据驱动着广告业,而广告业又驱动着监控经济。这些数据还被以其他方式利用,从个性化社交媒体信息流到训练 AI,不一而足。遏制行业对我们数据的使用,对于解决人为成瘾、操纵和民主衰落等问题至关重要。我们未能监管社交媒体中的监控;面对 AI 智能体,我们还有有限的机会做出不同的选择。我们需要针对 AI 智能体的强有力的数据最小化规则。

几乎任何涉及互联网的工业应用都会尽可能多地收集个人数据。有时用户可以通过浏览器、应用和插件表达有限的隐私偏好。隐私存在一些小小的角落:既有加密等工具提供的技术性角落,也有涉及欧洲 GDPR 和加州 CCPA 等法律的法律性角落。但在大多数情况下,人们被允许通过一则通知和几次漫不经心的点击来“同意”这种基本交换,这只是一种假装人们在做出有意义选择的方式,而实际上他们并没有。数据最大化和监控资本主义大行其道。

快速构建和部署 AI 智能体的浪潮带来了许多相同的隐私问题。广告收入的诱惑依然存在,对数据以个性化定价——当然还有训练未来 AI——的渴求也同样存在。行业将加倍推行同样的监控策略,同时假装尊重/保护用户隐私。各公司已经亮出了底牌,手中握满了消费者的个人数据。谄媚的聊天机器人提供个性化建议,甚至陪伴。像市场宠儿 Instinct 这样的个人 AI 智能体,能够获取消费者的账户、消息,甚至击键和滑动手势。

更糟的是,AI 智能体带来了一系列新的隐私担忧。它们承诺比你的浏览器、电子邮件和短信流,或你的手机更加亲密。它们是自主的,在无人监督下工作。它们长期持续存在,使它们能够在不同任务和情境中获取范围广泛得多的个人数据。它们会以不尊重组织、机构或司法管辖区边界的方式,将任务委托给其他工具和智能体,且更难监控和监督。它们还能以操纵人们的方式使用个人数据。

各国应当拒绝数据最大化,转而要求相反的做法。数据最小化应当成为强有力的、具有法律约束力的默认规则,只有在存在可证明的知情同意时才允许例外。这是研究人员所称的“智能体系统隐私偏好控制”的必要基础。监控资本主义及其所意味的最大化数据收集,并非创新、增强服务等所必需。与隐私没有价值且已然消亡的论调相反,人们极其在意隐私,而且尽管它可能很复杂,人们能够学会理解并思考自己的隐私。更好的同意机制在技术上是可行的;依赖仅仅通知加几次点击同意这种廉价把戏是不可接受的。最重要的是,在一个充斥着 AI 增强软件的世界里,将个人数据武器化以操纵用户,对用户自主性和民主是更大的威胁。

文章标题:数据最小化对 AI 智能体时代势在必行

正文: 数据最小化不仅仅关乎隐私。它对于信任也至关重要。需要它来确保智能体只执行用户授权的特定任务,而不是自由放任、无边界地四处寻找事情做,缺乏可执行的约束(保障措施)。明确的授权和任务界定限制了智能体任务执行的范围和规模。这种“事务性摩擦”对传统隐私关切是件好事,它还能缓解对认知安全、安全性和问责制等更广泛的风险。更广义地说,没有数据最小化规则,我们永远无法真正拥有可信的 AI。

我们的内容送达您的收件箱。

谢谢!

您已成功加入我们的订阅者列表。

企业认可并坚持此类保护措施,这就是为什么它们往往能与软件供应商谈判获得更好的隐私保护。我们其他人也应如此。例如,在与 AI 智能体、律师事务所、医院和银行打交道时,应显著限制个人数据的收集、使用、保留和共享,并要求明确的使用场景、任务界定和授权。然而,消费者却被要求让个人 AI 智能体访问一切,并授予软件全权代表消费者行事,而一旦出了问题,消费者当然只能自己承担后果。

数据最小化还能提升安全性。在黑客攻击和个人数据窃取已成常态的世界里,数据最小化通过减少我们的数据在他人手中的副本数量来降低风险。防止不法分子窃取数据,最好的办法莫过于删除数据。

这一切都不会来自市场,因为市场上充斥着依赖监控资本主义来最大化利润的公司。个人 AI 智能体会追求数据最大化,同时在营销和公关声明中假装并非如此。科技公司希望智能体执行的任务范围完全敞开:让科技管理我们生活中的一切,甚至是你没有要求、甚至不知道“需要”做的事情。这套熟悉的推销话术是:通过将我们的人性完全外包来实现消费者便利。

而且,不管 AI 公司怎么说,数据最大化的监控对 AI 智能体来说既非不可避免,也非可取。各国政府仍有时间采纳严格拥抱 AI 智能体数据最小化的隐私规则,但它们确实需要行动起来。

社会需要为 AI 智能体建立严格、具有法律强制执行力的数据最小化规则。这意味着 AI 公司只能收集和使用用户指定并授权任务所严格必需的数据。有了适当的隐私控制,我们就有可能拥有可信的 AI 智能体,在传统网络和智能体环境中都能有效代表用户的隐私偏好。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗