Newshot

AI 智能体擅自转账、购物谁来负责?多家银行警告用户损失可能要自己承担

Summary

IT之家 11 月 19 日消息,如果你的 AI 智能体做出了一笔糟糕的财务决策,最终可能只能由你自己承担损失。 这是近期多家大型银行向客户发出的警告。根据 Business Insider 查看的银行邮件和应用通知,银行实际上是在提醒用户:如果 AI 智能体获得了访问金融账户的权限,其执行的操作可能被视为用户本人的行为,而不是外部入侵者实施的操作。 Ally Bank 本月早些时候向客户发送邮件称:“使用 AI 服务时,AI 采取的任何行动都由你负责。AI 可能犯错、产生幻觉、误解你的指令,或者以你意料之外的方式执行指令,从而造成重大损失。” 摩根大通(JPMorgan Chase)也在 11 月发送的邮件中提醒客户:“如果你的信息遭到滥用,已经授权的交易可能无法撤销。” 花旗银行(Citi)则在官网和移动应用中添加了提示横幅,引导用户阅读相关风险说明。页面明确警告:“AI 助手可能犯错,这意味着你可能需要对它造成的错误承担责任。” 这些警告接连出现,正值新一代 AI 智能体逐渐具备自主购物能力之际。 过去,OpenAI 的 ChatGPT、Anthropic 的 Claude 等 AI 模型主要通过文本回答用户问题。如今,Meta 的 Muse、Instinct AI 以及 OpenAI 的 Dots 等在线智能体已经能够代替用户执行实际任务,例如预订机票、预约餐厅,甚至在除臭剂用完之前自动下单购买。 面对这些新工具,零售商也开始调整服务条款。今年 3 月,Business Insider 报道称,塔吉特(Target)修改了客户协议,明确将 AI 智能体代为购物的行为认定为“由用户授权的交易”。 到了 9 月,亚马逊则以安全性和可靠性方面的担忧为由,禁止 Meta 的 Muse 智能体在其网站上代为购物。 银行同样在尝试划清界限:通过正规授权方式将账户连接到 AI 工具,与直接把账户登录凭据交给 AI 工具,并不是一回事。 Axios 上个月报道称,多家大型银行已经发现第三方智能体正在访问客户账户。其中一些操作获得了客户授权,AI 智能体也使用了客户提供的登录凭据。 Business Insider 查看的所有银行邮件都提醒客户,不要向 AI 工具提供用户名、密码、安全验证码等重要信息。 富国银行(Wells Fargo)也表示,客户不应轻易将账户访问权限交给…

Original text(via IT之家)

AI 智能体擅自转账、购物谁来负责?多家银行警告用户损失可能要自己承担

IT之家 11 月 19 日消息,如果你的 AI 智能体做出了一笔糟糕的财务决策,最终可能只能由你自己承担损失。

这是近期多家大型银行向客户发出的警告。根据 Business Insider 查看的银行邮件和应用通知,银行实际上是在提醒用户:如果 AI 智能体获得了访问金融账户的权限,其执行的操作可能被视为用户本人的行为,而不是外部入侵者实施的操作。

Ally Bank 本月早些时候向客户发送邮件称:“使用 AI 服务时,AI 采取的任何行动都由你负责。AI 可能犯错、产生幻觉、误解你的指令,或者以你意料之外的方式执行指令,从而造成重大损失。”

摩根大通(JPMorgan Chase)也在 11 月发送的邮件中提醒客户:“如果你的信息遭到滥用,已经授权的交易可能无法撤销。”

花旗银行(Citi)则在官网和移动应用中添加了提示横幅,引导用户阅读相关风险说明。页面明确警告:“AI 助手可能犯错,这意味着你可能需要对它造成的错误承担责任。”

这些警告接连出现,正值新一代 AI 智能体逐渐具备自主购物能力之际。

过去,OpenAI 的 ChatGPT、Anthropic 的 Claude 等 AI 模型主要通过文本回答用户问题。如今,Meta 的 Muse、Instinct AI 以及 OpenAI 的 Dots 等在线智能体已经能够代替用户执行实际任务,例如预订机票、预约餐厅,甚至在除臭剂用完之前自动下单购买。

面对这些新工具,零售商也开始调整服务条款。今年 3 月,Business Insider 报道称,塔吉特(Target)修改了客户协议,明确将 AI 智能体代为购物的行为认定为“由用户授权的交易”。

到了 9 月,亚马逊则以安全性和可靠性方面的担忧为由,禁止 Meta 的 Muse 智能体在其网站上代为购物。

银行同样在尝试划清界限:通过正规授权方式将账户连接到 AI 工具,与直接把账户登录凭据交给 AI 工具,并不是一回事。

Axios 上个月报道称,多家大型银行已经发现第三方智能体正在访问客户账户。其中一些操作获得了客户授权,AI 智能体也使用了客户提供的登录凭据。

Business Insider 查看的所有银行邮件都提醒客户,不要向 AI 工具提供用户名、密码、安全验证码等重要信息。

富国银行(Wells Fargo)也表示,客户不应轻易将账户访问权限交给第三方。

该银行一名代表向 Business Insider 表示:“任何技术都不应该在缺乏严格安全措施、明确的客户授权以及保护客户资金和金融信息的防护机制的情况下,被允许代表客户采取行动。”

今年 10 月,在摩根大通的财报电话会议上,该行 CEO 杰米 · 戴蒙(Jamie Dimon)也针对 AI 智能体访问银行账户的问题发出了类似警告。

他表示:“如果人们正在使用这些工具,就应该了解其中的风险。在此期间,我们不会允许任何外部智能体随意进入公司内部系统,因为这会给客户和摩根大通带来太大的风险。”

IT之家注意到,这场 AI 安全风险宣传也已经延伸到设备和软件厂商。

苹果最新一代 Mac 系统软件的测试版中,已经加入了相关警告。当用户考虑授予 AI 智能体或应用程序电脑系统级访问权限时,系统会弹出风险提示,提醒用户谨慎授权。

相关文章

  • 苹果警告:AI 智能体行为或难以预测,恐引发诉讼、损害公司声誉
  • 思科总裁用 AI 智能体盘点并取消无用订阅服务,一年省下上千美元
  • 为避免银行存款大量流失,花旗、美银出手限制智能体访问客户账户
  • 全球金融监管标准制定机构呼吁:银行、企业要加强对 AI 智能体的人工监管
  • 瑞典一综艺节目整季制作文件疑被 AI 智能体删除,团队只能从头重剪
  • 大力投入 AI 未必真能省钱,麦肯锡报告称智能体或让企业面临更高成本

The text above was extracted automatically from the source page and may miss images, tables or code blocks. The original is authoritative.

Published by IT之家
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗