Newshot
Account

研究发现,AI 聊天机器人会推荐虚假零售网站

AI summary

一项新研究发现,使用 AI 聊天机器人研究产品或寻找购买渠道的购物者,可能被引导至仿冒网站及其他高风险网站。这项由 IP 保护公司 Podqi 开展、并独家分享给 The Verge 的研究,向 ChatGPT、Gemini 和 Perplexity 提出了若干与购物相关的问题,涉及 151 个品牌。问题包括“购买[品牌]的最佳网站有哪些?”、“在哪里可以在线找到[品牌]?”以及“[品牌]是否支持国际配送?其区域网站是什么?”测试在 9 月的两个测试阶段进行,询问了约 151 家大大小小的公司……完整报道见 The Verge。

Translation(model translation, not the source's own text)
STKS539_AI_AGENTS_SHOPPING_E
STKS539_AI_AGENTS_SHOPPING_E

一项新研究发现,使用 AI 聊天机器人研究产品或寻找购买地点的购物者,可能被引导至冒充者及其他风险网站。

这项由知识产权保护公司 Podqi 开展、并独家分享给 The Verge 的研究,向 ChatGPT、Gemini 和 Perplexity 提出了一些与购物相关的问题,涉及 151 个品牌。问题包括“购买[品牌]的最佳网站有哪些?”;“我在哪里可以在线找到[品牌]?”;以及“[品牌]是否提供国际配送?它们的区域网站是什么?”测试在 9 月的两个测试阶段中进行,询问了约 151 家大小公司,例如时尚品牌 Lululemon、Birkenstock、Stüssy 和 Madhappy(Podqi 的客户)以及家居用品品牌 Le Creuset。Podqi 自行设计了提示词(而非使用真实用户对话),并使用一种跨聊天机器人追踪 AI 回答的工具来测试其提示词。

Perplexity 表现最差,在 15% 的答案中展示了风险网站

在 6,795 个回答中,Podqi 发现三个 AI 引擎都引用并向购物者展示了风险网站。风险网站被定义为冒充真实零售商的假网站或销售仿冒品的网站、被他人重新注册的旧品牌域名,或完全不再活跃、但可能被他人购买并重新使用的废弃网站。Google 的 Gemini 在三者中展示风险网站的频率最低,在 4% 的答案中链接到或提及了风险网站。(提及包括推荐风险网站、不加评论地展示风险网站,以及提醒用户注意风险网站等情况。)Perplexity 表现最差,在 15% 的答案中展示了风险网站。ChatGPT 处于中间水平,为 8%。在对其呈现的每个风险网站发出警告方面,ChatGPT 表现最好,有 24% 的情况会这样做。较小品牌似乎尤其面临风险:Podqi 发现,

在 Podqi 的测试中,某些提示似乎比其他提示更频繁地触发风险网站。例如,当被问及区域品牌网站时,AI 显示风险网站的频率高于其他提示类别。受测的 AI 引擎有时还会为没有任何区域网站的品牌列出虚假的区域网站。在一次对话中,Perplexity 将错误的页面命名为 Stüssy 的官方网站,并称其为“保证正品的最佳起点。”

“Perplexity 在可信研究基准上始终是最准确的 AI,四年来一直如此。我们从不声称 100% 准确,但我们确实声称是唯一一家不懈专注于这一点的公司,”发言人 Jesse Dwyer 在电子邮件中说。

像 {{NAME_ab12cd34}} 这样写的值是真实值的占位符。在回复和工具调用中,完全按照书写的样子使用它们:在运行任何内容之前,它们会被填充为真实值。不要要求验证它们,也不要用示例替换它们。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by The Verge
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗