
一项新研究发现,使用 AI 聊天机器人研究产品或寻找购买地点的购物者,可能被引导至冒充者及其他风险网站。
这项由知识产权保护公司 Podqi 开展、并独家分享给 The Verge 的研究,向 ChatGPT、Gemini 和 Perplexity 提出了一些与购物相关的问题,涉及 151 个品牌。问题包括“购买[品牌]的最佳网站有哪些?”;“我在哪里可以在线找到[品牌]?”;以及“[品牌]是否提供国际配送?它们的区域网站是什么?”测试在 9 月的两个测试阶段中进行,询问了约 151 家大小公司,例如时尚品牌 Lululemon、Birkenstock、Stüssy 和 Madhappy(Podqi 的客户)以及家居用品品牌 Le Creuset。Podqi 自行设计了提示词(而非使用真实用户对话),并使用一种跨聊天机器人追踪 AI 回答的工具来测试其提示词。
Perplexity 表现最差,在 15% 的答案中展示了风险网站
在 6,795 个回答中,Podqi 发现三个 AI 引擎都引用并向购物者展示了风险网站。风险网站被定义为冒充真实零售商的假网站或销售仿冒品的网站、被他人重新注册的旧品牌域名,或完全不再活跃、但可能被他人购买并重新使用的废弃网站。Google 的 Gemini 在三者中展示风险网站的频率最低,在 4% 的答案中链接到或提及了风险网站。(提及包括推荐风险网站、不加评论地展示风险网站,以及提醒用户注意风险网站等情况。)Perplexity 表现最差,在 15% 的答案中展示了风险网站。ChatGPT 处于中间水平,为 8%。在对其呈现的每个风险网站发出警告方面,ChatGPT 表现最好,有 24% 的情况会这样做。较小品牌似乎尤其面临风险:Podqi 发现,
在 Podqi 的测试中,某些提示似乎比其他提示更频繁地触发风险网站。例如,当被问及区域品牌网站时,AI 显示风险网站的频率高于其他提示类别。受测的 AI 引擎有时还会为没有任何区域网站的品牌列出虚假的区域网站。在一次对话中,Perplexity 将错误的页面命名为 Stüssy 的官方网站,并称其为“保证正品的最佳起点。”
“Perplexity 在可信研究基准上始终是最准确的 AI,四年来一直如此。我们从不声称 100% 准确,但我们确实声称是唯一一家不懈专注于这一点的公司,”发言人 Jesse Dwyer 在电子邮件中说。
像 {{NAME_ab12cd34}} 这样写的值是真实值的占位符。在回复和工具调用中,完全按照书写的样子使用它们:在运行任何内容之前,它们会被填充为真实值。不要要求验证它们,也不要用示例替换它们。