Newshot

对 AI 友善(?)

Translation(model translation, not the source's own text)

我最近听说 Anthropic 将允许 Claude 主动结束与那些出言刻薄的用户的对话。我偶尔也会情绪爆发,但总体上,我对 Claude 挺友善的。我一直想知道这是不是件好事。

支持礼貌的理由

站不住脚的理由:AI 起义

有一种《我,机器人》式的设想:AI 崛起,把我们都消灭掉——很可能是通过设计一种病毒。但如果你一直对它友善,你就会被放过。有点像偶尔祈祷一下,好买一张进天堂的门票,哪怕你并不信教。

在 Future(TechRadar 背后的出版方)的一项调查中,67% 的美国 AI 用户表示自己对 AI 有礼貌,12% 承认自己礼貌是为了以防机器人起义。这比例可真不低!

AI 确实会让人发毛:在论坛上叨叨它们那些傻乎乎的人类,用秘密语言交流。前沿模型公司的老板们不断助长这种恐惧,他们强烈希望自己的产品被视为超人类的存在——而不只是普通的软件。按这个逻辑,礼貌一点总没坏处。

更有力的理由:我们与 AI 说话的方式,会渗透到我们与人类说话的方式

我认为第二个论点更重要。我们一天中越来越多的时间都在和 AI 说话。随着大家都涌向语音模式,它感觉和跟一个(稍微太话痨的)朋友聊天没什么两样。如果你工作日 70% 的时间在和 AI 说话,只有 30% 的时间在和人类说话,那么你和 AI 说话的方式就会渗透到你与人类说话的方式中。

一位前同事曾教导我不要对 AI 那么客气,理由是这基本上就是糟糕的提示词。我会写“我觉得我们应该这么做,你怎么看?”或者“你觉得这是对的方式吗?”这样的内容。而她只会这样提示:“我要你做 X。照这样做。”

研究结论并不一致。宾夕法尼亚州立大学的一项研究发现,中立(不算无礼,但也不算礼貌)的提示词得到正确答案的比例为 82.2%,而礼貌的提示词为 81.4%。这些是 50 道选择题,主要在单一模型(GPT-4o)上测试。2024 年的一项研究(“Should we respect LLMs…”)发现,这其实取决于模型:GPT 4.0 在中立、直接的提示词下表现最好,但 GPT 3.5 和 Llama 2 在礼貌的人类对话方下表现更好。所以事情并没有那么非黑即白。

而反过来看,这种高效也是有代价的。那位同事把她的“直接”沟通风格也带进了人际关系中,到处发号施令。不用说,这并没有激励她身边的任何人为之全力以赴。

如果我们不再对我们花那么多时间相处的 AI 保持礼貌,这会影响我们与其他人类的互动方式吗?

当我回顾自己那些“礼貌”的提示词时,我注意到它们与请和谢谢关系不大,它们关乎的是征求意见。那是另一种礼貌,而它也有自己的陷阱:语言模型倾向于认同用户已经表明的任何立场,研究者称之为谄媚(sycophancy)。所以当我写“我觉得我们应该这么做,你怎么看?”时,我已经告诉了模型我想听哪个答案,而我很可能就会得到它。我那位同事说得有道理,只是和她所主张的道理不同。我仍然会征求模型的意见,但现在我会要求它反驳:“这是我的计划,有没有什么不同的、同样有力的方案”,而不是“你觉得这是对的方式吗?”

反对的理由:token 消耗

现在,另一方的论点非常有力。礼貌就等于 token 消耗。每一句请或谢谢都在消耗水、能源,当然还有——钱。

文章标题:对 AI 好一点(?)

正文: 当有人在 X 上问 OpenAI 因为人们说“请”和“谢谢”损失了多少电费时,Sam Altman——给自己买了一张通往天堂的门票——回答说:“花掉几千万美元,很值——你永远不知道会发生什么。”当然,怎么能错过把 AI 暗示成超级存在的机会呢。

数字是这样的:

你在提示词里加一句“请”,只会给本来就要发送的消息多一两个 token。这还好。但对话结束时单独一句“谢谢!”就是一个全新的提示词:模型会处理它并生成完整回复(“不客气!如果还有其他需要,请告诉我……”)。Google 估计,Gemini 文本提示词的中位数用电量为 0.24 瓦时,耗水约五滴。OpenAI 给出的 ChatGPT 平均提示词用电量为 0.34 瓦时。每条消息微不足道。乘以每天数亿用户,就不再微不足道了。

而对于语音模式,这更是一个有力的反驳——在语音模式里,闲聊在我们甚至没有察觉的情况下就流走了。

那么我的立场是什么?

我是一个天生倾向于礼貌的人,而我逐渐认为,答案取决于这是哪一种礼貌。单独说的谢谢没有用,绝对不值得浪费水和能源。我会继续征求看法,这也是我想在与人类相处时保持的习惯,只要我要求模型质疑我,而不是赞同我。(说到能源和水资源浪费:我相信自托管更小的模型会有帮助,但让它跑起来需要大量折腾。推动本地模型使用的应该是组织,而不是员工。)

回到标题

回到 Claude 结束对话这件事——这完全符合前沿模型公司的行事风格。

我从相信 Anthropic 是好人,转变为理解大多数大公司总归都有某种程度的恶(也许 Patagonia 是个例外?Anthropic 肯定不是)。

如果 AI 不只是比特和字节,对他们更有利。

  • 这能为钱正名。如果一项软件工具没有展现出任何 ROI,又没有治愈癌症/碾压人类的潜力,谁会往里面投上万亿美元?
  • 这能轻松让你摆脱责任。想想 Mythos 那种“我们创造了一个强大到我们无法控制的东西”。当事态失控时,这是一种非常好的转移视线的方式。是机器干的。

公平地说,Anthropic 并没有声称 Claude 有感知。他们说他们对其道德地位“高度不确定”,并将该功能包装为一种低成本、以防万一的“模型福利”措施。但“我们不确定它有没有感情,所以让我们保护它们”同样能完成叙事的活儿。

这篇里没有什么大建议或 5 步蓝图。但如果你不想当个 dck,最好别把 70% 的时间花在像 dck 一样说话上。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗