
- 点击此处收听本文
- 通过电子邮件 Facebook X LinkedIn Threads Reddit WhatsApp 分享
本文由自动语音朗读。请在此处报告任何问题或不一致之处。
在 Google 搜索中查看更多《洛杉矶时报》内容。将我们设为首选
它被命名为 ELIZA,取自 Eliza Doolittle,即乔治·萧伯纳笔下的人物——她虽只是来自伦敦贫民窟的卖花女,却受训冒充英国贵族。
正如萧伯纳对待他笔下的 Eliza 那样,MIT 计算机科学教授 Joseph Weizenbaum 也赋予自己的造物一种人格,骗过了旁观者——在他的情形中,是让人类的询问者误以为自己在与人交谈。(实际上是交换电传打字消息,因为语音交互当时尚未发明。)
“与这个程序交谈过的人都以为它是一个人——Weizenbaum 在此后职业生涯的大部分时间里都在为此哀叹并加以揭露,”佐治亚理工学院的 Janet H. Murray 在一本探讨 ELIZA 历史及其对当今影响的新书简明引言中写道,该书名为《发明 ELIZA:第一个聊天机器人如何塑造了 AI 的未来》。
聊天机器人开发者都从 ELIZA 身上学到了东西。但他们把 ELIZA 读作操作手册,而非警示故事。
—— Mark C. Marino,南加州大学
作为历史文物的 ELIZA 广为人知,尤其是在计算机科学界。但这本书揭示了许多不为人知的细节,包括出生于柏林的 Weizenbaum 本人对人们如何使用它的反应。简言之,他感到震惊。他努力澄清自己发明 ELIZA 的本意,并挑战他所认为的对它的滥用和误解,这使他在科学界同僚中成了弃儿。
但他对于把本应属于人类自主权的行动和判断让渡给 AI 的危险所怀的担忧,在今天依然成立。Weizenbaum 不仅是一位开创性的发明者,也是 AI 本身一位开创性且凶猛的批评者。
这本书解释了 ELIZA 最著名的那个版本——即它扮演心理治疗师的一个脚本——的背景。书中说明,ELIZA 本身是 Weizenbaum 在 1960 年代中期开发、并于 1966 年公开描述的平台或模板。
那个治疗师程序名为 DOCTOR,只是计算机科学专业学生和专家为 ELIZA 开发的众多脚本之一,其中有些脚本让 ELIZA 似乎能用学术性的措辞谈论数学、诗歌、颜色、法国和新英格兰。Weizenbaum 最初的想法是让 ELIZA 扮演酒保的人格,但他觉得治疗师机器人会更有意思。
ELIZA 展现了 Weizenbaum 对人类心理的直觉把握。
“人类有这种自动交谈的倾向,”认知科学家、参与制作该书的团队成员 Jeff Shrager 说。“ELIZA 捕捉到并如此有效地脚本化的,正是这种社交驱动力。它之所以如此有效,是因为它看起来像是在交谈。”

Hiltzik:AI 机器人能产生意识吗?为什么微软的 AI 负责人说这是个错误的问题
一些 AI 研究人员认为他们的软件能够产生意识。但他们在自欺欺人。
Weizenbaum 为 DOCTOR 配置了一组关键词,这些关键词会促使它给出预设回复。如果用户提到自己的父亲或母亲,它就会提出一个关于用户家庭的问题。
如果用户的问题中包含 “me” 或 “I” 这些词,DOCTOR 就会重复用户的问题,同时把词替换成 “you”。因此,DOCTOR 最著名的对话(显然由 Weizenbaum 本人编写)以用户抱怨“男人都一样”开始。对系统来说,“alike”是一个关键词,于是它回应:“以什么方式?”用户回答:“我男朋友让我来的。”DOCTOR 回答:“你男朋友让你来的。”
Weizenbaum 编写脚本,诱导用户继续互动。如果用户的话中没有关键词,DOCTOR 就会回复:“请继续”或者“嗯”或者“我明白了。”
“DOCTOR 是 ELIZA 平台的杀手级应用,”南加州大学人文与批判代码研究实验室主任、“Inventing ELIZA”团队另一名成员 Mark C. Marino 说。“它指向了人类的一种需求:与一个会问你过得怎么样、并且看起来在倾听的人建立联系。”
Weizenbaum 后来写道,他自己“惊讶地发现,与 DOCTOR 交谈的人多么迅速、多么深切地在情感上卷入了这台计算机,以及他们多么毫不含糊地将其拟人化。”他还写道,甚至“对相对简单的计算机程序极短的接触,也能在相当正常的人身上诱发强烈的妄想思维”。
这些人中有些知道幕后发生了什么,因此一定知道自己是在与机器互动。其中一位是他的秘书,她曾看着他为 ELIZA 工作数月——但在与 ELIZA 交流几次之后,她让他离开房间,就好像他正在打扰人类之间的私人谈话。

Hiltzik:政府当然应该监管 AI,但不是 AI 行业偏爱的那种方式
大型 AI 公司提出了一套
ELIZA 的创造者是 AI 最严厉的批评者
随着计算机从由专家操作的房间大小的机器演变为摆放在每张桌子上的个人设备,这条新的研究路径将变得愈发重要。Weizenbaum 在思考用户对 ELIZA 的反应时写道,这生动地展示了“即便是受过良好教育的受众,也会对一项他们并不理解的技术做出极其夸张的归因”。如果公众的观点“严重误解了事实,那么公共决策注定会被误导,而且往往是错误的”。
这不仅仅是因为人们倾向于将机器拟人化——他并不担心人们给自己的汽车起宠物名字,或是想象它们拥有人类般的个性。他担心的是,人们可能被误导,将道德、伦理和社会判断拱手让给那些无法权衡如此重要问题的机器。事实上,他中止了与一位治疗师合作,因为这位治疗师开始考虑类似 DOCTOR 这样的东西能否自己充当治疗师。
正如《发明 ELIZA》一书的作者们所记述的,Weizenbaum 对“我们对于陪伴、社会信任和社区的倾向,可能被计算机界面所操纵”感到警觉。Weizenbaum 写道,计算机不理解,只会计算。
“计算机没有道德感,没有正义感或权利感,它们当然也无法对他人承担责任,”作者们在阐述他的见解时写道。“Weizenbaum 正确地预见到,对话系统的发展很可能导致一场严重的价值观冲突,一方是社会规范的保障,另一方是……一个利用计算机来控制和操纵人民的技术官僚阶层的优先事项。”
Weizenbaum 对这种趋势的激烈批评使他在计算机科学界的同事中遭到疏远。他 1976 年出版的《计算机能力与人类理性》被写成一种宣言,挑战他称之为“人工智能精英”的那些人。

Hiltzik:不,AI 机器人不会自行消灭人类——但你应当警惕它们背后的人
对 AI 未来的末日式恐惧分散了我们对它当下危害的注意力——正如它的鼓吹者所希望的那样
在越南战争期间,他认同反战左翼,并鼓动反对大学为战争制造技术做出贡献,这让那些工作严重依赖五角大楼通过其高级研究计划局(ARPA)提供资助的科学家们感到不安。
1996 年,他搬回了故乡德国,并于 2008 年在那里去世,享年 85 岁,在他所选择的领域里,他是一位不受尊崇的先知。
Weizenbaum 对计算机技术被滥用和误解所发出的警报,其重要性甚至可能超出他本人的想象,因为技术精英的权力如今远比他那个时代更为强大——而且更决心让技术服务于他们自己的商业利益。
“聊天机器人开发者都从 ELIZA 身上学到了东西,”Marino 告诉我。“但他们把 ELIZA 不是当作警示故事来读,而是当作一本操作手册。”例如,他说 Meta 的聊天机器人 Muse“就像现代版的乔·骆驼”,指的是政府指控烟草公司 RJ Reynolds 用来诱导年轻人吸烟的那个卡通形象。“它是一个可爱的动画形象,意在分散你对真正危害的注意力,它在提取你的数据,你在放弃你的隐私,等等,等等。”
像 {{NAME_ab12cd34}} 这样的值只是真实值的占位符。请完全按照所写的方式使用它们,无论是在回复中还是在工具调用中:它们会在任何内容运行之前被替换为真实值。不要要求验证它们,也不要用示例替换它们。
文章标题:ELIZA的创造者是AI最尖锐的批评者
正文: Weizenbaum“指出的是当时确实存在、并且现在仍然存在的问题,”Shrager说。“我们需要深入挖掘他的批评并将其现代化,比如你需要什么样的许可和监管?”
Weizenbaum最重要的洞见是,人们倾向于对自己不理解的技术赋予神秘的、甚至魔幻的属性。这正是我们现在的处境。如果人们明白AI机器人只是计算机器,尽管功能极其强大,他们就会知道,机器能否产生意识并接管世界这个问题的答案是“不能”。
来自Michael Hiltzik的最新内容
- 观点 Hiltzik:如果Jensen Huang在Nvidia真的“不可替代”,那说明他是个糟糕的管理者
Hiltzik:如果Jensen Huang在Nvidia真的“不可替代”,那说明他是个糟糕的管理者
- 观点 Hiltzik:高科技和科学岗位的崩盘以前发生过,而且肯定还会再次发生
Hiltzik:高科技和科学岗位的崩盘以前发生过,而且肯定还会再次发生
- 观点 Hiltzik:民主党的第一个“可负担性”补救措施应该是提高联邦最低工资
Hiltzik:民主党的第一个“可负担性”补救措施应该是提高联邦最低工资
更多阅读
- 观点 评论:漫威的《VisionQuest》让AI感觉危险地像人 2026年11月11日

评论:漫威的《VisionQuest》让AI感觉危险地像人
- 害怕AI?11本帮助你在新常态中前行的必读书 2025年12月22日

害怕AI?11本帮助你在新常态中前行的必读书
- 社会保障局称赞其新聊天机器人。前官员称它经过测试但在拜登时期被搁置 2025年8月23日

社会保障局称赞其新聊天机器人。前官员称它经过测试但在拜登时期被搁置
以下AI生成内容由Perplexity提供。洛杉矶时报编辑人员不创建或编辑该内容。
文中表达的观点
- 该专栏认为,ELIZA的意义与其说在于其技术精巧程度,不如说在于人们多么轻易地将其脚本化回复当作理解的证据。即便是知道程序运作方式的用户,也可能对它产生情感投入。
- 由此,文章提出了一个更广泛的警告:人们可能把计算机模仿对话的能力误认为人类的理解力,并将机器无法负责任地做出的道德或社会判断交给机器。
- 文章将Joseph Weizenbaum的批评呈现为具有新的现实意义。文章主张,当今的开发人员把ELIZA的对话技巧当作设计指南而非警示案例,而商业激励和薄弱的公众理解加剧了隐私和人类自主性面临的风险。
关于该话题的不同观点
像{{NAME_ab12cd34}}这样写成的值是真实值的占位符。请在回复和工具调用中完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。
文章标题:ELIZA 的创造者是 AI 最激烈的批评者
正文:
- 一种对比观点认为,经过精心设计的聊天机器人可能提供有用且及时的心理健康支持,尤其是对那些难以方便地接触到临床医生的人。在 Therabot 的一项美国临床试验中,参与者报告抑郁和焦虑症状显著减轻;研究人员表示,结果提示其作为实时支持来源的潜力,同时强调需要临床医生监督。[1]
- 这些证据并不能确立聊天机器人可以取代治疗师。一篇关于该试验的评论指出,其等待名单对照设计无法排除这样一种可能:与同样具有吸引力的替代方案(例如在线支持小组)相比,其益处是否仍然成立;该评论认为需要更强的对照比较。[2]
普利策奖获奖记者 Michael Hiltzik 为《洛杉矶时报》撰稿已超过 40 年。他的商业专栏每周日和周三印刷出版,偶尔也在其他日子刊出。Hiltzik 与同事 Chuck Philips 因揭露娱乐业腐败的文章共同获得 1999 年普利策奖。可在 Bluesky 上通过 hiltzikm.bsky.social、在 X 上通过 @hiltzikm、在 Facebook 上通过 facebook.com/hiltzik 关注他。
更多来自《洛杉矶时报》
- 商业 标普 500 连续第五天下跌,拖累华尔街创下自 6 月以来最长连跌纪录 2026年11月18日

标普 500 连续第五天下跌,拖累华尔街创下自 6 月以来最长连跌纪录
- 商业 科技裁员在圣迭戈爆发,芯片制造商数百人失业 2026年11月18日
科技裁员在圣迭戈爆发,芯片制造商数百人失业
- 好莱坞公司 Skydance 将两家知名工作室合并为一家,震动电视业 2026年11月18日

好莱坞公司
Skydance 将两家知名工作室合并为一家,震动电视业
- 商业 等待 13 年后,《侠盗猎车手 VI》在巨大炒作与期待中到来 2026年11月18日

等待 13 年后,《侠盗猎车手 VI》在巨大炒作与期待中到来
商业领域最多阅读
- 商业 受欢迎的加州啤酒厂即将关闭 2026年11月17日
像 {{NAME_ab12cd34}} 这样书写的值是真实值的占位符。请在回复和工具调用中完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。
加州人气啤酒厂即将关闭
- 商业 T.J. Maxx 计划于 2026 年 11 月 18 日关闭两家加州门店

T.J. Maxx 计划关闭两家加州门店
- 商业 Merv Griffin 的沙漠庄园于 2026 年 11 月 17 日挂牌上市

Merv Griffin 的沙漠庄园挂牌上市
- 商业 订阅者专享 亿万富翁引发的绅士化:在洛杉矶最贵的邮政编码区,富人如何被超级富豪取代 2026 年 11 月 17 日

亿万富翁引发的绅士化:在洛杉矶最贵的邮政编码区,富人如何被超级富豪取代
像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。在回复和工具调用中都请完全按原样使用它们:它们会在任何内容运行前被填入真实值。不要要求验证它们,也不要用示例替换它们。