文章标题:Jonathan Swift vs. AI
正文: 我人生中相当一部分时间都在研究爱尔兰讽刺作家 Jonathan Swift——尤其是研究《格列佛游记》,这本书今年迎来出版300周年。在撰写博士论文期间,我主要感兴趣的是 Swift 对旅行政治的论述。如今,作为一名教授加拿大政治、并努力将生成式人工智能挡在课堂之外的高校教授,我常常思考 Swift 对技术的看法。在他那个时代,一如我们这个时代,一种主流叙事将科学发展描绘成既仁慈又不可避免之事。Swift 对这种叙事的怀疑,揭示了我们自身一些最深层的、关于进步之意义的假设。
Swift 于1667年生于都柏林,常被描述为英语世界最伟大的讽刺作家。这一声誉与他散文、诗歌和政治著作中那种尖刻的机智与不羁的想象力密不可分。在《一个小小的建议》(1729年)中,他臭名昭著地提议爱尔兰穷人应吃掉自己的孩子以维持生计。Swift 出身于盎格鲁-爱尔兰新教精英阶层,该文既讽刺了他所属阶级的冷酷无情,也讽刺了当时日益抬头的一种道德与政治取向——这种取向认为生活的方方面面都可以被熬煮成一个纯粹的数字。这种方法最终在董事会和政府大厅中占据主导地位,正是《一个小小的建议》虽简短却令人震惊、至今仍能打动读者的原因之一。
《格列佛游记》篇幅要长得多。在格列佛四次前往奇幻国度的航行中,Swift 向读者呈现了政治腐败与人类傲慢的狂野而多样的图景。格列佛的第三次航行带他来到飞岛 Laputa,该岛对其下方的若干属地实行暴虐统治。在造访其中一块属地时,格列佛参观了“Lagado 科学院”,在那里,科学实验以及破译数学与音乐的模式被看得高于一切。他遇到的科学家们丝毫不关心他们的实验是否有任何有用的结果。
在互联网渗透日常生活几乎每一个方面之前的数个世纪,Swift 就描述了科学技术进步如何可能通过制造对“可能是什么”而非“是什么”的执念,导致长期的注意力涣散。
在 Swift 写作的时代,我们今天所知的实验科学方法——数据收集以及从经验证据中提出假设——正因 Sir Isaac Newton 和 Royal Society 的工作而变得突出。批评者和读者常常认为,格列佛的第三次航行是 Swift 选错了讽刺对象的时刻。毕竟,Newton 和 Royal Society 的成就至今仍受颂扬。但我认为 Swift 完全清楚自己在做什么。Swift 远不只是对着新科学举起一只反动的拳头,他识别出了一种至今仍然存在的态度——这种态度造成了教育者如今面临的许多最大挑战。
在互联网渗透日常生活几乎每一个方面之前的数个世纪,Swift 就描述了科学技术进步如何可能通过制造对“可能是什么”而非“是什么”的执念,导致长期的注意力涣散。Swift 诊断的核心是思辨(speculation)这一概念,或者如格列佛所描述的,“思辨性学问”(speculative learning)。格列佛看到一个完全被不切实际且抽象的科学探究所吞噬的社会。这表现为种种怪异且往往注定失败的项目和实验:格列佛难以置信地目睹人们试图从黄瓜中提取阳光,以及把排泄物重新变成可食用的食物。
文章标题:Jonathan Swift vs. AI
正文: 并非拉普塔境内所有的科学项目都未能达成其目的。格列佛被展示了一台大型木制装置,它能让“最无知的人……在毫无天赋或钻研相助的情况下,写出哲学、诗歌、政治、法律、数学和神学方面的书”。斯威夫特学识渊博,他设想的是一个噩梦般的世界:读写——才智与智慧的根本基础——被一种浮华的人类知识仿真所取代。自ChatGPT问世以来,这一场景已变得再熟悉不过。格列佛遇到的这台装置体量庞大,需要40个人转动连接着多个词语的铁柄,这些词语随后被拼装成句子片段,再向一名抄写员喊出。读着斯威夫特的描述,我既想到现代大型语言模型的自动补全特性,也想到那个 precarious 劳动者底层群体——生成式AI那看似精简、看似全数字化的流程要运转,离不开他们的劳动。
斯威夫特对拉普塔弊病的犀利诊断,正激励我抵制AI对教育工作的侵蚀——并向我的学生灌输这样一种信念:是他们,而非技术的力量,能够决定未来。
拉普塔还有许多居民沉溺于一种奇特的精神生活,“如此专注于剧烈的思辨,以至于若不借助某种外力触碰其言语和听觉器官,他们既无法说话,也无法注意他人的交谈”。名为“拍击者”的仆人必须在他们耳边摇动响板,以防他们跌倒或撞上东西。若有必要交谈,也可用快速摇动响板的方式将他们从思辨抽象的梦游深渊中唤醒。这听起来又相当熟悉。当然,如今低头走在街上、沉浸于手机无尽干扰中的人们, hardly 专注于精神生活——但他们仍然缺席于周围的事物和人。而对刷屏的沉迷,不也正是建立在某种揣测之上吗?接下来会是什么?如果我再多看一条帖子,会看到什么?
现代技术,尤其是AI,造就了另一个拉普塔:一个以投机泛滥、对受愤世嫉俗的骗子操纵的技术的盲目信仰,以及对真理、美、想象力 and 艰辛获得的知识等老派美德的随意漠视为特征的社会。在许多情况下,AI进入课堂是在为一个问题寻找解决方案——就像拉普塔科学家那些荒诞无意义的创新一样。斯威夫特对拉普塔弊病的犀利诊断,正激励我抵制AI对教育工作的侵蚀——并向我的学生灌输这样一种信念:是他们,而非技术的力量,能够决定未来。
在高等教育中,正如在生活的许多领域一样,我们被告知AI带来的进步不可避免。正如技术理论家Jathan Sadowski所指出的,技术布道者们将任何抵制这种所谓进步的人——也就是任何像我这样的人——描述为“未来的敌人”。
2022年,我任教的其中一所机构发布了一份文件,概述了一项多年期AI计划的目标。它将AI确定为“彻底变革大学教育”的途径。为什么彻底变革大学教育是必要或可取的?文件没有说。谁敢质疑这一据称无关政治且不可避免的发展,以及它可能如何与我们向学生传授人文教育的目标相交汇,谁就要倒霉了。
这种人文主义的核心是对自我修养的道德责任的信念。同样必不可少的,是在努力理解和掌握新知识的过程中所产生的富有成效的摩擦。利用 LLM 来抹平与文本搏斗的挑战、为表达一个想法而苦苦寻找恰当词语的挣扎、以及引导自身个人与智识发展的艰辛,与这种教育是背道而驰的。
在那些对 AI 感到好奇的教授之外,还有一些人根本不想在自己的课堂上与这项技术有任何瓜葛。他们成了追踪猎物时的猎犬,对每一个小标题、每一个破折号和每一处虚假的横向关联都猛烈地嗅探。
“突破性技术为那些学会掌握它们的人带来巨大的回报,”我所在学院的这份文件继续写道,“但对于那些被变革浪潮裹挟、却对整体格局缺乏基本理解的人来说,同样会带来可怕的后果。”事实上,恰恰是 AI 乐观主义者缺乏对整体格局的基本理解。他们看不到 AI 给教育带来的可怕后果。早在 1704 年,Swift 就担忧同时代人逃避学习的苦功,转而背诵他们不懂的语言中的引语,或者卖弄他们没读过的书名。“我们这个时代已经发现了一种更简短、更审慎的方法,可以成为学者和才子,而无需阅读或思考的疲惫,”他在《桶的故事》(1704 年)中写道。如今,AI 在教育中的常态化告诉学生,他们不应该经历阅读或思考带来的疲惫或困惑。布鲁金斯学会普及教育中心最近的一份报告指出,将 AI 引入课堂有许多潜在好处,例如在第二语言习得方面以及帮助残障学生方面。即便如此,该报告得出的结论是,风险大于这些好处。报告还指出,经常使用 AI 会导致对该技术的依赖:学生们每天都在训练自己,在自己专注、推理、创造力和解决问题的能力尚未充分发展之前就将其交出。
教授们以不同方式回应 AI 的无处不在。有些人表现得像那个监督孩子吸毒的酷家长。这些教授将所谓负责任的 GenAI 使用方式纳入作业,比如让学生把课程文件上传到 LLM 中,让它生成可能的考试题目。其他教师则乐于告别那种逐行陪学生打磨文章、帮助他们磨炼自己声音的迂腐苦差。何必费这个劲呢,既然 AI 那种打磨得光滑、毫无语调的风格几秒钟就能得到?但在那些对 AI 感到好奇的教授之外,还有一些人根本不想在自己的课堂上与这项技术有任何瓜葛。他们成了追踪猎物时的猎犬,对每一个小标题、每一个破折号和每一处虚假的横向关联都猛烈地嗅探。或者他们改变了教学和评分方式,把带回家完成的作业改造成课堂内的笔试和口试。
有一天,我怒火中烧,大发脾气,说加密货币毫无实质内容,任何有点精明的人不过是希望当账单到期时自己不会被套牢。……一名学生插话说,几节课之前,当我正在剖析关于魁北克主权的那次首次公投的战略与战术时,他通过交易 $MELANIA Coin 赚了 8,000 美元。
并非没有些许疑虑,我还是选择了最后这一种做法:在教室里全面禁止手机和笔记本电脑,并且不再布置任何在我视线之外完成的作业。为了避免学生把我的教学材料喂给 LLM(从而无意中训练了我的宿敌),我几乎完全放弃了 PowerPoint,转而依靠粉笔和讲授。这对学生和我都提出了更高的要求。有些人痛苦地表示希望 PowerPoint 幻灯片回归。(这类幻灯片可以上传到课程网站,供学生随时重温,从而降低课堂上走神或查看设备的代价。)但我打算坚持下去。我深切地意识到,长达十年的智能手机成瘾已经对我自己的专注能力造成了怎样的影响。