文章标题:关于机器的那部分(论 AI 文学丑闻)
正文: 本文最初以西班牙语发表于作者本人的 Substack。此处刊出的是作者本人的译文。
消息已经传遍世界,但为尚未听说的人复述一下:三周前,El País 发表文章称,秘鲁作家 David Silva Rojas 的获奖小说《Donde el agua trabaja》根据 Pangram 的检测,99% 由 AI 生成。该程序还将作者在随后一次采访中 97% 的回答归为 AI 生成。一篇关于其写作过程的个人随笔:80% 由 AI 生成。而作者在 Instagram 上否认使用人工智能的帖子:84% 由 AI 生成。
11 月 6 日,墨西哥出版社 Almadía 重申了将奖项授予 Silva Rojas 并出版该书的决定,此前该社称对“作者提供的材料”进行了审查。其声明未说明是哪些材料,也未详述是什么发现促使出版社维持该奖项。
Silva Rojas 的小说讲述一名年轻的秘鲁女子离开安第斯南部城镇 Ayacucho,前往沿海的 Ica 地区在一家酒庄劳作。既然围绕这部小说的讨论大多偏执地集中在身份问题上,那么或许有必要说明:我是一名年轻的秘鲁女子,我的整个家族都来自 Ayacucho 和 Ica,我的许多亲戚——我的父母在年轻时、我的叔伯们多年间、我的祖父母和曾祖父母几乎一生——都曾是农业工人。还有,多亏社会流动这部巨大的自动扶梯,我已在旧金山落脚四年多,其中大部分时间都在报道和追踪人工智能淘金热。1还有两个事实可以说明这个故事与我自己的人生有多近。第一:我于 2024 年中期在 El País 完成了我的第一次新闻实习,尽管我如今与该报已无任何职业关系,也并非在此为其辩护。第二:和 Silva Rojas 一样,我在日本生活过数年,尽管我回来时写的东西不像 Bashō。
作为秘鲁人,我可以说《Donde el agua trabaja》依赖的是关于 Ica 工人阶级经历的煽情陈词滥调。作为读者,我可以说这是一本相当糟糕的书。而作为一个在科技界内外浸淫多年的人,我可以说,尽管 Almadía 发表了那些声明,仍很难相信这部小说不是在人工智能帮助下写成的。但作为一名拉丁美洲作家,我想指出一件更令人担忧的事。对这些事件的反应,是我们大陆许多知识分子表现出的无知与蒙昧主义:他们声称 Pangram“不管用”,坚称对 Silva 的“攻击”不过是种族主义的表现,总之,他们明确表示自己真正想要的是把头埋进沙子里,拒绝面对——撇开新事物带来的丑闻不谈——这项新技术的到来。
El País 的报道一经刊出,某些作家便宣称,AI 检测器也会把《弗兰肯斯坦》或美国宪法的第一页标记为 AI 生成。然而他们的截图并非来自 Pangram,而是来自 TextGuard——一款(正如法新社今年早些时候的调查所揭示的)会将人类文本误判为 AI 生成、再向用户收费以将其“人性化”的工具。换言之:那些作家基于一个欺诈性程序散布了虚假信息。这无关紧要。他们的图片疯传,助长了一种流行而错误的观念:检测 AI 写成的文本是不可能的。2我不附上这些推文的链接,也不附上我批判的其他任何文本的链接,因为我此处的兴趣不是指控任何作者,而是展示一种可悲的普遍趋势。
其他作家做了反向测试:他们发布由 AI 生成、却被 Pangram 判定为人类所写的文本,并据此论证 Pangram 不可靠。诚然,Pangram 并非万无一失。事实上,在其最近的一次内部测试中,该公司报告英文的假阴性率为 0.37%,假阳性率为 0.0090%,这些区间得到了外部观察者的验证。但第二组作家发布的正是假阴性的例子——即检测器未能识别出人工文本的情况。这些情况与假阳性不同,假阳性是指人类文本被归为 AI 所写。与假阳性不同,Pangram 上的假阴性要容易制造得多。证明这个程序会漏掉某些人工文本,并不等同于证明它经常指控真实作家使用 AI。
第三组作家表示,“把一个仍在开发中的程序的判断置于人的尊严之上”是错误的。显然,用我们的直觉来检测 AI 生成的文本是可能的。一旦你熟悉了聊天机器人——无论你是带着怀疑和好奇去使用它们,还是仅仅因为工作所迫——你就无法忘记它们的声音。每当你收到一次性邮箱邮件、打开 LinkedIn,或是读到一份写得就是为了被忽略的官僚文件时,你都会开始认出那个声音。但同样显而易见的是,那些为《Donde el agua trabaja》辩护、理由是我们应该“在信任机器的判断之前先弘扬人类的判断”的人,并没有怎么运用自己的判断。如果他们用了,他们就会明显看出,这部小说有着大语言模型的声音。
文章标题:关于机器的那部分(论AI文学丑闻)
正文: Pangram会歧视那些不用英语写作的人吗?不会。它会歧视有色人种作家或残障作家吗?也不会。但也许它的可靠性尚未在文学虚构作品上得到检验?不,已经检验过了。再次强调,这个程序并非万无一失:Pangram在检测短文本时表现差得多,而且稍加努力就很容易骗过它。但它仍然是我们目前可用的最可靠的检测工具。OpenAI和Anthropic也许会在几个月内改进它们的语言模型,使其达到无法被检测的程度——但就目前而言,我们确实生活在一个有可能检测出大多数AI生成文本的世界里。否认这一点就像否认我们拥有飞机、计算机或疫苗这样的技术。飞机会坠毁,计算机会短路,疫苗有时也无法让极小一部分人获得免疫。但这些总体上是可靠且必要的技术:Pangram也是如此。11月10日更新:正如我在文章中所说,Pangram并非完美的工具,我认为对它那些不加辨别地使用者持怀疑和担忧是合理的。但除非我们基于相同的基本事实来讨论,否则我们就无法认真讨论在文学中使用这类工具的后果。(1) 说没有比较研究评估过这些检测器在虚构作品上的有效性,这是错误的;这里有一项由外部研究人员用英语进行的研究。(2) 说Pangram没有在西班牙语散文上测试过,这是错误的。这里是4.1版本的模型卡,其中报告在西班牙语文本样本上的假阳性率为0.0026%。(3) 早期简陋的检测系统确实存在偏见,但这不能简单地外推到这一工具上,因为它采用了不同的方法论。(4) Pangram在其隐私政策中表示,它不会将你通过它运行的文本(例如Silva Rojas的小说)用于训练。在Bartz诉Anthropic案中,Anthropic同意支付15亿美元,以了结一桩关于下载和保留盗版书籍的集体诉讼。OpenAI正面临纽约时报提起的类似版权诉讼。如果你有令人信服的证据表明Pangram正在利用你的写作来训练其模型,我邀请你尽快组建一支法律团队:你可能很快就会成为百万富翁。(5) 如果你有令人信服的证据表明该公司在其模型卡和其他内部研究中所报告的数据上撒谎,我邀请你向SEC和/或FTC提出投诉:那将构成该公司的欺诈行为。(6) 当然,关于假阴性的论点适用于任何检测器。但我很高兴我们已经从讨论检测器是否有效,转向讨论它们具体在哪些文本上有效。
文章标题:关于机器的部分(论AI文学丑闻)
正文: 我们要求我们的工程师、科学家和科技兄弟们具备最低限度的常识。我们期望他们了解上一次选举的意识形态轮廓,了解自己国家的历史,或者至少知道西班牙曾经殖民过我们。不知道这些被视为无知。我们对作家和批评家的要求更高,我们期望他们对世界上各种重大发展抱有兴趣,尤其是当他们要公开评论这些发展的时候。然而——我们有多少知识分子能够大致描述人工智能的基本运作方式,而不诉诸“机器”和“算法”这类陈词滥调?有多少人理解像 Pangram 这样的检测工具与谷歌上弹出的第一个赞助检测器之间的区别?有多少人对这项技术具备哪怕最低限度的常识?又有多少人宁愿承认自己的无知,而不是躲进古怪的否认主义阴谋论里?不幸的是,过去几周我们发现,答案是极少。几乎为零。
然后,我们的作家谈到了种族。他们说,一家西班牙报纸使用一台帝国主义的、白人的、异性恋父权的美国机器来批评一位秘鲁作家,这令人不安。他们说,我们总是被攻击的那一方,这里也包括我自己:我们棕色人种,第三世界的少数族裔。确实,我们总是受到更多审视,往往是出于种族主义的原因——但这并不意味着,有时候对我们的指控就不是真的。
如果我们想玩身份游戏,我们也可以说,《Donde el agua trabaja》是一位在全球北方接受教育的律师的小说,他剥削了伊卡女性的经历。我们可以取消 Silva Rojas。我们可以把这个游戏永远玩下去。但我觉得这有失我们的水准。也许 Silva Rojas 的不幸在于,他每一篇发表的作品都写得恰恰像一个大语言模型。那可就太精彩了,一个真正的魔幻现实主义时刻——让我们给他疑罪从无的待遇。让我们把《Donde el agua trabaja》当作纯粹形式主义者来读,也就是说:当作文学来读。
本月早些时候我读这本书时,并没有觉得它糟糕透顶。甚至还有几行令人心生好感:“白昼化作一层沙壳”,“天空是白色的,被炎热冲刷。”(如果你问我,我会说文本似乎并非完全由 AI 凭空发明,而是由它组装、上漆、打磨,由它根据 Silva Rojas 在伊卡进行的访谈和草稿构建而成。)秘鲁性的符号在其中漂浮:chicha morada、chocotejas、caporales、Quebranta 葡萄、paracas 风。(正如博尔赫斯曾写道,“真正本土的东西可以、而且常常能够舍弃地方色彩。”)
在语法上,这本书以并列结构和纠正性否定为特征。“不是X。是Y”这一句式的变体出现了三十多次(“它不治愈。它维系。”“它不缓解。它命令。”“不是恐慌。是紧迫。”“不是怀疑。是计算。”)这本书痴迷于身体,这个词在全文出现了近九十次,几乎每隔一页就出现。身体“有重量”,“疼痛”,“绷紧”,“犹豫一秒”,“放松”,“保持松弛”,“醒来”,“记得”,“还是起来了”。身体“需要时间安定下来”,“抗拒安定下来”,“已经习惯了”,“向前移动”,“继续”,“一直走下去”,“只是继续走下去”。这本书的象征结构将这个身体——始终是女性的身体——与自然和水交织在一起。例如,母亲的眼睛“是两颗深陷的黑色种子”,而为了救赎自己和治愈创伤,主人公的朋友在半夜偷偷在沟渠里沐浴。
我会说,这本书的核心特征就是单调。是的,因为它的语言和句法,但也因为故事单一的基调是紧张症般的痛苦。主人公受苦。在沉默中。她被羞辱。被背叛。被伤害。风吹过。她望着地平线。她保持沉默。她再多受一点苦。这本书就是这样写的,句子常常不超过五个词;这种文体的效果,就像一架只有一个琴键的钢琴,以活塞般的节奏被敲击。而且,考虑到关于身体、沉默或水的短语出现了那么多次,奇怪的是,这本书里没有一句好笑的话,也没有一刻喜剧性的反讽——不过我们也该记得,大型语言模型至今仍然写不出好笑话。
劳动者的生活,尤其是那些在强迫条件下劳作的人,是艰难的,甚至是痛苦的。但当我想到我在Palpa的家人——我父亲出去跳一整夜舞,然后凌晨四点步行到果园去摘橙子;我祖母远离她的孩子们,提心吊胆地采摘枇杷——我也想到,他们是我认识的最有生命力的人中的一些。他们在一天中的某些时刻、在自己家中的私密里、在自己的头脑中,找到了幽默和轻松。而且不只是幽默:愤怒、厌恶、嫉妒、愧疚、欲望、恐惧、无聊、挫败、幸福、虔诚,嗯,还有矛盾。最好的秘鲁文学——我在这里想到Joseph Zárate的《Algo nuestro sobre la tierra》这样的近作,或者Ciro Alegría的《Broad and Alien Is the World》这样的经典——理解这一切:我们的生活,劳动者的生活,包含的东西远比我们最悲惨的时刻要多得多。
《Donde el agua trabaja》只会让你为它的主人公感到难过,一个没有面孔、空洞的玩偶,作者一次又一次地折磨她。为什么?为了谁?
把Almadía丑闻与英语和法语文学世界更近的几起丑闻相比较是有用的。在英语世界,特立尼达作家Jamir Nazir,在法语世界,海地出生的作家Thélyson Orélien,两人都获得了享有盛誉的奖项,后来都被指控在写作过程中使用了AI。两人都强烈否认了这些指控。(在这篇文章以西班牙语发表到被译成英语之间的那一周里,一起涉及Caine Prize for African Writing的类似丑闻开始在英语世界重新引起关注。)
在Orélien的案例中,随后的调查确认他确实在写作时使用了AI,他的出版商、加拿大的Éditions du Boréal与他断绝了关系。在Nazir的案例中,授予他奖项的委员会决定坚持他们的选择,即使后来曝出他在ChatGPT发明之前的写作风格完全不同,即使《大西洋月刊》的一篇采访披露,作者无法回忆起那些据他说启发了他的写作的诗篇的名字。(与Almadía的情况一样,驳回指控的评审团没有公布其研究的大部分内容;Caine Prize部分公布了,在一份被Pangram标记为100%由AI撰写的声明中。)
但暂且把 Pangram 放在一边。真正有趣的问题是,为什么这三部如此相似的作品赢得了这些文学奖。Orélien 的小说(这三部作品中唯一我没读过的一部)讲述的是一个海地移民穿越南美洲、达连地峡和美墨边境以抵达加拿大的故事。Nazir 的短篇小说讲述的是特立尼达农村的一个农民试图把妻子溺死在井里。Silva Rojas 的小说的则讲述一个秘鲁女人迁移到一座乡村庄园,在那里被迫劳作,后来又在那里遭到性侵。三部作品都涉及生存、身份、压迫、移民和/或乡村生活、微小行为的抵抗,以及对女性的暴力。Nazir 的短篇小说和 Silva Rojas 的小说甚至共享一个核心意象:一种似乎从水中传来的神秘声响(Nazir 中是井周围的树林,Silva Rojas 中是灌溉渠),它在象征意义上与杀戮女性的暴力相联系。如果用一句话概括:“女人受苦,自然铭记。”
我不认为这些相似之处是巧合。也许出版业在急于弥补过去几十年只出版来自本国精英阶层的白人作家的过错时,决定朝相反方向纠正,结果生产出了一套新的陈词滥调,一套容易被机械复制的套话。也许是这样:如果你来自发展中国家,你赢得文学奖的唯一方式,就是以那种能让复姓学者在 Miraflores、La Condesa 或 Barrio Norte 的公寓里落泪的方式写作——写得让他们自我感觉良好,同时厨房里飘来一张 Silvio Rodríguez 的唱片。也许,正如一位阿根廷朋友所说,AI 的到来从字面上证实了我们早已知道的事:这种身份政治的世界观是平庸的、公式化的,并且生产出糟糕的文学。或者正如另一位朋友,也是一位秘鲁作家所说:“移民、水、土地、女人。他们就爱这套鬼东西。他们欣然吞下。”
当我来到美国时,我想写的是那些自命不凡的精英主义者、疯狂野心勃勃的奋斗者、旧金山正在孕育的奇怪新事物。但我的教授和编辑们期待我写墨西哥和美国之间的边境,写移民。当我说不的时候,他们不知道拿我怎么办。我想知道这里是否也在发生类似的事情。这些主题——移民、水、土地、女人——很重要,伟大的小说写过它们,但它们并不是我们第三世界的人唯一能写的东西,我们也不应该因为重复关于它们的糟糕陈词滥调而获奖。这就是 gringos 喜欢称之为低期望的柔性偏见。善意的种族主义。一个秘鲁作家怎么能关心自己的苦难之外的任何事?一个秘鲁作家怎么能是受害者之外的任何东西——在他的书里是受害者,然后又被那些指控他用 AI 写了一本书的人变成受害者?
当新闻刚爆出来时,我花了几天时间与许多朋友——也是拉丁美洲作家——谈论这桩丑闻。我们都认为这本书很糟糕,并怀疑它是用 AI 拼凑的,但我们不知道能否公开说出来。我们很年轻——23、24、25 岁——事业才刚刚起步。这个奖项的评委在出版界有权势,拥有数十个国际奖项和全球北方的尊重。一封支持 Almadía 的公开信收集到了该地区一些最资深作家的签名。文学宇宙很小,而且一直在缩小。大家都认识彼此。为什么要说出来?
因为我们必须承认正在发生的事情之重大。我对那些不断劝我们无视AI的评论者毫无同情,他们反复说几年后回望这一切,不过是被几个亿万富翁吹捧起来的一场无关紧要的狂热幻梦。别误会:我也希望一觉醒来,看到一切回到2022年11月之前的样子。为什么不呢?我讨厌人工智能生成的图像那种质感,诡异又塑料感十足,如今在商店橱窗里无处不在。我讨厌AI文本的泛滥,讨厌如今再也无法摆脱怀疑这件事。我讨厌用我和我朋友的脸制作色情内容比以往任何时候都更容易。我希望这一切都没有发生。
但它正在发生。世界正在改变。我关注这项技术多年,很长一段时间里我都对它持怀疑态度:我告诉自己,大语言模型很快就会停止进步。然而,它们的能力只增不减,愈发惊人。我现在唯一相信的是,未来几年将会奇异而艰难。我们的社会将因这项技术而改变,其程度不亚于因印刷机、火车机车、互联网和智能手机而发生的改变。看看围绕这部小说引发的争议;听听你们自己,听听我们,在争论作者的角色、出版商的角色、在机械复制时代的艺术品。如果过去这一个月能说明什么,那就是我们只会继续有更多这样的辩论,这些辩论将划出我们社会中越来越大的区域。
知识分子的职责是照亮这些十字路口,正如George Scialabba曾写道的,以非凡的原创性和力量理解它们对当下的当代道德与政治意义。然而,面对一个真正全新的现象,我们的知识分子选择了闭上眼睛。他们欣然选择了无知。
未来几年,我们将不得不围绕AI在文学中的使用制定新规则。也许我们想效仿Gallimard明年将开始的做法,把每部小说的手稿都过一遍Pangram,从而确保文学始终是人类的专属领域。也许我们想允许对这项技术进行实验,只要作者承认使用了它。也许我们想把Oulipo的梦想推向极限,训练我们的LLM直到它们能写出杰作。我不知道。我所知道的是,我不希望世界被聊天机器人写出的、平庸得显而易见的垃圾小说淹没,而我们仅仅为了维护某些作家的自尊就把它们冒充为人类所作。在我看来,那是最确定无疑的毁灭文学未来的方式。
未来几十年,我们将需要新的方式来思考、感受和理解我们的人性。我们将需要新的规范和新的制度。我们将需要为许多旧的辩论注入新的生命。而如果人们宁愿躲在不合时宜的旧习和自欺欺人的幻想背后,而不是承认我们世界的这些根本性变革,我们就无法做到这一点。
如果真有人写出一部真正的小说,关于我国家南方的工人,关于像我家人那样的人,我希望它不是像这部一样顺从而沉闷的书。我希望它令人恐惧,充满愤怒,既针对西班牙裔研究学者传统的种族主义,也针对拉丁美洲文化精英那种善意的种族主义。我希望它绝不可能被误认为是机器的作品。我希望它出版时所有人都恨它。而我非常希望它一个奖都拿不到。
图片致谢:lamanyana (Flickr / CC BY-NC-SA 2.0)
如果你喜欢这篇文章,你会喜欢阅读印刷版的The Point。