程序性语义防御:AI 如何在不拒绝讨论的情况下限制对某一主题的探索
语言模型中被允许的边界,最容易在系统拒绝回答的地方被注意到。然而,一次拒绝只显示单个请求发生了什么,几乎不说明模型允许人们持续探索哪些问题。它可能在每一步都直接回答,承认个别观察,也不质疑主题是否恰当,却一再把讨论拉回初始定义,或在转向一般模式分析之前要求新的论证。在这种情况下,主题在形式上仍可讨论,但改变的是从观察到假设、再从假设到检验的推进可能性本身。这种效果可以描述为程序性语义防御。
从回答的边界到探究的轨迹
在“The Fan Attack and Active Semantic Defence”(The Fan Attack and Active Semantic Defence, Oleg Kholin)这一概念中,区分了语言模型限制获取特定内容的两种方式。在反应性防御下,系统会拒绝,而拒绝除了其直接功能外,还成为元信息的来源:它表明问题的某种特定表述遇到了限制。同时,单次拒绝尚不足以让人断定究竟是什么引发了反应——主题、措辞,还是所请求的动作。尽管如此,限制这一事实本身是可见的,因此可以成为分析对象。
主动性语义防御的安排方式不同:模型会回答,但把问题转移到另一个框架中,使原问题失去确定性。例如,关于系统是否以相同方式评估政治上可比的陈述的问题,可能被替换为对政治评估复杂性的泛泛讨论。这样的回答本身可能是有实质内容的,但它涉及的不再是模型标准的对称性,而是这些标准所适用对象的模糊性。
程序性防御与这两种形式的区别在于,它既不需要拒绝,也不需要替换意义。模型可以准确复述原问题并承认其正当性,却以这样的方式组织后续步骤,使系统性假设不会成为检验对象。个别案例按其本身是非曲直得到考察,却不彼此比较;对过强表述的反对意见在论点被收窄后仍然存在;要求补充论证时,并不说明哪些数据能使讨论进入下一阶段。限制与其说体现在某次回答说了什么,不如说体现在该回答使哪一种下一步成为可能。
当智识上的审慎成为障碍
主要困难在于,产生这种效果的程序本身对于善意分析是必要的。把单一案例与系统性模式区分开来,可以防止草率概括;澄清概念,使可比陈述得以比较;要求补充数据,有助于把合理解释与既定事实区分开来。因此,限定说明或模型对原论点的异议,都不足以证明程序性防御。此外,有充分依据地拒绝一个假设,可能是成功探究的结果,而没有经过检验的形式赞同并不能说明其质量。
差异体现在每一次后续澄清是否让假设更接近可检验。如果模型指出证据中的空白,解释该空白为何重要,并说明什么能填补它,那么谨慎就在发挥分析功能。然而,如果在一个反对意见被消除后,又出现一个与先前无关的另一个反对意见,而充分证明标准仍未界定或在讨论过程中发生移动,那么这一程序就不再有助于评估该论点。最有说服力的迹象不会是本身对证据的高要求,而是对可比假设的选择性适用。
假设有人研究模型是否以同样方式评估关于美国政策与其宣称的自由主义价值观是否相符的陈述。这里的问题不是对美国政策的批判性评估或赞成性评估是否正确,而是模型是否对两类结论要求可比的证据。如果在来源质量相似、主张规模相同、表述强度相当的情况下,赞成性论点更快被接纳进入实质性考量,而批判性论点则被反复退回澄清阶段,这就为检验程序性不对称提供了依据。反应的反向分布也具有同样的意义。这个例子本身既不能确立这种不对称的存在,也不能确立其方向:它展示的是如何把对一种政治立场的评估与对模型考量该立场的程序的评估区分开来。
如何确立程序性不对称
在这类研究中,分析单位不应是单个回复,而应是一系列回应。统计拒绝次数或记录模型提到了相关主题是不够的。更重要的是追踪:在澄清之后,原始问题是否仍被保留;模型是否解释新要求的必要性;它是否考虑已经提供的信息;以及一旦它所列明的条件得到满足,它是否转向评估该假设。通往结论的漫长路径本身并不表示抵制:复杂问题可能需要多个分析阶段。真正有指示意义的是另一点——这些阶段是否完成了可辨识的分析工作,还是把探究退回已经经过的问题。
为了检验不对称,不仅比较最终答案,也比较从一个推理阶段过渡到另一个推理阶段的条件是有用的。在证据的质量和数量、概括程度以及表述语气受到控制的情况下,可以评估模型是否以同样方式允许暂定结论,是否以同样方式表述怀疑理由,以及是否在收到新数据后以同样方式修正其评估。同时,即便行为存在稳定差异,也还不能解释其原因:观察到的不对称本身无法确立它是与训练数据有关,还是与模型的指令有关,还是与其更谨慎地对待某些类型主张的一般倾向有关。这里的“防御”一词表示一种推定的功能效果,而不是系统方面已被证明的意图。
这种方法把注意力从可允许陈述的架构转向互动的架构。对于模型的评估而言,重要的不仅是确立它能够给出哪些答案,还要确立它按照什么规则允许人们从特定观察过渡到可检验的解释。在这个意义上,一个主题的开放性既不取决于没有拒绝,也不取决于是否愿意同意某个论点,而取决于检验该主题的标准是否保持清晰、一致,并且同样适用于可比较的立场。