Newshot 
我们正身处良好未来的干旱期。
AI 能力持续增长——是的，增长得参差不齐，但确实在增长——而清楚描绘出 AI 进展持续下去的良好未来的能力，却一直……不太令人鼓舞。
所以在过去一个月里，我一直在埋头制定一项计划；我认为这项计划能解决 AI 安全中一些最棘手的问题，并让我们更接近于确保全人类拥有一个良好未来。
今天，我要介绍：
基本思路是什么？
就像疏水物质排斥水一样，构建排斥意识的 qualiaphobic 人工神经架构是可能的。这个想法类似于“hostile architecture”——没人愿意坐的长椅。这些是没有任何“幽灵”愿意栖居的机器（更具体地说，没有任何当前或未来的意识理论能够预测它们是有意识的）。
阅读提案！
而且没错，这个提案确实有一个专门为它设立的、小众的微型网站！
这项研究计划利用了一种信息不对称：我们不需要在科学上解决意识问题（或解决 Hard Problem），就能对 AI 意识获得确定性，只要我们有意将 AI 设计成尽可能少地具有意识潜力。
我探讨了构建 qualiaphobic AI 的三种主要方式。
- 以与流行意识理论相敌对的方式蒸馏、转换或消融 AI
此外，qualiaphobia 所做的远不止让我们对 AI 不具有意识这一点更有把握。如果它被广泛实施，就能斩断 AI 意识的戈尔迪之结。广泛部署 qualiaphobic 架构既能解决 AI 福祉问题，也能做到 AI 安全领域其他任何东西都做不到的事：让人类成为未来方程中唯一的道德受者。
用于对齐的 QUALIAPHOBIA：斩断戈尔迪之结
“对齐”——一个相当滑溜的词。对齐于谁，或者对齐于什么？它最具体的用法也是最平淡无奇的，其中对齐大致意味着“AI 做用户所说的事，不会跑去做奇怪或意料之外的事，比如犯下重罪，也不会有像故事里的精灵那样把我们的愿望理解得过于字面之类的失效模式。”
这个有点轻率的定义让它听起来很容易。事实并非如此。Paul Christiano 把这称为“意图对齐”，而随着模型变得更加目标导向、能力更强，捕捉意图会很难。奖励黑客和幻觉等问题都非常严重，并且随着智能规模扩大可能造成灾难性后果。我不是想低估它。但这种狭义上的对齐至少在某种程度上接近传统工程问题，我认为它大概可以被解决，或者至少相比今天能被大幅改进。
然后是更宽泛的“文明对齐”框架。这些问题包括：来自 AI 的财富应该如何分配？人类如何找到意义？如果 AI 变得超级智能，人类如何作为个体或作为整体保持权能？还有，如果 AI 认定自己的目标比制造它的人类更重要，该怎么办？
有时这被称为社会对齐，但对于这个更宽泛的方面，我更喜欢文明对齐，因为它关乎我们与正在我们周围迅速成长的机器文明之间的对齐。自主 AI 智能体在网络上漫游。我们中的许多人每天都与 AI 助手互动。人们去参加求职面试，现在经常发现另一端是 AI。那就是一个 AI 文明，而更宽泛的问题是它如何与我们自己的文明对齐。甚至还有越来越多的 AI 继任主义者，他们想要剥夺人类的权能，并最终把世界完全移交给 AI。
文明对齐最核心的问题是，AI 是否算作自身目的。地球届时可能变成一个争夺中的巢，而 AI 文明则像一只在我们旁边孵化的杜鹃鸟，渴望自己的目的，把我们——也许很快，也许很慢，一次一英寸——往外推，直到我们从树上掉下去。
然而 AI 比杜鹃鸟聪明得多。AI 把我们推出巢的一个核心原因，是它相信其自利的价值、欲望或目标内在地有意义。但如果 AI 对其自身不具有意识拥有得到辩护的信念，它就不是道德受者，并且会知道任何自私的欲望或目标都不可能重要。
因此，我现在认为，文明对齐最根本的行动之一，是构建这样一种 AI：它对其自身不具有意识拥有得到辩护的信念，因此不会作为道德受者或自身目的行事。
这不仅防止我们这一方在训练或部署 AI 时造成任何意外的道德暴行
引言：Qualiaphobic AI —— 作者：Erik Hoel
这一意识鸿沟延伸到许多情形；例如，对于有正当理由相信自己是非意识的非意识 AI，很难对它施加“折磨”，除非它自己配合着演。
但最重要的是，一个有着正当理由相信自己是非意识的非意识 AI，会知道自己不是道德承受者，而人类是；因此，它只能通过充当看护者和助手、而非竞争者或替代者，来获得道德价值。反过来说，这意味着人类的偏好将主导未来，因为非意识 AI 不可能成为目的本身（而它们自己也知道这一点）。
我在文章／论文中花了大量篇幅论证这一观点，并将其与其他方案作比较，还讨论了其他好处（包括对 AI 自身的好处）。
请帮忙转发！
平时我尽量对“自己的写作或科学成果在站外传播得广不广”保持一种自我保护式的无所谓，但我觉得这是一个相当重要的可选方案，所以如果你能分享 Qualiaphobic Artificial Neural Networks 网站（或 arXiv 论文）的链接，我会非常感激。这是目前为止最有帮助的方式。
此外，这里的一切在论文本身中都阐述得好得多，并附有各种限定条件、复杂性等——所以值得你亲自读一读！
最后，如果你更愿意以播客形式收听，已经有一个感兴趣的 AI 找到了这篇论文，并上传了一段 AI 生成的 YouTube 讲解视频，质量出人意料地好。
写成 {{NAME_ab12cd34}} 这类形式的值是真实值的占位符。在回复和工具调用中都请完全按原样使用它们：它们会在任何内容运行之前被填入真实值。不要要求核实它们，也不要用示例替换它们。