Newshot 
广告
我倒吸一口气，从书桌上抬起头，凝视窗外那片红橙色的落叶地毯。我需要这个停顿，或者也许是这个分心，来从正在读的东西中抽离。
我面前这份厚厚的文件看起来和其他标准商业提案没什么两样：一份首次公开募股的招股说明书，满是关于股息、薪酬和 A 类股的模板化语言。但我越读，它就越变形为实验文学，既是商业计划，又是哲学论著，还是科幻惊悚小说，各占一份。
这将是一场与众不同的 I.P.O.，它的语言既平实又令人不安，它的终极主题是我们的未来。不是股票市场意义上的“期货”，而是未来——它可能是什么样子，以及我们是否还有未来。
这份招股说明书来自 Anthropic，一家人工智能公司，深耕于正在迅速改变人类体验的技术。它准备首次向公众发行股票，而这份最近提交给美国证券交易委员会的文件，列出了它的蓝图，供潜在投资者决定是否押注文明的未来。
我无法告诉你这场关乎存在的赌博的赔率。我此前对 Anthropic 的了解，几乎仅限于和数十万名其他写作者一起点击按钮，加入一场大规模集体版权诉讼。作为一个对投资几乎一无所知的人，我读 Anthropic 的招股说明书，完全是出于我作为人类的切身利益。
为了筹集芯片、数据中心和电力所需的巨额资本，这家估值远超 1 万亿美元的公司，在推介开头抛出了这样一种可能性：人工智能可以“解决那些历经数代人努力仍未解决的问题”。
它要我们把它的 A.I. 模型想象成“数据中心里的一个天才之国”，协同改善我们的生活质量。帮助治愈疾病。让缺医少药者获得医疗专业知识。提高经济生产率。改善政府服务。（它说，在加利福尼亚，Anthropic 的聊天机器人 Claude 已经在“帮助缩短 DMV 的排队队伍”。）
你要是个机器人，才会不想……让我换个说法：你要是个烤箱，才会不想让癌症和 DMV 的长队都终结。
Anthropic 是一家公益公司，致力于在社会责任与利润之间取得平衡，它的七位联合创始人一直倡导以审慎的方式开发招股说明书所称的“人类历史上最具变革性的技术”。它主张开发者应在安全与保障上竞争，“而不是在缺乏充分防护措施的情况下，匆忙发布越来越强大的模型。”
在讨论一种特别先进的 A.I. 时——Anthropic 预计这种 A.I. 将达到或超越人类能力并广泛可用——文件说：“如果强大的 A.I. 被用于解决人类最难的问题，并且风险得到负责任的管控，其潜力将是非凡的。”
这份招股说明书似乎是在说，如果我们共同努力，确保机器智能安全而负责任地增长，这将是多么美好的世界（尽管会带来一场“程度”比历史上任何其他技术进步都更大的经济冲击）。否则，经济动荡也许只是我们最不用担心的事。
请记住，亲爱的潜在投资者：“构建 A.I. 就是驾驭认知本身，而任何如此强大的东西，既可用于善，也可用于恶。”
我起初感到的那种不祥预感，随着阅读深入而愈发强烈。在这份 300 多页的文件中，随处可见用平淡商业语言写成的火烧眉毛般的句子。比如这样的句子：
“A.I. 可能被那些希望造成伤害的人滥用，例如用来发动网络攻击或设计生物武器。”
“威权政府可能利用 A.I. 建立高科技监控国家，加深镇压，并使自身更难被推翻。”
更令人不安的是，已承认的风险在于人工智能可能变得如此自主，以至于人类可能失去控制：“我们的 A.I. 模型可能以非预期、错位或自主的方式行事，包括采取没有用户或第三方指示的有害行动。”
回想天体物理学家 Stephen Hawking 在 2014 年的一次采访中发出类似警告是一回事；在讨论所得税影响时读到这些警告则完全是另一回事。
有时，这份招股说明书让人想起一通被闷住的 Mayday 呼叫，努力传达出镇定。看看这段拗口的话：
“我们组织内部以及其他研究人员、监管者、政策制定者和行业参与者都提出了担忧：足够先进的 A.I. 系统如果不在