Newshot

史上最大规模IPO在即,Anthropic的“好人”声誉面临考验

AI summary

今天是Anthropic的新起点:一场酝酿多年的IPO超越SpaceX,成为史上估值最高的IPO,募资813亿美元,为其他即将上市的AI实验室开创了重要先例。但这不仅仅是财务上的里程碑。Anthropic创立时的理念是比其他实验室更重视安全,其创始人此前离开了OpenAI的研究高管职位。然而随着AI竞赛加速,其高管强调Anthropic只有做到第一名才能完成这一使命,而这需要大量资金和算力。

Translation(model translation, not the source's own text)
STK202_DARIO_AMODEI_CVIRGINIA_D
STK202_DARIO_AMODEI_CVIRGINIA_D

今天是 Anthropic 的新起点:一场酝酿数年的 IPO,其规模超过了 SpaceX,成为史上估值最高的 IPO,募资 813 亿美元,也为后续其他公开上市的 AI 实验室开创了重要先例。但这不仅仅是一个财务里程碑。

Anthropic 创立时的理念是,它比其他实验室更重视安全;其创始人此前离开了 OpenAI 的高管研究职位。然而,随着 AI 竞赛加速,其高管一直强调,Anthropic 只有拿到第一名才能完成这一使命,而这需要大量资金和算力。不出所料,深思熟虑、安全且有意识地开发 AI,可能与赢得这场竞赛所需的那种纯粹速度相冲突。再加上首次公开募股,事情只会更加复杂,而 Anthropic 的领导层几乎可以单方面推进此事。这得益于一种旨在让公司免受股东盈利压力影响的企业结构——但这种结构同时也去除了对其权力的常规制衡。

一位在 IPO 前离职的 Anthropic 前员工表示,他和 Anthropic 的其他人越来越觉得,当前的 AI 开发速度“在正常的市场结构下是不可持续的”,尤其是在一个权力巨大、几乎不受监管的行业中,激励错位的问题尤为突出。

多年来,Anthropic 一直标榜自己与其他 AI 公司不同、比它们更谨慎。理论上,这同样适用于其上市计划。它注册为公益公司(Public Benefit Corporation),这意味着 Anthropic 的董事会有责任在其使命与股东财富最大化之间取得平衡。正如我的同事 Robert Hart 此前所讨论的,它还发展出了一套极不寻常的权力结构。

Anthropic 于 2023 年设立的长期利益信托(Long-Term Benefit Trust,LTBT)及其创始人拥有控制性投票权,这意味着即使作为上市公司,他们也永远不可能被股东投票赶下台。一类特殊的股票——T 类股——允许一小群受托人(即 LTBT 成员)拥有“选择和罢免部分”Anthropic 董事会成员的“权力”。他们不受典型股东压力的影响,理论上是对创始人的一种制衡,其使命是“在我们预计决策后果将远远超出 Anthropic 本身的关键时刻,平衡我们股东的财务利益与我们 的公共利益目标”。

现实要复杂得多。例如,LTBT 在技术上选择 Anthropic 七人董事会中的四名成员,但这四人中的一人实际上需要得到 Anthropic 创始人的批准,这使得该信托无法实现直接的多数控制。此外,关于提名或罢免董事还有附加规定:LTBT 必须提前 30 天将其决定通知公司的“提名与公司治理委员会”,该委员会由三名成员组成:联合创始人 Daniela Amodei(担任委员会主席)、Netflix 联合创始人 Reed Hastings,以及 Anthropic 投资人 Yasmin Razavi。

随着史上最大规模 IPO,Anthropic 的“好人”声誉岌岌可危

尽管 LTBT 成员对公司“没有财务利益”,但也没有什么能阻止 Anthropic 假设性地挖走一名受托人,并付给其高额报酬来为公司工作。Mariano-Florentino Cuéllar(前受托人)于 8 月加入 Anthropic,担任其首席全球事务官,而 OpenAI 过去也曾聘请前董事会成员 Fidji Simo 担任公司内的高管职位。可以想象这样一种情景:如果一名受托人“看起来有点太激进或什么的,他们可以直接向该受托人提供数百万美元的实际报酬,条件是退出信托,这是他们能够对此进行某种监督的一种方式,”Tyler Johnston 说,他是非营利 AI 行业监督机构 The Midas Project 的创始人。

尽管 LTBT 被宣传为一种制衡 Anthropic 领导层的方式,但在一些外部观察者看来,细则看起来并不稳固。“该信托既然在 Anthropic 中没有财务利益,理论上可以利用其对四分之三董事的权力,让公司保持使命,”Ann Lipton 说,她是科罗拉多大学法学院法学教授、公司治理专家。“人们可能会质疑这种情况发生的可能性有多大。”

此外,Lipton 质疑,即使该信托确实拥有这种权力,它是否具备足够的认知来判断何时叫停公司的计划或产品。列出的四名 LTBT 成员并非已知的 AI 专家:他们包括前美联储主席 Ben Bernanke、外交政策分析师 Richard Fontaine、实验物理学家 Christopher Stubbs,以及前 GiveWell 高管 {{PERSON_q

文章标题:With the biggest IPO of all time, Anthropic's 'good guy' reputation is on the line

正文: 作为一家上市公司,Anthropic 在获取资本方面将面临前所未有的压力,无论是通过推动更多收入还是融资。这意味着,正如多年来行业的一贯趋势那样,为昂贵的人工智能安全举措提供理由可能会变得更加困难,加快产品发布和商业化的压力也不可避免地会更大。“这份信任和创始人加在一起,才是真正拥有治理权力的一方,”Lipton 说。“所以,你要么相信他们会恰当地平衡社会利益,要么就不信。无论哪种情况,对他们任何社会性冲动的真正约束,都将是 Anthropic 需要钱这一事实。”

Anthropic 一直坦承,它极度需要冷冰冰的硬现金,尤其是为了购买更多算力并加速其人工智能进展。“算力是公司面临的最深层的商业困境,”Amodei 上周五在与 JPMorgan Chase CEO Jamie Dimon 的直播对话中说。“如果你买得太多,当然可能在财务上过度扩张。如果你买得太少,那么你就无法为客户支持推理,更重要的是……你无法做研发。”

Anthropic 的网站将公司的存在理由概括为一件事:“将安全置于前沿的人工智能研究和产品。”但同样清楚的是,要让这一安全承诺真正有意义,Anthropic 需要庞大的资源来维持其业务的可行性。与其他实验室一样,它一直在追求递归自我改进,这是一个有争议且可能危险的行业里程碑,指的是能够自主改进并创造自身高级版本的人工智能系统。“你无法从第二名做安全,”Anthropic 政策主管 Sarah Heck 在九月说。

这一解释并未让所有人满意,包括一些 Anthropic 员工。Anthropic 的保障研究负责人于二月离职,声称“世界正处于危险之中”;其研究人员之一 Jacob Coxon 在九月因声称 Anthropic 和 OpenAI 都在“径直冲向自我改进的超级智能,拿我们的生命赌博”而登上头条;同月,一位 Anthropic 安全研究员离职,前往非营利第三方人工智能审计机构 METR 工作,写道“人工智能公司正朝着向社会施加前所未有的风险水平的方向前进”,并且“虽然 Anthropic 尚未发生像 HuggingFace 攻击 [由 OpenAI 智能体实施] 那样严重的事件,但我认为部分原因是运气。”

周三,人工智能安全中心发布的一份新声明——附有来自 Hugging Face、Harvard University 等机构的知名行业签署人——声称 Anthropic“不是一家安全的人工智能公司”,并试图“以更大利益之名积聚权力”。声明称:“Anthropic 警告说,递归自我改进的人工智能可能集中权力并逃脱人类控制,却又抢先建造它。该公司利用安全品牌形象来讨好投资者、员工和公众——即便它已悄然削弱其安全承诺,并为自私自利的监管进行游说。”

这位前 Anthropic 员工表示,他起初觉得自己“喝下了 Kool-Aid”,相信 Anthropic 需要在人工智能竞赛中拔得头筹才能实现安全结果,但后来逐渐幻灭,意识到这场登顶竞赛并不“值得付出那样的代价”——即,一家公司不应能够“单方面”决定追求 RSI。(Amodei 已公开表示,“如果不加约束,[RSI] 可能超出我们理解和控制这些系统的能力,因此即便要追求,也必须非常谨慎。”)

“私人公司正在建造一种新的智能形式,其势头将比人类在这个星球上更强大、更有影响力,而且在许多方面受到的监督比现在的塔可餐车还少,这相当荒谬,”这位前员工说。

像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。请完全按照写法使用它们,在回复和工具调用中都是如此:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。

史上最大规模 IPO 在即,Anthropic 的“好人”声誉岌岌可危

Anthropic 的网站称:“归根结底,使命才是我们所有人在这里的原因。它赋予我们共同的目标,让我们能够迅速共同行动,而不是被相互竞争的目标拉向多个方向。它促成信任与合作,并且是我们决策的最终裁决者。”问题是,一旦 Anthropic 面临前所未有的压力,需要证明其约 1.5 万亿美元的完全稀释市值合理,对其使命的解读是否会、以及会如何发生变化。

  • Hayden Field

热门内容

  • Grand Theft Auto VI 做到了不可能的事——它没有辜负炒作
  • 首批 Nvidia RTX Spark 迷你 PC 今日由 Asus、Dell 和 MSI 推出
  • Shelly 的新款智能阀门能在漏水变成水灾之前关闭家中的水源
  • Sony 令人印象深刻的 Bravia 8 II OLED 在黑色星期五前创下新低价
  • 深入 Microsoft 大规模 Outlook 故障内幕

这是原生广告的标题

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by The Verge
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗