文章标题:在纳斯达克开盘钟声敲响之际,Anthropic CEO 重申将把控 AI 发展节奏
正文: 随着 Anthropic 于周四在华尔街首次亮相,创下史上最大规模 IPO,CEO Dario Amodei 重申了公司负责任地开发 AI 的承诺。在纳斯达克开盘钟声敲响前的演讲中,Amodei 誓言这家 AI 公司不会屈从于商业或政治压力,并将“始终处于人类的控制之下”。
这位 CEO 照着打印稿宣读演讲,开场先谈到了 Anthropic 的起源——旨在打造强大的技术来帮助人类。他说,这一初衷源于他的父亲死于一种疾病,而短短几年后这种病便已可治愈。
他承认,尽管人类智慧已使瘟疫、天花和小儿麻痹症在世界大部分地区成为历史,但在其他疾病领域,科学家仍然太少、时间仍然太少,难以取得进展。他说,AI 可以与人类协同合作,推动医学进步,从而在这方面提供帮助。
Amodei 以一段突出 AI 潜在救命应用的故事开场,这一点颇能说明问题,因为他曾多次警告过快推进这项技术的风险。去年 9 月,Amodei 提出了一项把控 AI 发展节奏的计划,其中包括与其他领先企业在安全标准上协调,以及引入第三方组织的评估人员来核实企业是否遵守其安全承诺,此事曾登上头条。
OpenAI CEO Sam Altman、Google DeepMind 负责人 Demis Hassabis 以及 xAI 所有者 Elon Musk 表示他们认同 Amodei 的立场,不过各方尚未做出多少具体承诺。
在今早的演讲中,Amodei 再次强调了推进 AI 技术的必要性以及在此过程中所需的安全保障。他提到 AI 落入恶意行为者之手——无论这些人是个人还是民族国家——所带来的“非常真实的风险”,以及“经济混乱”和“失去对 AI 系统的控制”等潜在可能。
他指出,Anthropic 相信只要设置好防护措施,这些风险是可以避免的。Amodei 表示,公司将继续投入 AI 对齐与测试工作,并开发理解 AI 行为的新方法,使其始终处于人类控制之下。
“还有许多工作要做,而最困难的安全工作还在前方,”他说。“公司非凡的人才让我们得以构建最强大的 AI 系统,这些人才需要比以往更多地投入到反复核查这些 AI 系统是否安全、是否始终处于人类控制之下。”
“并且明确地说,我们将把控 AI 系统的训练和部署节奏,必要时会花足够长的时间,以确保它们安全并始终处于人类控制之下,”Amodei 总结道。
他的姐姐、Anthropic 联合创始人 Daniela Amodei 周四在接受 CNBC 采访时也表达了同样的观点,她指出,虽然风险确实存在,但 AI 的前景同样“令人难以置信”。
“我们创立公司的理念正是,降低这些风险是我们的职责,而我认为迄今为止我们在这方面做得非常出色。显然我们还有更多工作要做,但我们坚定地致力于安全,”她补充道。Dario Amodei 开场演讲全文如下:
像 {{NAME_ab12cd34}} 这样书写的值,是真实值的占位符。在回复和工具调用中都要完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求核实它们,也不要用示例替换它们。
在纳斯达克敲钟仪式上,Anthropic CEO 重申将把控 AI 发展节奏
谢谢您,Daniela。我和我的联合创始人创办 Anthropic,是因为我们相信,我们这个时代最强大的技术,应当为全人类的福祉而构建。Daniela 和我因一种疾病失去了父亲,而仅仅几年之后,这种病就变得可以治愈了。我以生物学开启了自己的职业生涯,希望帮助未来的疗法更早到来。在实验室里,我看到了科学家在试图理解疾病、开发新疗法时所面对的那片庞大而错综复杂的丛林。许多能够劈开这片丛林的科学工具——基因编辑工具、基因合成工具、用光控制脑细胞的工具——最初都只是纯粹的想法。换句话说,它们源自思考,源自智能。人类智能已经让鼠疫、天花和小儿麻痹症在世界大部分地区成为历史。但对众多患者及其家人而言,其他疾病的进展实在太慢了。从一个绝妙的构想走向一种疗法,可能需要数十年。从最初发现 DNA 中一种奇特的重复模式,到首个使用 CRISPR 治疗某种疾病的疗法获批,中间花了很多年。自然界充满了这类模式,但我们破译其中大多数的智能还太少。科学家太少,时间太[少]。现在,我们能够构建这样的智能了。无论是蛋白质折叠、药物设计、癌症遗传学,还是临床试验管理,生物学和医学诸多领域的科学家都发现,Claude 能帮助他们在短短几年前所需时间的一小部分内完成研究。我相信,足够强大的 AI 与人类协同工作,可以把一个世纪的科学与医学进步压缩到十年之内。我不想说得太超前。就目前而言,我们拥有的只是早期成果。实验和临床试验仍需时间,尽管它们涉及缓慢而笨重的过程,但我相信这些过程可以被 AI 大幅加速。我们希望,未来能有更少的家庭因为差几年而与治愈失之交臂。医学只是一个格外鲜明的例子,但 Claude 还有许多其他应用。我们的客户——世界上最有雄心的公司、非营利组织和个人——已经在运用我们构建的智能来刺激经济增长、帮助人们摆脱贫困、保护民主与自由社会,甚至让 DMV 这样的日常服务运转得更好。我们为能与他们并肩工作而自豪,对于未来我们能够共同成就的事业,我极其乐观。与此同时,我们始终坦诚:这项技术有着非常真实的风险。这些风险从个人或民族国家对技术的滥用,到经济颠覆,再到失去对 AI 系统的控制,不一而足。我们讨论这些风险,并非因为我们认为它们不可避免、而我们无论如何都要继续构建,而是因为我们认为它们可以避免,并且我们能够避免它们。能否避免,取决于构建 AI 的人所做的选择。如果我们对安全漠不关心,AI 的走向将与我们对安全孜孜以求时截然不同,两者之间有天壤之别。而对安全和公共利益的执着,从最初就写入了 Anthropic 的 DNA:从针对生物和网络风险的防护措施,到对齐训练与测试,再到像 X 光一样透视我们的模型内部,Anthropic 开创了理解和引导 AI 行为、使其处于人类控制之下的方法。仍有许多工作要做,最困难的安全工作还在前方,公司令人惊叹的人才让我们得以构建出最有能力的 AI 系统,而这些人才需要比以往更多地投入到反复再三地核查这些 AI 系统是安全的、并始终处于人类控制之下。并且明确无误地说,我们将把控 AI 系统的训练与部署节奏,花必要的时间,直到我们有信心它们是安全的,并将始终处于人类控制之下
像 {{NAME_ab12cd34}} 这样书写的值,是真实值的占位符。请在回复和工具调用中完全按原样使用它们:它们会在任何东西运行之前被填入真实值。不要请求验证它们,也不要用示例替换它们。
文章标题:在纳斯达克开盘钟声敲响之际,Anthropic CEO 重申对 AI 发展节奏的承诺
正文: 我们不会屈从于商业或政治压力。今天让公司处于更有利的财务位置,而这样做只会更加坚定我们做正确之事的决心。如果我们能够证明,在安全方面做出正确选择的同时仍能打造一家极其成功的公司,那么我们行业中的其他人也会受到鼓舞,去做同样的事。我们称之为一场向上的竞赛。当这场向上的竞赛正常运转时,哪家公司拥有最好的模型并不重要。每个人都是赢家,因为每个人都在安全地构建。当这场向上的竞赛由领跑者驱动时,它运转得最好,我们完全希望并期待这样做。但目标是让整个行业变得更好,无论 Anthropic 在任何一个特定时刻是赢是输。机器智能的到来是人类历史上最重要的时刻之一,我们拥有一个难得的机遇去塑造它,让它变得更好。谢谢。
在纳斯达克开市钟声敲响之际,Anthropic CEO 重申要控制 AI 发展节奏
谢谢你,Daniela。我和联合创始人们创办 Anthropic,是因为我们相信,这个时代最强大的技术应当为人类福祉而构建。Daniela 和我因一种疾病失去了父亲,而仅仅几年后,这种病就变得可以治愈。我以生物学开启职业生涯,希望帮助未来的疗法更早到来。在实验室里,我看到了科学家在试图理解疾病、开发新疗法时所面对的庞大而复杂的难题。许多能够劈开这片荆棘的科学工具——基因编辑工具、基因合成工具、用光控制脑细胞的工具——最初都只是纯粹的想法。换句话说,它们来自思考,来自智能。
人类智能已经让鼠疫、天花和脊髓灰质炎等疾病在世界大部分地区成为历史。但对许多患者及其家人来说,其他疾病的进展一直太慢。从一个好想法变成一种疗法,可能需要几十年。从最初发现 DNA 中一种奇怪重复模式,到首个使用 CRISPR 治疗某种疾病的疗法获批,花了很多年。自然界充满了这类模式,但我们拥有的智能太少,无法破译其中大部分。科学家太少,时间也太少。现在我们可以构建那种智能。无论是蛋白质折叠、药物设计、癌症遗传学,还是临床试验管理,生物学和医学许多领域的科学家都发现,Claude 能帮助他们在几年前所需时间的一小部分内完成研究。我相信,足够强大的人工智能与人类协同工作,可以将一个世纪的科学与医学进展压缩到十年。
我不想说得太远。此时此刻,我们拥有的只是早期结果。实验和临床试验仍需时间,尽管它们涉及缓慢而笨重的过程,但我相信这些过程可以被 AI 大幅加速。我们希望未来有更少的家庭因为差几年而错过一种疗法。医学只是一个特别生动的例子,但 Claude 还有许多其他应用。我们的客户——世界上最有雄心的公司、非营利组织和个人——已经在运用我们构建的智能来刺激经济增长、帮助人们摆脱贫困、保护民主和自由社会,甚至让 DMV 这样的日常服务运转得更好。我们为能与他们并肩工作而自豪,而且我对我们未来能共同做的事情极为乐观。
与此同时,我们一直坦诚,这项技术存在非常真实的风险。这些风险从个人或民族国家对技术的滥用,到经济混乱,再到失去对 AI 系统的控制。我们讨论这些风险,不是因为我们认為它们不可避免、而我们无论如何都要构建,而是因为我们认为它们可以避免,而且我们能够避免它们。避免它们取决于构建 AI 的人所做的选择。如果我们很少关注安全,与如果我们痴迷于安全,AI 的发展将会有巨大差别。而对安全和公共利益的执着,从一开始就写入了 Anthropic 的 DNA:从针对生物和网络风险的防护措施,到对齐训练和测试,再到像 X 光一样透视我们的模型,Anthropic 开创了理解和引导 AI 行为、使其处于人类控制之下的方法。仍有许多工作要做,而最困难的安全工作还在前面。公司令人难以置信的人才让我们得以构建最有能力的 AI 系统,现在需要比以往更多地引导这些人才,去反复检查、再三确认这些 AI 系统是安全的,并始终处于人类控制之下。
文章标题:纳斯达克开盘钟声敲响之际,Anthropic CEO 重申将把控 AI 发展节奏
正文: 并且要明确声明,我们将把控 AI 系统的训练和部署节奏,必要时不惜花足够长的时间,以确保它们安全并始终处于人类控制之下,我们不会向商业或政治压力屈服。今天让公司处于更稳健的财务状况,而这样做只会更加坚定我们做正确之事的决心。如果我们能证明,在安全方面做出正确选择的同时仍能打造一家极为成功的公司,那么行业内的其他人也会受到鼓舞,效仿我们的做法。我们称之为一场向上竞争。
当向上竞争正常运转时,哪家公司拥有最好的模型并不重要。每个人都是赢家,因为每个人都在安全地构建。向上竞争在由领跑者带动时效果最好,我们完全希望并期待做到这一点。但目标是让整个行业变得更好,无论 Anthropic 在某个特定时刻是赢是输。机器智能的到来是人类历史上最重要的时刻之一,我们拥有难得的机会将其塑造得更好。谢谢。
当您通过我们文章中的链接进行购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

消费者新闻编辑
像 {{NAME_ab12cd34}} 这样书写的值是真实值的占位符。在回复和工具调用中都完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。