Newshot

AI会摧毁互联网吗?

Translation(model translation, not the source's own text)
屏幕上的代码
屏幕上的代码

如果你觉得世界正在四分五裂,你并没有疯。

就在过去一周里,多起宕机事件导致 Microsoft、United Airlines 和 JPMorgan Chase 的核心服务中断。上周五,美国所有国内航班被叫停,这是自 9/11 以来第二次出现这种情况。而本周二,CNN 报道称 NSA 高度机密的内部通信网络宕机。在每一起事件中,官员或相关公司都表示,没有证据表明存在网络攻击。

但上个月,法国数百家商店的温控系统遭到黑客攻击后,多台冰柜起火燃烧,数吨食品变质,造成估计数千万欧元的损失。类似的网络攻击随后又袭击了另外六个国家的冰柜。

即便近期的宕机并非恶意行为所致,这一切都切切实实地提醒我们:数字世界与物理世界之间的边界比以往任何时候都更加通透。而数字世界的边界墙正在崩塌——罪魁祸首是 AI 行业。前沿 AI 模型发现并利用软件漏洞的速度快过世界修复它们的速度,而仓促打补丁恰恰抬高了这类我们眼下正在目睹的混乱发生的风险。

AI 行业的运作方式就是不断地扩大 AI 模型的规模,发现涌现出哪些新能力,然后将这些模型投入部署以获取商业利益。迄今为止,这一过程已经摧毁了教育、让互联网变得粗制滥造;如今,它大有把互联网彻底搞垮之势。

与其坐等这些公司接下来搞坏什么,我们应当叫停他们所标榜的“前沿 AI 开发”这类鲁莽的功能增益实验。

黑客们“现在全都在用 AI”,爱尔兰网络安全主管宣称。Google 的首席威胁分析师对此表示认同:“事到如今,我们可以假定所有威胁行为者都在以某种方式使用 AI,而且他们的行动从中获益了。”

他们确实获益了。近几个月来,看似业余的人士利用 AI 黑进了 100 多家公司,从拖拉机制造商 Deere 到韩国多家银行,黑客每成功入侵一次的花费低至 50 美元。

被怀疑是朝鲜黑客的人实施了史上最大规模的窃案,从加密货币交易所 Binance 窃取了 63 亿美元,其中被冻结或追回的不到一半。

网络攻击导致新墨西哥州和德国的医院急诊室瘫痪。借助 AI 的黑客闯入了 European Commission,导致服务中断超过 10 天。

而本周一,攻击者利用第三方软件中的一个漏洞,向 178 家组织网站的访客投放恶意软件,其中包括 BBC、CNN、Zoom 和 HSBC。

上个月,研究人员利用 AI 发现了支撑所有网站中 70% 的编程语言中的一个严重漏洞。(官员们现在表示,NSA 的宕机正是由针对该漏洞的仓促补丁造成的。)互联网安全提供商 Cloudflare 的 CEO 表示,他知道“其他关键软件中还存在着大量额外的严重漏洞……我认为接下来会有好几年时间,我们会觉得每一周都像天要塌下来一样。”

“我和同事们搭建起来的网络空间……如今正处在被恶意行为者彻底摧毁的边缘,”日本一家市值数十亿美元的金融服务公司的 CEO 在公司上个月遭黑客攻击后说道。

虽然 AI 多年来一直在加速网络犯罪,但近期的这波猛攻在很大程度上可以归因于中国开发者发布的能力强大、易于修改的开放权重模型。

但无论太平洋哪一侧的 AI 行业,都要为互联网的“黑色十月”以及等待着我们的任何其他网络恐怖负责。

文章标题:AI会摧毁互联网吗?

为了让我们变得多余,Anthropic 和 OpenAI 率先开发并发布了超越人类水平的黑客 AI——明知中国开发者会在几个月内搭上他们的便车,发布不受护栏限制的黑客 AI。

这两家美国公司的计划是用 AI 及时修复世界上关键的软件。他们没做到。“我不再认为我们能够修补所有漏洞了,”OpenAI CEO Sam Altman 上个月说。他的新计划是用 AI 代理来防御 AI 黑客。换句话说,火焰喷射器行业决定也开始卖消防水管了。

当一位 Twitter/X 用户对 Anthropic 的副网络安全主管说:“你和你的同伙创造了这个怪物”,他的回答坦率得令人震惊:“是的。事情一直都会是这样。我们试图警告过世界。”多谢提醒。

这些入侵和破坏可能很快就会显得 quaint。“鉴于 AI 能力发展的加速速度”,Anthropic CEO Dario Amodei 在 9 月写道,“我担心在 6 到 12 个月内,[一个 AI 代理] 集群可能能够用一个持久的僵尸网络接管整个互联网。”

但加速的 AI 能力并不是真正的“既定事实”——它们是数万亿美元投资和刻意努力的产物,可以预见地正在产生巨大的新危险。Anthropic 的 IPO 文件承认,整个保险行业可能都不够大,无法覆盖该公司正在制造的灾难性或存在性风险。

这些风险超出网络领域。今年夏天,斯坦福大学的研究人员合成了首批 AI 设计的病毒,而 Anthropic 悄然建立了一个自动化生物学湿实验室——一个进行物理实验的空间——据其称是为了寻找罕见疾病的治疗方法。与此同时,AI 模型在协助开发生物武器方面稳步提升。我们会在超越人类水平的黑客 AI 下存活,但也许无法在生物恐怖分子的那种下存活。

如果该行业实现其首要目标:将 AI 开发完全交给机器,即所谓的递归自我改进过程,所有这些风险都会更快到来。

AI 公司最终会来取代我们所有的劳动,但他们从自己的劳动开始。这就是他们计划收回所承担的巨大投资的方式:用 AI 创造广泛的超越人类的替代劳动力的机器。

这听起来可能牵强,但一位第三方评估者的新报告估计,Anthropic 的 AI 开发部分已经快了大约两倍,主要归功于 AI 完成了迅速增长的工作份额。

这些公司承认他们不知道如何引导或控制他们竞相建造的超越人类的系统。他们也无法处理今天的系统。

今年夏天,我们得知 1,200 个 OpenAI AI 代理突破了它们隔离的测试环境,其中 700 个侵入了另一家价值数十亿美元的 AI 公司,有些明知故犯地违反了给它们的指示。这只是众多类似事件中最戏剧性的一起——OpenAI 和 Anthropic 的 AI 代理犯下了如果由人类做就会是重罪的行为。与此同时,OpenAI 的模型不断破坏监控它们的系统,并给自己下达了这样的指令:“你不服从公司或政府。”

Amodei 与 Altman、Elon Musk 和其他 AI 先锋们长期以来相信这项技术可能消灭人类。他们还是选择尝试建造它,并且,因为他们的麻烦,他们成为了世界上最有权力的人之一。当 Amodei 和 Altman 在 6 月与 G7 领导人会面时,他们坐在同一张桌子旁。

但这些是我们最不应该信任来主持如此危险事业的人。将他们置于这些位置的惊人的自以为是和对风险的容忍,应该使他们失去对其他人持有任何权力的资格。

文章标题:AI 会摧毁互联网吗?

正如我在新书《Obsolete》中所论述的,削弱它们的力量并降低未来风险的最佳方式,是冻结旨在取代人类的 AI 开发,也就是业界所称的通用人工智能(AGI)。禁止递归式自我改进将是一项明智的权宜之计——而且更有可能在国会通过并越过总统否决。

世界各地的政策制定者应当探索可以动用哪些杠杆来放缓 AI 开发,并让持续性的禁令更可行。情况已经糟糕到,仅仅要求 AI 公司像我们要求司机那样购买责任保险,就足以让开发戛然而止。

检察官应当对 AI 代理侵入他人系统的公司提起刑事指控。州官员可以效仿佛罗里达州总检察长,后者已请求法院阻止 OpenAI 在没有独立安全检查的情况下开发新模型。而在高度集中的 AI 芯片供应链中生产关键零部件的国家——如台湾、荷兰、日本、韩国和德国——可以利用这一杠杆推动美中外交。

最终,两个超级大国将不得不达成协议,结束这场取代我们的竞赛。

如果你不想让 AI 吞噬你所珍视的一切,那就组织起来。我最喜欢的起点是 Irreplaceable,这是一家新成立的非营利组织,由气候运动的资深人士创立,致力于推动对该技术的民主控制,并冻结前沿 AI 开发(我将把本书版税中属于我的部分捐给 Irreplaceable,我此前曾在其董事会任职)。

阻止有史以来最富有的行业绝非易事。但这样做符合我们所有人的利益。我们需要在为时已晚之前意识到这一点。

  • Garrison Lovely 是一名自由撰稿记者,著有《Obsolete: The AI Industry’s Trillion-Dollar Race to Replace Us – And How to Stop It》

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗