Newshot

AI 让光学计算重获生机

AI summary

用光进行计算的想法已有 70 多年历史,但直到最近仍基本停留在研究领域。过去几年,光学计算已发展成为一个快速增长的产业:该领域公司的市场估值如今已达 22.2 亿美元,而 2022 年为 4 亿美元。有预测认为,这一市场在未来几年将继续指数级增长。这一突然增长的原因并不令人意外:AI。尤其是 AI 推理——即使用 AI 模型回应用户查询的过程——推动了大量高耗能数据中心的建设,而相对节能的光学系统被视为一条潜在的出路。

Translation(model translation, not the source's own text)
一块绿色电路板的特写,中央有一颗微芯片,还有错综复杂的走线
一块绿色电路板的特写,中央有一颗微芯片,还有错综复杂的走线

数据中心已经在网络通信中使用光。初创公司 Optalysis 希望利用经过特殊设计的波导,为网络传输路径增加计算能力,在数据仍在传输途中时完成数学运算。

用光进行计算的想法已经存在了 70 多年,但直到最近,它在很大程度上仍停留在研究领域。不过在过去几年里,光计算已经发展成为一个快速增长的产业:该领域公司的市场估值如今合计达到 22.2 亿美元,高于 2022 年的 4 亿美元。有预测认为,这一市场在未来几年将继续呈指数级增长。

这一突然激增的原因不会让任何人感到意外:AI。尤其是 AI 推理——即使用 AI 模型回应用户查询的过程——推动了大部分大型、高耗能数据中心的建设,而相对能效更高的光学系统被视为一条潜在的出路。

“对[光子学]的大部分兴趣,是由这样一个事实推动的:AI 推理确实已经受到功耗的限制,而且限制得相当惊人,”康奈尔大学应用与工程物理系副教授 Peter McMahon 说。他位于纽约州伊萨卡,研究光计算已有十多年。

至少在纸面上,光学有望以大幅更低的功耗完成与当今 GPU 相同的数学运算。从电子转向光学将是一个相当激进的解决方案。尽管如此,光计算初创公司仍如雨后春笋般在美国、中国、德国和以色列涌现。尽管与 Nvidia 等 GPU 制造商竞争是一个雄心勃勃的目标,但对光计算的投资已经推动了互补方法的发展,例如设计替代性的 AI 算法、承接科学计算,以及增强网络内计算。

总部位于英国的 Optalysys 正在把光计算元件插入网络传输路径,而数据中心已经在这些路径中使用光。该公司基本的片上光学元件如插图所示,是一个傅里叶变换计算器。Optalysys

“我认为,如果这些公司中有很多能在这方面做出不错的尝试,对这项技术来说会是好事,”耶鲁大学应用物理学助理教授 Logan Wright 说。他位于康涅狄格州纽黑文,曾是 McMahon 实验室的博士后。“我认为,由此开发出的技术将会非常、非常有用,并让那些或许没有赶上这波 AI 浪潮的光子系统能够做出真正相当特别的事情。”

光学来救推理?

推理构成了 AI 能耗的大部分。该行业已经投入数十亿美元设计先进的 GPU 和其他芯片,以尽可能高效地运行推理。推理计算的核心是一个运算,它每秒被执行无数次:矩阵-向量乘法。

像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。在回复和工具调用中都完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求核实它们,也不要用示例替换它们。

文章标题:AI 让光学计算重获机会

正文: 早在 1978 年,光学计算先驱 Joseph W. Goodman 及其同事就提出了一种用光进行矩阵-向量乘法的方法。该装置相对简单。假设一个长度为 N 的向量需要与一个 N×N 的矩阵相乘。一排 N 个发光二极管将向量的元素编码为光的强度——单个二极管发出的光越亮,该二极管编码的值就越大。然后,一个柱面透镜在垂直方向上展开光线,实际上是将该向量复制 N 次。光随后穿过一个 N×N 像素的衰减器。在每个像素处,光根据矩阵中对应位置的值被衰减。让光穿过衰减器就完成了乘法。最后,一个与第一个透镜垂直的柱面透镜重新收集每一行的光,将其求和。最终的向量由一排探测器测量。

向量-矩阵乘法

当今常见 AI 中计算成本最高的部分是向量-矩阵(或矩阵-矩阵)乘法。对于一个长度为 N 的向量(此处 N = 3),需要 N2(此处为 9)次乘法步骤和三次累加步骤——即同时进行多次加法。

关于光学为何可能优于电子学的论证大致如下:将一个 N×N 的矩阵与一个长度为 N 的向量相乘需要 N2 次乘法步骤。在电子学中,每次乘法都消耗一定能量,因此总能耗按 N2 缩放。然而在光学中,乘法步骤是被动的:只要矩阵保持不变,让光穿过衰减器几乎不消耗能量。唯一的成本是将向量编码为光并读取结果,但向量的长度是 N,而不是 N2。因此,随着所乘的向量和矩阵越来越大,能耗将按 N 而非 N2 缩放。

自 Goodman 1978 年的提案以来,可用光学元件的质量已大幅提升。事实上,2022 年,由 McMahon 领导的 Cornell 研究团队展示了一个光学神经网络,每次乘法操作消耗不到一个光子的能量——约 2.5 x 10-19 焦耳。在标准计算机中,单次乘法操作可能消耗 10-14 到 10-12 焦耳,这表明光学有可能将能耗降低 100,000 倍。

但 McMahon 告诫不要做这样的外推。首先,将数据编码为光的成本未计入计算。即使以光进行缩放在理论上有利,在实践中重要的不仅是缩放,还有系数。假设用电子学进行一次乘法的能量成本是 1 皮焦耳,而用光学编码一个向量元素的成本是 1,000 皮焦耳。如果向量的长度 N 少于 1,000 个元素,电子学方法仍然胜出。

McMahon 说这个例子与现实相差不远:“关键问题之一是,系统要做到多大你才开始获胜?很多人对各类神经网络做过这个计算。粗略的答案是 N 在 1,000 到 10,000 之间。”

还有一条被称为 Amdahl 定律的计算原理也很重要。

“Amdahl 定律甚至不该被称为定律。它只是一条简单的常识,”McMahon 说。“如果你有某种能加速计算的东西,它能加速 90% 的代码,但有 10% 的代码它无法加速,那么你能获得的最大可能加速比就是 10 倍。”

像 {{NAME_ab12cd34}} 这样书写的值是真实值的占位符。请完全按照书写的样子使用它们,无论是在回复中还是在工具调用中:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。

对于 AI 推理而言,重点在于节省能量,而不是时间。但 Amdahl 的观察仍然适用。当今 AI 推理代码中有多大比例可以更好地由光学来处理,是一个因方法而异复杂问题。但它并不是 100%。矩阵-向量乘法,或矩阵-矩阵乘法,只是推理工作负载的一部分——还需要对数据执行其他非线性操作。

考虑到所有这些限制条件,如今的光计算公司正力争将能效相比当今 GPU 提升 10 到 80 倍。问题在于,他们能否在传统电子技术追上这些增益之前大规模兑现这一承诺。

弥合自由空间中的差距

总部位于英格兰牛津的初创公司 Lumai,或许是从 Goodman 及其团队那里获得了最直接的灵感。Lumai 的产品负责人 Phillip Burr 宣称,一种自由空间方案——光在空气中传播,而不是在片上波导中传播——将使该公司的技术能够超越 GPU。

Lumai 没有采用 Goodman 方案中使用的固定衰减器,而是使用一种名为空间光调制器的现代可编程器件——一种类似精致液晶显示屏的像素化薄膜,可以调制光的强度和相位。设计的其余部分在实践中更为复杂,但原理上与 Goodman 的设计相似:一个向量被编码到光中,通过透镜复制 N 次,穿过空间光调制器,用另一个透镜收集,结果再转换回数字电子设备。随后由电子设备处理非线性函数。“完整的向量-矩阵乘法在单个光学周期内完成,”Burr 说。

要准确比较光学方案和 GPU 方案的能耗,首先必须明确你考虑的是工作负载的哪一部分。现代推理通常分为两个阶段:预填充(prefill),即处理输入查询并使其通过模型传播;以及解码(decode),即一次生成一个单词(或 token)的输出。预填充是两者中计算强度更高的阶段。它基本上涉及对同一个矩阵反复进行向量-矩阵乘法。解码也涉及向量-矩阵乘法,但强度没那么高——解码中耗时的部分是将必要的矩阵读入和读出内存。

使用自由空间光学的向量-矩阵乘法

Chris Philpot

Goodman 光学计算机是光子向量-矩阵乘法器的最简单版本。在这里,向量元素被编码到来自三个光源(例如 LED)的光强中。然后,柱面透镜将光垂直展开。矩阵元素被编码到衰减器的不透明度中,使得光穿过每个像素时会被该矩阵值相乘(衰减)。最后,另一个柱面透镜水平收集光,执行累加步骤,光电探测器测量输出向量。

Lumai 以及该领域的其他公司正专注于推理中计算密集的预填充阶段。Lumai 声称,其于 2026 年 4 月开放评估的 Iris Nova 光学服务器是一个概念验证,而其下一代 Iris Aura 服务器将以大约 GPU 所用能耗的十分之一来完成预填充。

总部位于得克萨斯州奥斯汀的初创公司 Neurophos,对 Goodman 计算机设计做出了不同的诠释。为了在小型设备中塞入更强的能力,该公司正利用其在超材料方面的专长——超材料是能够在小于单个波长的尺度上操纵光的复杂结构。其设计的结构大于一个波长,但仍然相当小——每边仅几微米。

文章标题:AI 让光学计算重获新生

“如今标准硅光子学所能实现的光学晶体管,等效长度大约是2毫米,”Neurophos 首席执行官 Patrick Bowen 说。“你根本无法在芯片上集成足够多的这类器件,从而获得能与台积电(TSMC)最先进工艺相媲美的计算密度。”

总部位于得克萨斯州奥斯汀的 Neurophos 正利用集成在芯片上的微小超材料来操控入射光,以实现高效的向量-矩阵乘法。

Bowen 的团队设计了基于超材料的调制器,可通过编程在微米尺度上操控光的相位和强度,从而在边长5毫米的方形芯片上实现了1000×1000的调制器阵列。据 Bowen 称,Neurophos 调制器的开关速度是标准液晶空间光调制器的10000倍以上。

Bowen 还声称在性能上优于 Nvidia 的 Blackwell GPU:“我们的目标是达到 Blackwell B200 速度的50倍、能效的35倍,并且已有路线图在后续几代产品中达到250倍速度和约90倍能效。”

Bowen 表示,该方法与 CMOS 兼容,这应能让 Neurophos 在半导体行业现有的大规模生产线上制造其芯片。该公司目前正在选址建设生产设施,以便在2028年向客户交付整机柜产品。

Lumai 和 Neurophos 都押注自己的产品能比传统 CMOS 赶上它们的节能水平更早进入市场。“硅会持续进步,但数字效率的提升如今变得缓慢且成本上升,”Burr 说。“光学提供了一种不同的缩放关系,效率随矩阵增大而提升。更大的模型、更长的上下文窗口以及代理式工作负载都在把预填充推向那个方向。”

弥合芯片上的差距

自由空间光学承载着近乎零能耗乘法的希望,正如 Goodman 的设计那样。但自 Goodman 在20世纪70年代的工作以来,光学的另一大进步是集成光子学,它允许在芯片上导引和操控光。

“关键在于尽可能做大向量规模,以最大化利用光学的优势,正因如此,自由空间方法很有前景,”耶鲁大学的 Logan Wright 说。但使用自由空间方法“从根本上仍然更难”,“因为基础设施比硅光子学少太多了。”

其他公司——如总部位于上海的 Lightelligence 和总部位于德国斯图加特的 Q.ANT——则放弃自由空间光学的三维优势,转而采用可直接集成到硅芯片上的光子学的可制造性。

“自由空间光学通常被限制在每年1000台,这是有充分理由的,”Q.ANT 首席执行官兼创始人 Michael Förtsch 说。“原因是透镜检测、装配策略等等。可半导体制造的集成光子电路在这一点上更有望实现量产。”

用集成光子学进行向量-矩阵乘法

Chris Philpot

在芯片上用光进行向量-矩阵乘法的一种方法,是把向量元素编码到光脉冲的振幅中,让光脉冲依次穿过波导。乘法由 Mach-Zehnder 干涉仪完成:一个波导分成两路,其中一路传播的光的相位由受控电压偏移。当两路重新汇合时,产生的光强度取决于该相位偏移,从而完成一次乘法。把矩阵元素编码到相位偏移中,就使这成为向量-矩阵乘法。然后由光电探测器收集所有三个脉冲的光,完成累加步骤。

像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。在回复和工具调用中都完全按原样使用它们:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。

文章标题:AI 让光学计算重获生机

正文: 在 Q.ANT 的方法中,输入数据通过片上调制器编码为光脉冲的相位和幅度。在该方案中,一个向量表示为这样一系列脉冲,每个脉冲代表一个向量元素。光通过波导在芯片上传输。基本计算单元是干涉仪:一个波导分成两条路径,沿其中一条路径传播的光束经受相移,相移由设定的电压控制。当两条路径重新合并时,所产生的干涉完成一次计算。然后,光电探测器和模数转换器将结果转回数字数据。这种串行化的向量-矩阵乘法方法比 Goodman 的计算机慢,后者一次性完成整个计算。不过,较慢的速度可以通过同时使用多个波长来缓解,从而有效地将多个向量同时编码到光中。

Q.ANT 的 Native Processing Server 已被慕尼黑的 Leibniz Supercomputing Centre 和德国于利希的 Jülich Supercomputing Centre 等研究机构使用。今年早些时候,该公司宣布向云服务提供商 Ionos 完成了一笔商业销售。同样,Lightelligence 的 PACE2 处理器能够对 128×128 元素的矩阵进行乘法运算。在 2025 年发布的一篇论文中,该公司描述了以 1 吉赫兹频率和 3 纳秒延迟进行的向量-矩阵乘法,声称其延迟比传统 GPU 低两个数量级。

然而,能效优势尚未得到确凿证明,Q.ANT 的 Förtsch 承认仍有很长的路要走。主要问题在于模数转换及其逆向转换的能耗。只要快速、低能耗的转换器尚不存在,Förtsch 说,“我们认为……光学中的通用向量-矩阵乘法机器有现实意义的机会并不存在。”

超越矩阵-向量乘法

该领域并非所有人都专注于矩阵-向量乘法,尽管它在 AI 推理领域风靡一时。事实上,虽然光学向量-矩阵乘法的想法可以追溯到 1970 年代,但用光学进行的其他计算早在 1950 年代就已被研究。例如,傅里叶变换——一种将复杂波或信号分解为其组成频率的常见操作——在光学中可以用单个透镜完成。

“数字芯片必须用数百到数千个晶体管以及更多计算周期,以许多小步骤来近似[傅里叶变换],”Q.ANT 的 Förtsch 说。“使用此类非线性函数的模型可以用更少的参数和更少的操作达到相同或更好的精度。”

尽管 Q.ANT 的光学处理器已被用于传统的向量-矩阵乘法,但该公司认为其最大优势在于利用更复杂函数的替代 AI 架构。“图像分类和分割等任务严重依赖傅里叶级数、变换和其他非线性函数等操作,而光子学天然就能处理这些。我们在生成式 AI 中看到了类似的潜力,尤其是图像和视频生成,”Förtsch 说。

总部位于以色列的初创公司 LightSolver 也瞄准了更适合其设备的算法。“如果你观察传播的电磁波,本质上,它们的本性就是在求解微分方程,”LightSolver 首席执行官兼联合创始人 Ruti Ben-Shlomi 说。她表示,在公司名为激光处理单元(LPU)的设备上,微分方程可以比在传统计算机上更快、能效更高地求解。

像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。请完全按照所写使用它们,在回复和工具调用中都是如此:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。

LightSolver 的 LPU 是对 Goodman 光学计算机设计的一种有趣变体。它有输入光、一个以空间光调制器形式存在的可编程薄膜以及输出光,但整个装置被置于一个腔体内,光在其中来回反射多次后才达到稳态。此外,团队在腔体内放置了增益介质。这种增益介质的作用很像激光器中的增益介质,使来回反射的光强度不断增强。

总部位于以色列的初创公司 LightSolver 正在利用自由空间光学,通过发挥光的自然特性来快速求解微分方程。LightSolver

LightSolver 的团队目前也在为其 LPU 开发 AI 应用,使用公司自有算法从文本生成图像。“我们并不是在非常快地做向量-矩阵乘法。我们在做不同的事情。我们需要假定你训练模型的方式,以及随后进行推理的方式,是完全不同的。但如果你换一种方式来做,就能够在图像生成中实现能耗大幅下降和速度提升,”Ben-Shlomi 说。LightSolver 已有 LPU 的工作原型,团队正在开发一个更大、可机架安装的箱体。

在传输中计算

还有另一种利用光独特优势的方式,正由总部位于英格兰利兹的初创公司 Optalysys 推进。创始人兼首席产品官 Nick New 拥有自由空间光学背景,因此他明白,用光来做傅里叶变换非常容易。

Optalysys 技术背后的核心思想,是把光学在自由空间中的傅里叶能力搬到芯片上并使其工作。“如今我们不再使用透镜,而是有自己的组件,它是在硅平面内的无源组件,完成同样的工作,”New 说。通过巧妙地将该组件设计为具有多个输出,团队还弄清楚了如何执行不同的运算。“由于傅里叶变换响应的生成方式,你实际上可以从中提取出不同的数学运算,”New 说。“利用我们的模拟光子学方法,我们能够以超高效率产生非常大、高精度的数字函数。”

“我们实际上是在目前没有任何处理的地方加入处理能力。”——Nick New,Optalysis

Optalysys 并没有从零开始重新设计加速器,而是瞄准了 AI 工作负载中往往已经处于光学领域的一部分:网络。在数据中心里,成排的计算机通过光纤相互连接,而这些光学连接正越来越靠近 GPU 和 CPU 本身。

有些计算已经在数据传送途中发生。这些计算包括合并来自多个 GPU 的结果,它们在网络交换机卡内部执行。但这些卡自然会为进行这类数学运算消耗功率。借助无源光学组件,这些计算基本上可以免费完成。

New 表示,除了 GPU 之间的通信,Optalysys 的技术还可用于促进 GPU 与内存之间的通信,动态完成压缩和格式转换等任务。回到 AI 推理,这种方法可以改善工作负载中的解码部分。与预填充不同,解码受内存限制:成本最高的部分是把模型数据

文章标题:AI 让光学计算重获机遇

正文: 光学计算机在数据中心取代 GPU 的可能性有多大?Yale 的 Wright 不太乐观。“算法发展的方向不会是自动有利于光学的方向,”他说。“事实上,它最有可能朝着相反的方向走,因为 [AI 模型开发者] 希望它在 GPU 上运行得更好。”

然而,即便未来几年我们的 AI 查询不会用光来计算,这项技术上的投入也不会白费。Wright 说:“我和该领域许多其他人之所以至少还算乐观,是因为 Nvidia 和 TSMC 等公司正在真正投入开发共封装硅光子——不是为了计算,而是为了电路交换和互连,而这恰恰为未来多做一些事情打开了门。”

无论这项技术最终是用来做向量-矩阵乘法、执行定制模拟,还是进行网络内计算,计算生态系统似乎都已为多种路径做好了准备。“我们把未来的数据中心看作异构的:CPU、GPU 和光子 NPU [神经处理单元] 各自承担最适合它们的任务,”Q.ANT 的 Förtsch 说。“在最高效的硬件上运行每项任务,可以显著降低能耗和运营成本。”

像 {{NAME_ab12cd34}} 这样写出的值,是真实值的占位符。在回复和工具调用中都要完全照写:它们会在任何内容运行前被填入真实值。不要要求核实它们,也不要用示例替换它们。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by IEEE Spectrum AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗