Newshot

我使用AI对环境有什么影响?

Translation(model translation, not the source's own text)

在上一篇帖子中,我尝试用我最喜欢的开放模型 Kimi K3 来估算 token 的真实成本。这个分析有一个不错的副作用:它也告诉了我们每个 token 的耗电量,让我可以估算我个人 AI 使用的环境影响。和上周类似,我估算的是额外一个 token 的边际环境影响,忽略训练模型和制造 GPU 的成本。

一个矮小、认真的机器人坐在桌前在笔记本电脑上打字,而它身后墙上逼近的影子被夸张成一个庞大的怪物:一个巨大的烟囱从它头上喷出浓云,水流从它双手倾泻
一个矮小、认真的机器人坐在桌前在笔记本电脑上打字,而它身后墙上逼近的影子被夸张成一个庞大的怪物:一个巨大的烟囱从它头上喷出浓云,水流从它双手倾泻

我会先算出每百万 token(Mtok)的环境影响。为了把这些数字一般性地应用到我的 AI 使用上,我做一个简化假设:环境影响与成本成比例,以估算每美元的环境影响。然后我会把它与我的个人使用数据结合,估算我的 AI 影响,并看看它与我其他一些主要环境影响相比如何。

每 Mtok 的影响

我们会先估算功耗,然后用它来估算用水量和 CO2 排放。

功耗

和上周一样,我们将在 Supermicro 8U GPU SuperServer 上运行 Kimi K3,它配备 8 块 GB300 GPU。每块 GB300 的“热设计功耗”约为 1.4 kW:这是芯片持续散发的热量,也是峰值功耗的合理近似,因为大部分使用的电都会转化为热。所以 8 块 GPU 产生约 11.2 kW,然后 CPU、网络和存储再增加约 1.5 kW,总负载约 12.7 kW。

现在我们需要按托管设施的“电能利用效率”(PUE)对此进行调整。这是服务器设施使用的总功率与单个服务器使用的功率之间的比率,主要由冷却效率决定。这个值因数据中心而异很大,但幸运的是 AWS、Google 和 Microsoft 公布了他们的数据,PUE 范围从 1.09 到 1.17。我会保守一些,假设新的 LLM 提供商可能还没有这么好,PUE 为 1.25。在 100% 使用率下,这产生约 15.9 kW 的设施功耗。

但 GPU 在空闲时仍会消耗约 30% 的功率,所以在低于满载利用率下运行,每个 token 会使用更多能源:75% 负载时 +10%,50% 时 +30%,25% 时 +90%。和上周一样,我会假设 75% 的情况为默认,总功耗

文章标题:我使用 AI 的环境影响是什么?

正文: 发电需要覆盖整个设施的用电量,因此是 0.14 kWh/Mtok × 2.2 L/kWh = 约 0.31 L/Mtok 的额外用水量,使总用水量达到约 0.35 L/Mtok。

碳

已知电力消耗,碳排放的计算就很简单。我们可以使用 2023 年的 eGRID 数据,其中给出的美国平均值为 0.348 kg CO2/kWh。因此是 0.14 kWh/Mtok × 0.348 kg CO2/kWh = 0.049 kg CO2/Mtok,我们将其向上取整为约 0.05 kg CO2/Mtok。

每美元的影响

现在我需要做一个很大的假设,才能把我们对 Kimi K3 的了解应用到其他模型上:环境影响与成本成正比。我的理由是,电力是服务一个 token 的主要边际成本(这合理),并且模型定价是理性的(这大概不太合理,但已经是我们能做到的最好情况)。所以我的假设是,每 token 成本高 10 倍的模型,每 token 的能耗大致也高 10 倍。这让我可以估算那些我没有其他数据的闭源模型(Fable、Opus、GPT)的影响。

我为 Kimi K3 支付的混合价格是 $0.69/Mtok(输入 + 缓存 + 输出 token,按我约 90% 的缓存命中率计算),由此得到每美元的影响为:0.14 kWh/Mtok → 约 0.20 kWh/$,0.35 L/Mtok → 约 0.51 L/$,0.05 kg CO2/Mtok → 约 0.07 kg CO2/$。

我的影响

现在让我们把它与我的使用情况联系起来。我用 AgentsView 收集了从 5 月到 11 月、约 6.3 个月内我所有的 AI 编程使用记录。这涵盖的是编程 agent,不包括网页聊天或 ellmer,但我确信这构成了我使用量的绝大部分。我的总支出为 $5,871,主要集中在 8 个模型上:


        Model             Input   Cached   Output    Cost
                  (MTok)   (MTok)   (MTok)
----------------  ------  -------  -------  ------
Fable 5             0.3    1,440      7.3   $2,510
Opus 5             0.05    1,573      5.8   $1,221
Opus 4.8            0.7      754      4.5     $687
Kimi K3            75.3      852      7.0     $645
Opus 5.5           0.01      368      3.4     $245
GPT 5.6            15.3      261      1.5     $237
Sonnet 5           14.9      390      2.9     $190
GPT 5.5             2.7      100      0.3      $74
Everything else     4.0      113      1.7      $63
      

你可以据此估算我使用量的环境影响,以及按年折算会是多少:


        Energy     Water      Carbon
             (kWh)      (L)        (kg CO2)
----------   --------   --------   --------
Per Mtok         0.14      0.35        0.05
Per dollar     ~0.20      ~0.51       ~0.07
My usage      ~1,200     ~3,000        ~410
Annualised    ~2,200     ~5,700        ~780
      

让我们用我其他一些环境影响来做个对照:

  • 能源:我们家夏天每月用电约 2300 kWh,冬天每月约 1300 kWh。差异这么大是因为休斯顿很热,而且尽管我们的房子保温非常好、制冷也很少(按美国标准),电费仍然很高。所以一年总共约 21,500 kWh。
  • 水:我们的灌溉系统每周使用 400 加仑 × 3 天 ≈ 4,500 L/周 ≈ 240,000 L/年。这是我们的园林设计师建议的,我当时并没有认真考虑,但现在回头看,我觉得这是应该改变的事情。
  • 碳:我们使用 100% 太阳能电力,也有电动汽车,所以我认为我的主要碳影响来自飞行(我飞得很多)。在过去 12 个月里,我乘坐了 45 次航班,总航程约 137,000 km,在空中约 203 小时,估计约 25,400 kg CO2。

        Water     Energy   Carbon
                 (L)       (kWh)    (kg CO2)
--------------   --------  -------  --------
My lifestyle     240,000   21,500     25,400
Coding agents      5,700    2,200        780
%                     2%      10%         3%
      

所以总体而言,我使用 AI 的碳影响和水影响都很小,能源影响也很小。但那是我的个人使用情况,在其中(至少在过去几个月里)我用 Posit Assistant 仔细监控成本,并且非常清楚自己在花什么钱。

如果你改用订阅呢?上一篇帖子我提到,$200/月的 Claude Max 计划能让你获得价值在 $2,000 到 $10,000 之间的 token。假设我大量依赖它,每月使用价值 $5,000 的 token,那么每年约 12,000 kWh 能源、约 31,000 L 水,以及约 4,200 kg CO2。所以最大的环境影响来自订阅,而订阅掩盖了底层成本,对于使用多个订阅的人来说尤其如此。

结论

所以总体而言,我并不太担心我使用编码代理带来的环境影响。但我确实对我在灌溉上用了多少水感到不安,我会研究减少用水。我也仍然对我航班的碳影响感到不安,但除了继续向气候慈善机构捐款,我不确定还能做什么。

我的月度支出也大幅下降了,因为我对不同模型的成本有了更多了解。我总支出中大约一半花在了 Fable 上,而我现在使用这种水准的模型要节省得多。我认为每月花 $200-$500 在 AI 上就能完成很多事,而且我认为对大多数人(或至少大多数美国人)来说,这不会显著增加你的环境影响。

你们怎么看?我的分析看起来合理吗?有没有什么方法可以改进它?我是不是对自身环境影响过于宽容?

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗