Newshot

LLM Token 限制演示?

Translation(model translation, not the source's own text)

文章标题:LLM Token 限额演示?

正文: 一个类 GTA6 的 942Kb UEFI 可启动镜像(YouTube 讲解视频、Hacker News 讨论帖)最近出现在我的信息流里。不管它是不是 vibe coding 出来的,它仍然是压缩技术上的一次壮举。作为对比,GHC 编译出的“Hello, world!”可执行文件有 1.3MB,而 Rust 做同样的事只需 440KB。看到这个之后,demoscene 一直在我脑海里盘旋。今天早上,它以有趣的方式和关于软件定价的一些想法撞到了一起。

我喜欢以固定价格连同源代码一起出售软件的想法。我想象中 2026 年会出现的一个常见问题是:“既然我可以用 LLM 自己做一个,为什么要买这个?”我目前的回答会是:“如果那样做在经济上划算,那就去做吧!”

“自建而非购买”一直是一个选项。如果你知道别人的程序是做什么的,哪怕只是在高层次上了解,那么只要有足够的时间和精力,你就能做出一个功能相同的程序。当预计所需的时间和精力足够高、或者足够不确定时,购买就是个好主意。LLM 大幅降低了复制一个程序功能所需的时间和精力。它们也让量化软件的生产成本变得更容易,因为你是按 token 付费的。所以,检验一个程序价格的方法之一,是考虑用 LLM 复刻它需要花多少 token 成本。如果我以 $10 出售一个程序,但一个最先进的 LLM 能以 $1 可靠地复刻它,那我就会被压价。但如果反过来,复刻这个程序要花 $100 的 token,那么购买仍然是划算的。

这么一想,我意识到自己对任何模型在给定固定预算下的潜力都没有清晰的概念。Demo 通常有程序大小限制,比如 4KiB 或 64KiB,这迫使程序员把平台的每一分潜力都榨出来。我很好奇,如果人们在特定 token 预算下进行 LLM 程序挤压竞赛,会发生什么。例如,用 $10(2026 年 11 月定价)的 Claude Fable 5.2,你能构建出的技术难度最高的东西是什么?那 $100 呢?预算 10 倍,你能做出 10 倍的东西吗?相比于单纯使用更多资源,通过尝试把这些系统推向极限,我们能学到关于它们的什么?

← Sunstone dev log 28: exposure compensation Newest

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗