
aillmsinferenceresearch
Tokenomiks I:LLM 发布、限制与定价
2026年11月14日 • 8 分钟阅读
自 2022 年 11 月 ChatGPT 在 GPT-3.5 驱动下发布以来,软件行业迅速将 LLM 推向舞台中央。对许多软件工程师而言,如今的工作或多或少都涉及 LLM,无论是用它们写代码、开发模型本身、构建其运行的基础设施,还是将它们集成到产品中。
但自 LLM 成为主流以来,模型本身发生了哪些变化?人们很容易沉迷于每一次新发布,而意识不到我们已经走了多远。
如同站点可靠性工程一样,我想从指标入手。作为本系列的第一部分,本文聚焦于模型发布频率、token 限制和 token 定价。
我希望这项初步分析聚焦于市场领导者,因此我考察了五家美国实验室截至 2026 年 11 月 11 日的主要专有模型发布。大多数图表以 OpenAI、Anthropic 和 Google 为起点。你也可以选择 Meta 和 SpaceX/xAI。
模型分组
为了避免苹果比橘子,我按照各实验室对模型的定位进行了分组。
- 经济型:为低成本和快速响应而构建的模型,尤其适用于应用需要大量调用的场景。示例:Claude Haiku 5.5 查看全部 40 个模型 OpenAIcodex-mini-latest(初始模型)gpt-3.5-turbo-0125gpt-3.5-turbo-0301gpt-3.5-turbo-0613gpt-3.5-turbo-1106gpt-3.5-turbo-16k-0613gpt-4.1-mini-2025-04-14gpt-4.1-nano-2025-04-14gpt-4o-mini-2024-07-18GPT-5 Instant Minigpt-5-mini-2025-08-07gpt-5-nano-2025-08-07gpt-5.1-codex-miniGPT-5.3 Instant Minigpt-5.4-mini-2026-03-17gpt-5.4-nano-2026-03-17GPT-5.5 Instant Minigpt-5.6-lunagpt-6-lunao1-mini-2024-09-12o3-mini-2025-01-31o4-mini-2025-04-16AnthropicClaude Instant(2023 年 3 月发布)claude-3-5-haiku-20241022claude-3-haiku-20240307claude-haiku-4-5-20251001claude-haiku-5-5claude-instant-1.2Googlegemini-1.5-flash-8bgemini-1.5-flash-8b-exp-0827gemini-1.5-flash-8b-exp-0924gemini-2.0-flash-litegemini-2.0-flash-lite-preview-02-05gemini-2.5-flash-litegemini-2.5-flash-lite-preview-06-17gemini-2.5-flash-lite-preview-09-2025gemini-3.1-flash-litegemini-3.5-flash-liteMetamuse-ember-1.0SpaceX / xAIgrok-3-mini
经济型:为低成本和快速响应而构建的模型,尤其适用于应用需要大量调用的场景。
示例:Claude Haiku 5.5
OpenAI
- codex-mini-latest(初始模型)
- gpt-3.5-turbo-0125
- gpt-3.5-turbo-0301
- gpt-3.5-turbo-0613
- gpt-3.5-turbo-1106
- gpt-3.5-turbo-16k-0613
- gpt-4.1-mini-2025-04-14
- gpt-4.1-nano-2025-04-14
- gpt-4o-mini-2024-07-18
- GPT-5 Instant Mini
- gpt-5-mini-2025-08-07
- gpt-5-nano-2025-08-07
- gpt-5.1-codex-mini
- GPT-5.3 Instant Mini
- gpt-5.4-mini-2026-03-17
- gpt-5.4-nano-2026-03-17
- GPT-5.5 Instant Mini
- gpt-5.6-luna
- o1-mini-2024-09-12
- o3-mini-2025-01-31
- o4-mini-2025-04-16
Anthropic
- Claude Instant(2023 年 3 月发布)
- claude-3-5-haiku-20241022
- claude-3-haiku-20240307
- claude-haiku-4-5-20251001
- claude-haiku-5-5
- claude-instant-1.2
- gemini-1.5-flash-8b
- gemini-1.5-flash-8b-exp-0827
- gemini-1.5-flash-8b-exp-0924
- gemini-2.0-flash-lite
- gemini-2.0-flash-lite-preview-02-05
- gemini-2.5-flash-lite
- gemini-2.5-flash-lite-preview-06-17
- gemini-2.5-flash-lite-preview-09-2025
- gemini-3.1-flash-lite
- gemini-3.5-flash-lite
Meta
- muse-ember-1.0
SpaceX / xAI
- 均衡型:追求能力、速度和成本实用组合的日常模型。示例:Claude Sonnet 5.5 查看全部 41 个模型 OpenAIGPT-5 InstantGPT-5.1 InstantGPT-5.2 InstantGPT-5.3 Instant(初始 gpt-5.3-chat-latest)GPT-5.5 Instantgpt-5.6-terragpt-6.1-terraAnthropicclaude-3-5-sonnet-20240620claude-3-5-sonnet-20241022claude-3-7-sonnet-20250219claude-3-sonnet-20240229claude-sonnet-4-20250514claude-sonnet-4-5-20250929claude-sonnet-4-6claude-sonnet-5claude-sonnet-5-5Googlechat-bison@001chat-bison@002code-bison@002codechat-bison@002gemini-1.5-flashgemini-1.5-flash-001gemini-1.5-flash-002gemini-1.5-flash-exp-0827gemini-2.0-flashgemini-2.0-flash-expgemini-2.0-flash-thinking-exp-01-21gemini-2.0-flash-thinking-exp-1219gemini-2.5-flashgemini-2.5-flash-preview-04-17gemini-2.5-flash-preview-05-20gemini-2.5-flash-preview-09-2025gemini-3-flash-previewgemini-3.5-flashgemini-3.6-flashgemini-3.7-flashgemini-3.8-flashtext-bison@001text-bison@002SpaceX / xAIgrok-4-1-fast-non-reasoninggrok-4-1-fast-reasoning
均衡型:追求能力、速度和成本实用组合的日常模型。
示例:Claude Sonnet 5.5
OpenAI
- GPT-5 Instant
- GPT-5.1 Instant
- GPT-5.2 Instant
- GPT-5.3 Instant(初始 gpt-5.3-chat-latest)
- GPT-5.5 Instant
- gpt-5.6-terra
- gpt-6.1-terra
Anthropic
- claude-3-5-sonnet-20240620
- claude-3-5-sonnet-20241022
- claude-3-7-sonnet-20250219
- claude-3-sonnet-20240229
- claude-sonnet-4-20250514
- claude-sonnet-4-5-20250929
- claude-sonnet-4-6
- claude-sonnet-5
- claude-sonnet-5-5
- chat-bison@001
- chat-bison@002
- code-bison@002
- codechat-bison@002
- gemini-1.5-flash
- gemini-1.5-flash-001
- gemini-1.5-flash-002
- gemini-1.5-flash-exp-0827
- gemini-2.0-flash
- gemini-2.0-flash-exp
- gemini-2.0-flash-thinking-exp-01-21
- gemini-2.0-flash-thinking-exp-1219
- gemini-2.5-flash
- gemini-2.5-flash-preview-04-17
- gemini-2.5-flash-preview-05-20
- gemini-2.5-flash-preview-09-2025
- gemini-3-flash-preview
- gemini-3.5-flash
- gemini-3.6-flash
- gemini-3.7-flash
- gemini-3.8-flash
- text-bison@001
- text-bison@002
SpaceX / xAI
- grok-4-1-fast-non-reasoning
- grok-4-1-fast-reasoning
- 旗舰型:公司的主要高能力模型,面向更高要求的工作负载。示例:Claude Opus 5.5 查看全部 69 个模型 OpenAIcodex-1gpt-4-0125-previewgpt-4-0314gpt-4-0613gpt-4-1106-previewgpt-4-32k-0314gpt-4-32k-0613gpt-4-turbo-2024-04-09gpt-4.1-2025-04-14gpt-4.5-preview-2025-02-27gpt-4o-2024-05-13gpt-4o-2024-08-06gpt-4o-2024-11-20gpt-5-2025-08-07gpt-5-codexgpt-5.1-2025-11-13gpt-5.1-codexgpt-5.1-codex-maxgpt-5.2-2025-12-11gpt-5.2-codexgpt-5.3-codexgpt-5.4-2026-03-05gpt-5.5-2026-04-23gpt-5.6-solgpt-6-solgpt-6.1-solo1-2024-12-17o1-preview-2024-09-12o3-2025-04-16AnthropicClaude(2023 年 3 月发布)claude-2.0claude-2.1claude-3-opus-20240229claude-opus-4-1-20250805claude-opus-4-20250514claude-opus-4-5-20251101claude-opus-4-6claude-opus-4-7claude-opus-4-8claude-opus-5claude-opus-5-5Googlegemini-1.0-progemini-1.5-progemini-1.5-pro-001gemini-1.5-pro-002gemini-1.5-pro-exp-0801gemini-1.5-pro-exp-0827gemini-2.0-pro-exp-02-05gemini-2.5-progemini-2.5-pro-exp-03-25gemini-2.5-pro-preview-03-25gemini-2.5-pro-preview-05-06gemini-2.5-pro-preview-06-05gemini-3-pro-previewgemini-3.1-pro-previewtext-unicorn(初始 GA)MetaMuse SparkMuse Spark 1.1Muse Spark 1.2Muse Spark 1.3Muse WonderSpaceX / xAIgrok-1-productgrok-2-betagrok-3grok-4-0709grok-4.20grok-4.5grok-4.6grok-4.7
旗舰型:公司的主要高能力模型,面向更高要求的工作负载。
示例:Claude Opus 5.5
OpenAI
- gpt-4-0125-preview
- gpt-4-1106-preview
- gpt-4-32k-0314
- gpt-4-32k-0613
- gpt-4-turbo-2024-04-09
- gpt-4.1-2025-04-14
- gpt-4.5-preview-2025-02-27
- gpt-4o-2024-05-13
- gpt-4o-2024-08-06
- gpt-4o-2024-11-20
- gpt-5-2025-08-07
- gpt-5.1-2025-11-13
- gpt-5.1-codex
- gpt-5.1-codex-max
- gpt-5.2-2025-12-11
- gpt-5.2-codex
- gpt-5.3-codex
- gpt-5.4-2026-03-05
文章标题:自 GPT 3.5 以来的 LLM 发布、Token 限制与定价
正文:
- gpt-5.5-2026-04-23
- o1-2024-12-17
- o1-preview-2024-09-12
- o3-2025-04-16
Anthropic
- Claude(2023 年 3 月发布)
- claude-3-opus-20240229
- claude-opus-4-1-20250805
- claude-opus-4-20250514
- claude-opus-4-5-20251101
- claude-opus-4-6
- claude-opus-4-7
- claude-opus-4-8
- claude-opus-5
- claude-opus-5-5
- gemini-1.0-pro
- gemini-1.5-pro
- gemini-1.5-pro-001
- gemini-1.5-pro-002
- gemini-1.5-pro-exp-0801
- gemini-1.5-pro-exp-0827
- gemini-2.0-pro-exp-02-05
- gemini-2.5-pro
- gemini-2.5-pro-exp-03-25
- gemini-2.5-pro-preview-03-25
- gemini-2.5-pro-preview-05-06
- gemini-2.5-pro-preview-06-05
- gemini-3-pro-preview
- gemini-3.1-pro-preview
- text-unicorn(初始 GA)
Meta
- Muse Spark 1.1
- Muse Spark 1.2
- Muse Spark 1.3
SpaceX / xAI
- grok-1-product
- Premium:定位高于常规旗舰的模型,强调进一步推高能力。示例:Claude Fable 5.2 查看全部 13 个模型 OpenAIgpt-5-progpt-5.2-progpt-5.4-progpt-5.5-progpt-6-astrao1-proo3-pro-2025-06-10Anthropicclaude-fable-5claude-fable-5-1claude-fable-5-2Googlegemini-4-argongemini-4-carbonMetaMuse Wonder Full
Premium:定位高于常规旗舰的模型,强调进一步推高能力。
示例:Claude Fable 5.2
OpenAI
- o3-pro-2025-06-10
Anthropic
- claude-fable-5
- claude-fable-5-1
- claude-fable-5-2
- gemini-4-argon
- gemini-4-carbon
Meta
- Muse Wonder Full
模型发布速度有多快?
正在加载有来源的观测数据…
- 旗舰模型的发布间隔正在缩短。对于 OpenAI、Anthropic 和 Google,中位数从 2023 年的 119 天降至 2025 年的 47.5 天。2026 年升至 57 天。OpenAI 的中位数从 46 天降至 41 天,Anthropic 从 111 天降至 60 天,而 Google 今年只发布了一款旗舰模型,即 Premium 中的 Gemini 4 Argon/Carbon。
- Anthropic 和 Google 的经济型模型发布变得更加稀疏。Anthropic 最近两次间隔分别为 345 天和 357 天,高于 2024 年的 217 天和 236 天。Google 从 2025 年的五次发布降至 2026 年至今的两次。OpenAI 从六次降至五次。
- Google 在均衡型模型上的发布间隔最短。2026 年,其中位间隔为 43 天,而 OpenAI 约为 74 天,Anthropic 为 133 天。
我的猜测是,更好的开放权重模型正在对经济型层级施加压力。如果人们可以在廉价的开放权重模型上运行日常任务,那么使用可能更昂贵的专有模型的理由就更少了。
模型能处理多少内容?
容量图表展示了每个模型有文档记录的标准 API 限制,按模型发布日期绘制。虚线是迄今为止发布的最高限制。实心点是在发布后 30 天内记录的数据。空心点来自后来的文档,主要是当前文档,因此发布当天的限制可能有所不同。
输入 token 限制限定了你发送的内容,包括指令、聊天记录和文档。一些 Gemini 模型分别公布输入和输出上限,因此你可以预先核对各预算。Claude 也记录了一个共享窗口。在 100K 共享窗口中,80K 的提示词最多留下 20K 用于生成。图表中,独立的输入上限用圆形表示,共享窗口用菱形表示。
正在加载有来源的观测数据…
上下文窗口是 API 允许模型一次处理的信息量。在共享窗口中,这包括提示词、其历史记录以及该轮生成的 token。
Google 通过 Gemini 1.5 Pro 提供了 200 万 token 的上下文窗口,但自 2025 年以来没有任何发布接近这一水平。对于旗舰模型,2026 年发布的 12 个上下文窗口中有 10 个约为 100 万 token,高于 2025 年的 16 个中的 4 个。
如今,如果智能体运行在良好的 harness 中,1M 似乎足以应对大多数任务。压缩会总结较早的轮次,为会话继续腾出空间。智能体记忆会把决策和进展等内容保存在窗口之外,以便下一个会话能从上一个会话中断的地方继续。如果 harness 保留原始记录,它就可以按需拉回细节。当任务需要同时查看大量原始材料时,更大的窗口仍然有帮助。
输出 token 限制会限制模型在单次请求中生成的内容。在某些 API 上,内部推理和可见答案都从同一预算中扣除。提供商必须为长答案和推理留出空间,同时保持响应时间、服务容量和每请求成本可控。
正在加载来源观察…
在 2026 年的数据中,三家实验室记录的标准输出限制分为两个区间。Anthropic 和 OpenAI 为 128k tokens,Google 为 65k。Gemini 4 可以使用 long decode 生成超过该默认值的内容。
Token 定价如何变化?
预填充并行处理提示并构建键值(KV)缓存。解码在逐个生成 token 时读取并扩展该缓存。在聚合式服务中,两个阶段共享 GPU。在分离式服务中,独立的 GPU 处理每个阶段,并将缓存从预填充传递到解码。
预填充通常计算密集,而解码往往受内存带宽限制。这种差异有助于解释为什么提供商对输入和输出收取不同的费率。
下面的价格是 API 发布时的标价。它们不包括后来的降价、缓存或批量折扣,也不包括任务实际使用多少 token。
正在加载来源观察…
输入和输出价格在四个层级中的变化不同。在经济型中,OpenAI 的价格总体较低,但在各版本之间波动很大。Anthropic 的价格从 Claude 3 Haiku 到 Haiku 4.5 上涨,然后在 Haiku 5.5 时下降了 10 倍。GPT-6 Luna 和 Haiku 5.5 均以每百万 token 输入 $0.10、输出 $0.50 的价格发布,这符合我上面提到的开放权重压力。
在均衡型中,Google 的 Flash 价格从早期低点上涨,而 Anthropic 在几代产品中保持 Sonnet 价格稳定,然后降低了两个费率。
在 OpenAI 和 Anthropic,旗舰型的输入和输出价格远低于早期水平。Google 的起步价低得多,然后上涨了。
生成的 token 贵多少?数据中旗舰型输出/输入成本比率的中位数是 5 倍。即使两个价格都下降,比率也可能上升。GPT-4 发布时每百万 token 输入 $30、输出 $60(2 倍)。GPT-5 发布时为 $1.25 和 $10(8 倍)。GPT-6.1 Sol 回到了 5 倍。
服务效率和定价决策都可以改变该比率。发布时,Gemini 2.5 Flash Preview 每百万输入 token 成本为 $0.15,但开启思考后,输出费率从 $0.60 提高到 $3.50。同一个模型根据思考级别从 4 倍变为约 23 倍。
围绕降低推理成本有大量持续研究,涉及预填充和解码两个阶段。在预填充方面,LMCache 让推理工作节点共享重复提示前缀的 KV 缓存,因此请求即使落到不同的工作节点上也可以跳过预填充工作。在解码方面,DFlash 通过一次草拟一批 token 供主模型验证来加速推测解码。作者报告称,在他们的基准测试中,生成速度比常规解码快 6 倍以上。
结论
正在加载来源观察…
发布间隔总体上正变得越来越短。考虑到更多资源投入 LLM,这是可以预期的,尽管不同实验室和模型组的速度有差异。Anthropic 在旗舰型和高级版发布上都加快了步伐,OpenAI 的旗舰型发布在 2026 年变得更快。Google 在 2026 年均衡型模型(Flash 模型所在位置)上的发布节奏最快。
最大的变化是模型可用的工作空间有多大。对于旗舰模型,输出上限中位数从 2023 年的约 4K tokens 增至 2026 年的 128K,约 31 倍;提示容量中位数从 100K 增至 1M,10 倍。我清楚地记得 Gemini 2.5 Pro 发布时,输出上限从 8K 跃升至约 65K,一夜之间让我早期的一堆 Detectr 技巧过时了。
尽管这些上限在 2024 年和 2025 年快速上升,但到 2026 年,重点转向了如何从这些上限中获得更多收益。框架、harnesses 和记忆机制缓解了这些上限造成的一些实际瓶颈。
定价更难找出统一趋势,因为它因模型层级而异。在旗舰级中,发布价格中位数在 2023 年后大幅下降,随后在 2026 年再次上升。在经济级中,输入发布价格的下降速度远快于输出价格。在均衡级中,两个中位数最终都比其 2024 年水平低约三分之一。
未来我可能会更深入地探讨其中一些领域。我把所有这些图表都做成了交互式的,这样你可以分组、筛选并得出自己的结论。我分享了数据和方法论,以便你可以自行分析。