[DeepInfra] Granite-4.2-8B 定价指南：各家服务商对比

Granite-4.2-8B 定价指南：各家服务商对比

DeepInfra 发布于 2026.10.18

如果你想找一个体量小的开放权重推理模型，Granite-4.2-8b 是个务实的选择。它在 DeepInfra 上是每 100 万输入 token $0.06、每 100 万输出 token $0.25。在小型（4B 到 40B）开放权重模型这一档里，它在 Artificial Analysis Intelligence Index 上拿到 11 分。

它的输入价低于同类模型 $0.12 的中位数，输出价与 $0.25 的中位数持平。你可以直连，也可以通过多家服务商的路由层访问。

Granite-4.2-8b 是 IBM 的 Granite 家族里的一个 80 亿参数推理模型，2026 年 8 月底发布，由 Granite-4.1-8B-Base 后训练而来。它是一个 decoder-only 的稠密 transformer，文本进文本出，Apache 2.0 许可，权重在 Hugging Face 上公开。

开发者能拿到 131,072 token 的上下文窗口、工具调用、结构化 JSON 输出，以及三种推理模式：完整思考、低投入、非思考。你选哪种模式，就决定了愿意为“多想一会儿”付多少钱。想在本机试，Ollama 上的量化版 Granite 4.2 8B 是个方便的起点。

这个模型的吸引力来自它取舍的形状。它把开放权重、商用友好的许可和长上下文凑在一起，Intelligence Index 得分 11，在 141 个模型里排第 35。Artificial Analysis 还说它有点啰嗦——这一点要紧，因为输出量大的推理模型可能输入看着便宜、实际用起来贵。

速度上，首 token 延迟 0.85 秒，对照 1.17 秒的中位数是有竞争力的。各家服务商的吞吐量差别不小，所以选哪家本身就是定价决定的一部分。

评估 Granite-4.2-8b 最后落在一个很实际的问题上：它的成本结构、131K 上下文窗口和可选服务商，配不配得上你的生产约束。这篇指南覆盖 DeepInfra、CoreWeave，以及 OpenRouter 的路由层。

Granite-4.2-8b 要点摘要

Granite-4.2-8b 的定价是为在意成本的生产用途准备的。在 DeepInfra 上是输入 $0.06/M、输出 $0.25/M、缓存 $0.015/M。OpenRouter 在它那条 DeepInfra 路由上标的是同样的价格，CoreWeave 给的是输入 $0.10/M、输出 $0.15/M、缓存 $0.05/M。

它适合想要一个 Apache 2.0 许可、带长上下文、工具调用和灵活部署的推理模型的团队。低成本直连这一项上 DeepInfra 是最强选择，CoreWeave 和 OpenRouter 是主要的替代项。

适合什么推荐的服务商原因 最低价格与成本敏感型负载DeepInfraDeepInfra 标的是输入 $0.06/M、输出 $0.25/M、缓存 $0.015/M，在本篇覆盖的服务商里输入价和缓存价都是最低的。 带 API 特性的直连生产部署DeepInfra它提供公开 API 访问、零数据留存、JSON 输出、function calling、私有端点，以及完整的 131,072 token 上下文窗口。 最省事的接入、最快打出第一个请求OpenRouterOpenRouter 兼容 OpenAI，还额外提供自动故障切换，以及 Balanced、Nitro、Floor、Exacto 四种路由模式，集成和运维的摩擦更小。 RAG、文档密集或高吞吐的用途DeepInfraArtificial Analysis 在 DeepInfra 上测到每秒 120 个输出 token，CoreWeave 是 89，而且 DeepInfra 的输入价更低。 带可靠性保障的托管模型访问OpenRouterOpenRouter 标称过去 24 小时可用性 99.98%，而没有路由时是 99.03%。 工具调用负载DeepInfra，或 OpenRouter 的 Exacto 模式DeepInfra 列出 JSON 输出和 function calling，而 OpenRouter 的 Exacto 模式按最高的工具调用准确率来路由。

token 是什么，你怎么被计费

token 计价看起来简单，直到一个推理模型写得比你预期的多。Granite-4.2-8b 输入便宜、输出也算合理，但 Artificial Analysis 给它的评级是有点啰嗦。把这点算进预算，定价就很顺；只看输入价那个醒目的数字，账单可能给你一惊。

一个 token 是一段文本，可能比一个词短，也可能比它长。短词可能就是一个 token。更长的词、标点、代码和 JSON 结构全都计入。

通常是分开计费的：

你发给模型的 token 模型生成回来的 token 缓存的 prompt token，当服务商对重复的 prompt 前缀打折时

token 类型是什么为什么要紧 输入 token你的 prompt、system message、工具 schema、聊天历史和检索到的上下文里的 tokenGranite-4.2-8b 在 DeepInfra 上是 $0.06/M。这对 RAG、长指令和多轮智能体状态很有帮助。 输出 token模型在回复里生成的 token，包括重推理或结构化的响应成本就是在这里悄悄涨上去的。Granite-4.2-8b 在 DeepInfra 上输出是 $0.25/M，而 Artificial Analysis 说它有点啰嗦。 缓存 token被复用的 prompt token，服务商从缓存里按折扣价提供当你反复发送大块 system prompt、工具定义或重复上下文时有用。DeepInfra 标 $0.015/M，相对基础输入价是 75% 的折扣。

对 Granite-4.2-8b 来说，实际的计费形状是这样：

长 prompt 相对便宜。 长回答的影响更大。 被复用的 prompt 前缀是缓存真正省钱的地方。

Artificial Analysis 报出一个每 100 万 token $0.05 的混合价，用的是 7:2:1 的缓存命中、输入、输出配比。只有你的流量真按这个配比走，这个混合价才适用。

如果你的应用产出长篇推理轨迹、啰嗦的工具参数或笨重的 JSON，你的真实成本会往输出价那边偏。 如果你的应用反复发送同一套 system prompt、工具 schema 和文档样板，缓存折扣是真能干活事的。

Granite-4.2-8b 在各家服务商上的 token 成本取舍

选哪家，会改变你账单的形状。DeepInfra 在输入和缓存上更便宜，CoreWeave 在输出上更便宜。

服务商输入输出缓存token 成本上的优势token 成本上的劣势 DeepInfra$0.06/M$0.25/M$0.015/M最适合 prompt 密集的负载、RAG、长上下文和可复用的 prompt 前缀输出价更高，所以啰嗦的生成可能把输入便宜这点优势抵掉 经 DeepInfra 路由的 OpenRouter$0.06/M$0.25/M$0.015/M与 DeepInfra 相同的 token 经济性，外加路由带来的省事输出成本结构与 DeepInfra 相同 经 OpenRouter 的 CoreWeave$0.10/M$0.15/M$0.05/M更适合输出密集的负载，尤其当模型长时间推理时输入和缓存更贵，所以大 prompt 和重复上下文会累积起来 OpenRouter 自动路由$0.06 到 $0.10/M$0.15 到 $0.25/M$0.015 到 $0.05/M故障切换和多种路由模式，包括挑最便宜服务商的 Floor成本取决于每个请求由哪家服务商承接

实际的分工是这样：

如果你的应用往模型里送大量 token，选 DeepInfra。 如果你的应用从模型里拿回大量 token，选 CoreWeave。 如果你要运维上的弹性、又能接受每个请求价格浮动，选 OpenRouter 的路由。

速度是第二个因子。Artificial Analysis 测到 DeepInfra 每秒 120 个输出 token，CoreWeave 每秒 89 个。一个 500 token 的回复在 DeepInfra 上花 21.69 秒，在 CoreWeave 上花 28.72 秒。首个数据块的时间差不多，分别是 0.77 秒和 0.74 秒。

被测出来的啰嗦程度让输出成本变成一个预算问题。Artificial Analysis 在它的 Intelligence Index 跑测里产出过 130M 输出 token，而同类模型的中位数是 82M。给这个模型定价时别只算输入成本。

几个具体的形态：

长文档上的 RAG： DeepInfra 通常成本结构更干净，因为输入和缓存都便宜。 短答案的结构化抽取： DeepInfra 往往仍然是赢家，因为输出是有界的。 长回复的推理助手： CoreWeave 整体可能更便宜，尽管它的输入价更高——不过它测出来的输出速度也更慢。 重复工具 schema 和稳定 system prompt 的智能体流程： DeepInfra 从低缓存价里获益更多。 基于路由器的部署： OpenRouter 可能把流量发给任何一家，所以盯住实际的厂商配比，别只信上面那行标价。

估算 Granite-4.2-8b 成本最稳的办法，是分别建模三个数：

每个请求的平均输入 token 数 每个请求的平均输出 token 数 重复 prompt 前缀上的缓存命中率

省掉输出那一项估算，模型可能给你意外。不管缓存行为，你很可能把重复型 agent 负载的价算偏一大截。

DeepInfra：最适合 prompt 密集的负载

DeepInfra 是在生产规模上跑 Granite-4.2-8b 最便宜的一档。该公司说它的服务是从底层建起来的，从 GPU 硬件到 API 层都自己来做。这种自持让它能掌控成本、性能和可靠性。

配这个模型，DeepInfra 把低 token 价格和实用的部署特性放在一起：公开 API 访问、零数据留存、JSON 输出、function calling 和私有端点。

模型名最佳用途上下文窗口输入（每 100 万）输出（每 100 万） Granite-4.2-8b高性价比的推理、工具使用和长上下文 API 负载131,072 token$0.06$0.25

DeepInfra 把 Granite-4.2-8b 标为每 100 万输入 token $0.06、每 100 万输出 token $0.25。这让它成为在优化 token 开销的团队眼里的一个高效选项，尤其是 prompt 密集和重复上下文的负载。DeepInfra 还提供每 100 万缓存 token $0.015。

如果你预期有可观的量，Granite-4.2-8b 上第一个该进候选名单的服务商就是 DeepInfra。

开发者的真实成本场景

下面每个场景都在 DeepInfra 上跑 Granite-4.2-8b，并按 CoreWeave 的标价做对比。当负载是 prompt 密集、上下文密集或吃得到缓存时，DeepInfra 最强。

场景 1：大内部文档上的 RAG 支持助手

你在做一个面向开发者的支持机器人，回答之前会先检索内部 runbook、SDK 文档、事故记录和架构页。每个请求都带一个装着检索上下文的大 prompt，而答案规模适中。RAG 负载在输入上的花费高于输出，所以低输入价最要紧。

量模型服务商输入 token输出 token月度成本 每月 10M tokenGranite-4.2-8bDeepInfra8M2M$0.98

成本核算：

输入：8M × $0.06/M = $0.48 输出：2M × $0.25/M = $0.50 合计：每月 $0.98

同一负载在 CoreWeave 上是每月 $1.10，所以 DeepInfra 便宜 $0.12。

场景 2：重复工具 schema 与缓存 system prompt 的智能体流程

你要上线一个内部编码或运维 agent，每次调用都发送同样的 system prompt、工具定义和响应 schema。DeepInfra 的 $0.015/M 缓存价让这些重复前缀比常规输入 token 便宜得多。

IBM 说 Granite 4.2 系列模型在调用工具之前会先想清楚要调哪个、以及为什么。这个行为很配骨架稳定的智能体流程。

量模型服务商输入 token输出 token月度成本 每月 10M tokenGranite-4.2-8bDeepInfra2M 输入 + 7M 缓存1M$0.48

成本核算：

输入：2M × $0.06/M = $0.12 缓存：7M × $0.015/M = $0.105 输出：1M × $0.25/M = $0.25 合计：$0.475，取整为每月 $0.48

同样的 token 配比在 CoreWeave 上是每月 $0.70（输入 $0.20、缓存 $0.35、输出 $0.15），所以 DeepInfra 便宜约 $0.23。

场景 3：长上下文文档分诊，输出是简短的结构化结果

假设你要处理产品规格、合同、工单或合规文档。你让 Granite-4.2-8b 返回紧凑的 JSON，比如分类、抽取字段、风险标记或摘要。模型读得多、写得少。你拿到它的长上下文窗口和结构化输出支持，又不必为发送大输入付溢价。

量模型服务商输入 token输出 token月度成本 每月 50M tokenGranite-4.2-8bDeepInfra45M5M$3.95

成本核算：

输入：45M × $0.06/M = $2.70 输出：5M × $0.25/M = $1.25 合计：每月 $3.95

同一负载在 CoreWeave 上是每月 $5.25，所以 DeepInfra 便宜 $1.30。

场景 4：带持久会话状态的多轮应用

你在做一个多语言助手，每一轮都带上此前的会话状态、策略指令和检索到的片段。Granite-4.2-8b 支持 12 种语言，而低输入价让重复的上下文负担得起。当回答保持简短、而 prompt 随时间变长时，这种组合最合适。

量模型服务商输入 token输出 token月度成本 每月 20M tokenGranite-4.2-8bDeepInfra16M4M$1.96

成本核算：

输入：16M × $0.06/M = $0.96 输出：4M × $0.25/M = $1.00 合计：每月 $1.96

同一负载在 CoreWeave 上是每月 $2.20，所以 DeepInfra 便宜 $0.24。

场景 5：转私有部署之前的廉价试验

很多开发者是从原型开始的，而不是从量开始。DeepInfra 上的 Granite-4.2-8b 让你通过公开 API 试工具调用、JSON 输出和长 prompt，之后可以转到带零数据留存的私有端点。一小笔 token 预算就够跑有意义的实验。

量模型服务商输入 token输出 token月度成本 每月 5M tokenGranite-4.2-8bDeepInfra4M1M$0.49

成本核算：

输入：4M × $0.06/M = $0.24 输出：1M × $0.25/M = $0.25 合计：每月 $0.49

同一负载在 CoreWeave 上是每月 $0.55，所以 DeepInfra 便宜 $0.06。

这些场景说明了什么

五个场景里同一个模式都成立：

当 Granite-4.2-8b 读得比写得多的时候，DeepInfra 最合适。 当你能复用 prompt 前缀、吃到 $0.015/M 的缓存 token 时，它更好。 它对这几类尤其有吸引力： RAG 抽取流水线 多轮助手 工具 schema 稳定的智能体 后续可能需要私有部署的早期原型

如果你的负载由大 prompt、重复上下文和被控制住的输出长度主导，那在本篇覆盖的服务商里，DeepInfra 给出的成本结构最干净。

结论

给 Granite-4.2-8b 选服务商，最后取决于你的 token 开销落在哪一头。这个模型喂起来便宜，输出处定价也算合理。而它被测出来的啰嗦程度，让账单里输出那一侧比输入标价看起来更要紧。

这个比例算错，纸面上最便宜的那家在实际上可能花得更多。

prompt 密集、吃得到缓存的负载最配 DeepInfra 的 $0.06/M 输入和 $0.015/M 缓存价。例子包括 RAG 流水线、schema 稳定的工具调用智能体，以及文档抽取。

如果你的负载输出密集、模型又会长时间推理，那就拿 CoreWeave 更低的 $0.15/M 输出价去对你真实的 token 比例建模。它测出来的输出速度较低这点也要一起权衡。如果你在意运维弹性，OpenRouter 的路由层带来故障切换和更高的标称可用性。

实操清单很短：估你的平均输入长度、估你的平均输出长度、再判断可复用的 prompt 前缀能不能换来缓存折扣。这三个数对月度成本的预测力，比任何混合基准价都强。

Granite-4.2-8b 的 Apache 2.0 许可和公开权重让你不必绑死在任一服务商上。先用托管 API 起步、以后再迁移，是一条真实可走的路。Granite 4.2 8B 的 chat completions API 参考覆盖了集成细节。

拿几个有代表性的请求跑一遍 DeepInfra 的 API，量出你实际的 token 比例，再从那里往下建。起步成本足够低，这个实验很便宜。

相关文章

NVIDIA Nemotron 3 Nano Omni 上线 DeepInfraDeepInfra 是 NVIDIA Nemotron 3 Nano Omni 的官方发布伙伴，这是 Nemotron 3 家族里第一个多模态模型——一个开放权重模型，在一次统一的推理过程里理解图像、视频、音频、文档和文本。

OpenCode：开源的 Claude Code 替代品

高强度用了一个月 agent 之后打开云账单，那个数字就不再抽象了。团队报告的编码助手成本是每位开发者几百美元，有些团队现在像当年配给云计算资源那样给 token 定预算。然后 2026 年 6 月，美国政府禁止非美国籍人士使用 Anthropic 的 Fable 5， […]

推出 Priority Service Tier：关键时刻的排队首位推理为优先调度和受保护容量支付实时价格的 1.5 倍。

查看全部