GUIDE深度 · Deep dive
LLM 成本怎么算
LLM 成本不是每百万 token 单价。输入和输出分开、缓存命中率、重试、工具调用、嵌入和微调都会改变真实成本;用真实请求算每用户毛利。
公式
单次成本 = 输入 token×输入价 + 输出 token×输出价 + 其他。
月成本 = 请求数×平均成本 + 固定/平台费。
毛利 = 收入 - 月成本;按用户/任务拆。
容易漏
重试和失败请求也消耗 token。
工具调用/长上下文会放大输入。
缓存命中率不是 100%。
常见问题
输出为什么更贵?
多数厂商输出 token 单价高于输入;长回答会显著增加成本。
怎么降本?
缩短上下文、缓存、批处理、选合适模型、限制重试和输出长度。
数据来源
更多指南
LLM 生产成本清单阅读指南KEEP READING
继续读
按顺序读,或跳到同主题的其他指南。