测量真实用量
系统提示词、检索文档、工具定义和对话历史都会消耗输入 token。请抽样真实请求,不要只按用户看到的消息长度估算。
输入 token 包含缓存命中部分。命中的 token 仅按缓存读取价计费一次。
将各类 token 按各自费率计算,再乘以请求数。下面所有费率均按每百万 token 计价。
每次请求输入 1,000、输出 500 token。假设每百万输入 $2、输出 $8、缓存输入 $0.50,则未缓存输入 $12 + 缓存输入 $2 + 输出 $40。
$54.00 每月以上为示例价格,不代表某个模型的报价。
系统提示词、检索文档、工具定义和对话历史都会消耗输入 token。请抽样真实请求,不要只按用户看到的消息长度估算。
对推理 token 计费的模型,即使这些 token 没有出现在最终回答中,也应计入输出用量。请查看服务商的用量明细。
提示词缓存通常有适用条件、最小长度和过期时间。请使用观测到的命中率,不宜直接假设 100% 命中。