在线AI教程 / AI上云

[DeepInfra] 提示词卫生:更低成本、更快的 LLM API 调用

· 转自:deepinfra.com

提示词卫生:更低成本、更快的 LLM API 调用 2026.11.17 由 DeepInfra 发布 提示词卫生(prompt hygiene)是这样一种习惯:把 prompt

转载本文转自「deepinfra.com」,版权归原作者所有,内容已摘录正文、去除外部链接。

提示词卫生:更低成本、更快的 LLM API 调用

2026.11.17 由 DeepInfra 发布

提示词卫生(prompt hygiene)是这样一种习惯:把 prompt 写得干净、精简、无歧义。听起来像写作技巧,但在生产环境里,它起的作用等同于一次基础设施优化:减少 token 开销、改善延迟,并让模型输出更可预测,从而降低重试率。

当团队抱怨 LLM 调用“太贵”或“太慢”时,根本原因往往不是模型,而是 prompt。臃肿的输入、含糊的指令、没有边界的输出,会悄悄把成本抬高,并把可靠性变成一场赌博。

本文会说明提示词卫生是什么、为什么重要,以及如何落地,让你的调用更便宜、更快,同时不牺牲质量。

为什么提示词卫生在生产环境中很重要

在生产环境中,每一次 LLM 调用都有两项会出现在账单上:你发进去的 token 和模型发回来的 token。(如果这套算法对你还陌生,Pricing 101 里有完整讲解。)长 prompt 前期成本更高,处理通常也更慢。含糊的 prompt 往往在输出端花得更多,因为模型会靠生成你其实并不需要的额外文本来填补空白;而且在大多数模型上,输出 token 的定价高于输入 token。两者都会增加延迟。

不过,真正杀死预算的并不是“稍微啰嗦了一点”的回复,而是以错误形状返回的回复——缺字段、结构不对、根本没法解析——逼着你再跑一次调用。一次重试让这次调用的成本翻倍,还会造成那种用户立刻能察觉到的“随机变慢”的尾延迟。这也是没有任何人更换模型、API 账单却翻倍这类情况背后更隐蔽的原因之一。

提示词卫生,就是把这类的波动控制住最简单的办法。

“脏 prompt”长什么样

混乱的 prompt 往往以少数几种相同的方式失效。第一,它们“以防万一”地塞进过多上下文:有人粘贴整份文档、发来完整聊天记录,或者把同一条指令用三种不同说法重复一遍。这会让 token 用量膨胀,却很少让答案变好。

第二,它们包含含糊或互相冲突的约束。“要详细但要简洁”这种要求,在人类听来很合理,但它逼着模型去选择优先遵守哪条指令。有时它选“详细”,有时它选“简洁”。这种不一致,正是生产环境行为不可预测的来源。

最后,脏 prompt 往往没有定义输出契约。你想要 bullet 却不说,有时就会得到整段文字;你想要 JSON 却不给 schema,得到的会是个看起来像 JSON 的东西——直到某一天它不像了,解析器就崩了。

目标:减少歧义,给输出划边界

提示词卫生的核心思想很简单:减少模型必须做的决策数量。

当你明确任务、明确约束、明确输出格式时,就减少了生成过程中的“熵”。熵越低,模型越不容易跑偏、啰嗦,或凭空发明结构。

而当你给输出长度划了边界,你就直接控制了成本。一个好的 prompt 可以遵循这样的提纲:

任务: 用一句话尽早、明确地说明任务。 约束: 补上真正重要的规则:长度、必要时还有语气、允许使用的来源,以及信息缺失时该怎么做。 输出格式: 描述你希望模型返回的确切结构。 输入: 只提供这次调用必需的数据。

这不是为了死板而死板,而是给模型一条定义清晰的跑道,让你用更低的成本拿到稳定的结果。

最省钱的几条卫生规则

规则 1:把任务放在前两行

目标前置时,模型的表现最好。如果任务被埋在冗长的开场白之后,出现偏差的概率就会升高。

以“总结这段……”开头的 prompt,比以“你是一个乐于助人的助手……”开头、后面再跟上好几段场景铺垫的 prompt,留给模型误读的空间更小。

规则 2:删掉所有不改变答案的内容

每个 token 都有成本。如果一句话不能提升正确性、格式或合规性,就删掉它。落到实践上,这意味着砍掉打鸡血式的废话、重复的指令,以及对输出没有影响的“锦上添花”式背景。

规则 3:用可度量的限制给输出长度封顶

“保持简洁”是主观的,而主观约束被忽略的频率比团队预想的要高得多。硬性限制之所以有效,是因为它可以被度量。你可以用字数、bullet 条数、字符数或严格的 JSON 键来约束输出。即便是“最多 120 个词”这样简单的限制,也能大幅削减开销,因为账单里有很大一部分藏在输出的啰嗦里。

规则 4:永远指定输出格式

如果你的下游系统要解析结果,那格式就不是偏好问题,而是契约。明确告诉模型输出应该长什么样。如果需要 JSON,就给出 schema(我们的只返回 JSON 的响应指南展示了如何在 API 层强制执行)。如果需要 bullet,就指定条数和风格。如果需要标题,就指定标题。

再加一句防止多余文本的说明,比如“只输出结果,不要添加解释。”

规则 5:消除互相冲突的约束

含有矛盾指令的 prompt 会导致结果不一致。与其写“要详细但要短”,不如定义清楚“详细”指什么。例如要求“恰好三个风险点”或“包含两个边缘情况”,然后单独给长度封顶。这就把一个含糊的目标变成了确定的目标。

规则 6:定义信息缺失时该怎么做

如果你不定义缺失数据时的行为,模型往往会去猜。一句话就能避免幻觉和重试:“如果答案不在输入里,就写‘来源中未说明’。”或者:“如果字段缺失,返回 null。”这提升了可靠性,也减少了返工。

生产环境的卫生:规模上来之后变的是什么

一旦你开始反复调用同一个模型——尤其是在 API 后面——最大的浪费就不再是单次 prompt 啰嗦,而是为同一批 token 一次又一次地付全价。这里有两个习惯会带来巨大差别:把稳定不变的指令和每次请求的输入分开,以及有意识地决定如何喂上下文。

把稳定指令和每次请求的输入分开。 如果你发现自己每次都把同一份政策、语气指南或输出格式规则粘贴进请求,那你每一次调用都在交“税”。在生产环境里,更干净的做法是把 prompt 拆成两层。第一层是稳定、带版本的外壳(wrapper),装着始终适用的规则——输出格式、安全约束、缺失数据的处理方式等等。第二层是每次请求的 prompt,保持简短,只包含真实的用户输入和任务相关细节。API 是无状态的,所以这个外壳每次请求照样要带上;但一个每次都完全相同的外壳,可以以输入价格的一小部分从 prompt 缓存中读取(见下一节)。它还能让各个 endpoint 的行为保持一致,因为你不必依赖那些会随着时间慢慢漂移的复制粘贴指令。 优先检索和裁剪,而不是把上下文整坨倒进去。 另一个常见的成本陷阱,是因为答案“就在这份文档里的某处”而把整份文档发过去。你每次都为一整块文本付费,哪怕模型只需要其中一小段。更好的模式是检索或预先裁剪出相关部分,只把这些塞进 prompt。即便没有完整的 RAG 管线,你也常常能通过挑选特定章节、抽取关键词周围的几段,或只提供真正含有答案的 top 片段,把 token 用量大幅砍下来。更小、更相关的上下文通常还能提升质量,因为噪声少了,模型也更专注。

prompt 缓存:为永远不变的那部分少付钱

稳定的前缀也是可缓存的前缀。在 DeepInfra 上,prompt 缓存在受支持的模型上是自动的:当 prompt 的开头与同一模型上近期某次请求的前缀匹配时,缓存状态会被复用,模型跳过对那部分的重新处理,这些 token 按该模型的缓存输入价而不是标准输入价计费。

有两条卫生规则直接来自缓存的匹配方式:

把稳定内容放前面。 缓存从 prompt 开头开始匹配,所以 system prompt、格式规则和 few-shot 示例要放在用户输入之前。 让前缀逐字节一致。 改一个字符就会让匹配失效。把时间戳、用户 ID,以及一切会变化的东西都放到前缀之外。

下面算算这值多少钱。DeepSeek-V4-Pro-0813 的标准输入标价是每 1M token $1.30,缓存输入是每 1M $0.10。假设一个 3,000 token 的稳定外壳,每月在 20 万次请求里发送,也就是 6 亿前缀 token:

每 1M token 价格前缀的月度成本 标准输入$1.30$780 缓存输入$0.10$60

这是一个带有宽松假设的估算:每次请求都命中缓存。缓存条目在一段时间无活动后会过期,所以真实命中率取决于你的流量有多稳定。你可以从每次响应 usage 对象里的 prompt_tokens_details.cached_tokens 字段测出自己的命中情况。如果你需要某个前缀在保证的时间窗口内保持热态,prompt 缓存保留可以把它保留 5 分钟或一小时,代价是首次请求要付写入溢价。

一个具体的前后对比示例

如果你通过 DeepInfra 跑 prompt,脏 prompt 的成本你马上就能感觉到:输入 token 更多、补全更长、延迟更高——尤其在你要规模化调用模型,或在为面向用户的 endpoint 提供支撑时。最快的收益就是把 prompt 收紧,让模型只把 token 花在真正重要的工作上。

改写前:一个浪费 token 的“脏”prompt

这类 prompt 在原型阶段很常见:

“你是一位专家助手。请仔细阅读以下内容,并给出专业的回答。确保涵盖所有相关细节与上下文。既要详尽,又要简洁。”

它听起来合理,但在生产环境里既昂贵又不可靠:

它没有说明任务(模型到底该做什么?) 它鼓励啰嗦(“相关细节与上下文”“详尽”) 它包含互相冲突的指令(“既要详尽,又要简洁”) 它没有输出契约,于是格式飘忽不定,解析器随之崩掉

实践中,这通常意味着更长的回复、更大的方差和更多的重试——正好是抬高开销和尾延迟的那种组合。

改写后:一个可以放在 API 后面上线的“卫生”prompt

下面这版重写更便宜、更快,也更容易校验:

任务:仅使用提供的文本回答问题。 约束: 最多使用 6 个 bullet 每个 bullet 必须 ≤ 18 个词 如果文本中没有答案,写:来源中未说明。 输出格式:只返回 bullet 列表(不要开场白,不要结尾句)。 文本:…… 问题:……

为什么这样更好:

输出 token 更少: 硬性上限防止补全失控。 延迟更低: 更短的生成通常完成得更快,也能减少尾延迟。 重试更少: 严格的格式加上清晰的缺失信息处理,让响应更容易解析和校验。 缓存机会更好: 指令块现在是一个固定前缀,prompt 缓存可以复用;而当输出稳定时,你还可以按(model、prompt 版本、输入哈希)缓存整段响应。

重写到底省了多少

下面是按 DeepSeek-V4-Pro-0813 标准费率(每 1M token 输入 $1.30、输出 $2.60)做的估算。假设:两版 prompt 都带相同的 1,500 token 源文本;脏指令约 40 token,重写后的指令约 75 token;不封顶的答案平均 400 token;封顶后的答案上限接近 145 token(6 个 bullet × 18 个词,按每 token 约 0.75 个词折算)。

每 1M 次调用输入 token输出 token输入成本输出成本合计 改写前1,540M400M$2,002$1,040$3,042 改写后1,575M145M$2,048$377$2,425

重写后的 prompt 在输入端略微变长,整体却仍然便宜了约 20%,因为输出成本下降了大约 64%。重试会把差距拉得更大:如果“改写前”的响应里每十条就有一条因为解析不了而必须重跑,那每百万次调用要多花约 $304。而把 75 token 的指令块缓存起来之后,“改写后”那一行还会再降一些。

你的数字会因模型、输入,以及不封顶答案的长度而不同。方法是一样的:分别统计改动前后的输入与输出 token,再按模型页面上的费率计价。

上线前的快速检查清单

在把一个 prompt 发上线之前,过一遍这份小清单:

任务是否在开头就说明清楚? 你能删掉至少 20% 的 token 而不改变结果吗? 输出长度是否由可度量的规则封顶? 输出格式是否明确、可解析? 是否存在互相冲突的指令? 是否定义了缺失数据时的行为? 是否只包含了必要的上下文? prompt 中稳定的那部分是否放在最前面、每次调用都不变,从而可以被缓存?

通过这份清单的 prompt,往往更便宜、更快,也明显更好维护。

结论

提示词卫生不是把 prompt 写短,而是把它们写得有纪律。

当你删掉不必要的 token、约束输出、定义清晰的格式,并让 prompt 中稳定的部分可缓存时,你就减少了模型的猜测,也不再为重复的文本付全价。这降低了成本、减少了延迟,而最重要的是——砍掉了重试。在生产环境里,这份可靠性往往比任何一次模型升级都更有价值。

相关文章

模型弃用:构建能够长久的 LLM 应用

你的模型 ID 是技术栈中寿命最短的依赖,而且它多半没有维护计划。2026 年 6 月 15 日,claude-sonnet-4-20250514 和 claude-opus-4-20250514 停止响应请求。Anthropic 在 62 天前就贴出了通知。调用点里出现这两个字符串的团队,是从错误率而不是邮件里知道这件事的。 […]

vLLM vs SGLang:性能、特性与部署对比

团队里有人读了一篇 benchmark 帖子,于是现在多了一张迁移推理栈的工单。大多数 vLLM vs SGLang 的决策都是这么开始的。一篇公开的测试报告说吞吐差 29%,这个数字落到 Slack 里,两周后你就在午夜调试 kernel 版本冲突,而 p99 延迟还停在 […]

在 DeepInfra 上推出 GLM-5.2

GLM-5.2 是 Z-AI 最新的旗舰模型,围绕一项核心能力构建:为长程任务设计的、稳定的 1,048,576 token 上下文窗口。多数“百万 token 上下文”的说法都带着实际上的星号——检索能力下降、长距离行为不一致。Z-AI 称这是首次把这一规模以可靠的方式交付给持续性的长程工作。编码 […]

查看全部