💡 LLM 成本优化实战

不是选 provider,而是怎么省 50%-90% 的 token 费用。从 Prompt Caching 到模型路由,从 Batch API 到成本监控。

2025 年 5 月更新 · 价格数据采集于各API官网
💰 典型节省幅度:通过 Prompt Caching 省 50-90% 输入成本、Batch API 省 50%、模型路由省 60-80%、Prompt 压缩省 30-50%。组合使用可以从 $10K/月降到 $2K/月。
8
专题页面
50-90%
Prompt Caching 节省
50%
Batch API 节省
60-80%
模型路由节省
📦

Prompt Caching

OpenAI 自动缓存省 90%、Anthropic Prompt Cache 省 90%、OpenClaw Cache Boundary 实践。最高 ROI 的优化手段。

自动缓存90%折扣低延迟
🗜️

Prompt 压缩

LLMLingua 压缩方法、工具输出截断、RepoMap 结构化摘要。30-50% token 压缩率的实测数据。

LLMLingua截断30-50%压缩
🔀

模型路由

简单问题用 GPT-4o-mini、复杂推理用 o3、写代码用 Claude。路由分类器实现、准确率 vs 成本权衡。

路由分类器60-80%节省混合模型
📊

Batch API

OpenAI Batch 半价、Anthropic Messages Batches。异步处理架构、哪些场景适合 Batch。

半价异步离线处理
💰

Token 预算

每个请求的 token 上限、按用户/会话/天的预算分配、超预算降级策略、成本报警。

预算控制降级策略报警
🔮

Embedding 成本

text-embedding-3-small vs large 选择、本地 BGE/E5 零成本方案、混合检索减少 Embedding 调用。

本地EmbeddingBGE/E5零成本
📈

成本监控

Token 用量追踪、per-user/per-endpoint 成本拆解、异常调用检测、Helicone/Langfuse 接入。

HeliconeLangfuse异常检测
📋

真实案例

5 个 AI SaaS 产品的成本优化历程——从 $10K/月到 $2K/月怎么做到的。具体数字、具体方法。

实战案例$10K→$2K可复现

💵 2025年5月 API 价格速查

模型输入 $/1M tokens缓存输入 $/1M输出 $/1MBatch 输入
GPT-5.5$5.00$0.50 (90%↓)$30.00$2.50 (50%↓)
GPT-5.4$2.50$0.25 (90%↓)$15.00$1.25 (50%↓)
GPT-5.4 mini$0.75$0.075 (90%↓)$4.50$0.375 (50%↓)
Claude Opus 4$15.00$1.50 (90%↓)$75.00$7.50 (50%↓)
Claude Sonnet 4$3.00$0.30 (90%↓)$15.00$1.50 (50%↓)
Claude Haiku 3.5$0.80$0.08 (90%↓)$4.00$0.40 (50%↓)
DeepSeek V3¥0.50 (~$0.07)¥0.10 (~$0.014)¥2.00 (~$0.28)

* 价格采集自各API官网 2025年5月数据,DeepSeek 价格为人民币,按1USD≈7.2CNY估算。实际价格以官网为准。

🎯 优化策略优先级

ROI 从高到低排序:

1. 📦 Prompt Caching     — 改动最小,效果最大(90% 输入折扣)
   └─ 实现:把静态内容放前面 + 自动缓存(OpenAI 零配置)
   
2. 🔀 模型路由           — 80% 请求用小模型,20% 用大模型
   └─ 实现:分类器判断复杂度 → 路由到不同模型
   
3. 📊 Batch API          — 非实时场景直接半价
   └─ 实现:把同步调用改为异步 Batch
   
4. 🗜️ Prompt 压缩        — 减少 token 数量本身
   └─ 实现:截断 + LLMLingua + 结构化摘要
   
5. 💰 Token 预算         — 防止滥用和意外超支
   └─ 实现:每用户预算 + 降级策略
   
6. 🔮 本地 Embedding     — 完全零成本的 Embedding
   └─ 实现:BGE/E5 本地部署
   
7. 📈 成本监控           — 你无法优化你无法衡量的
   └─ 实现:Helicone/Langfuse 接入

🔗 相关知识库

🔒

AI 安全合规

安全和成本并不矛盾——Prompt Caching 减少重复处理,Token 预算限制攻击面。

💰

SaaS 定价案例

OpenAI/Anthropic API 定价策略拆解——了解定价逻辑才能更好优化成本。