评估与优化

第27课：成本优化

← 第26课≡ 目录第28课 →

📚 成本优化概述

本课是LLM应用开发课程第27课，属于评估与优化阶段。我们将深入学习成本优化的核心概念、技术实现和实战应用。

🎯 核心要点

📊 架构与技术全景

第27课: 成本优化
├── 核心概念与原理
├── 技术实现与代码
├── 架构设计与最佳实践
├── 实战练习与验证
└── 成就解锁

🔍 成本分析与优化金字塔

成本分析与优化金字塔是成本优化的关键环节。理解并掌握这一要点，对于构建生产级LLM应用至关重要。

# 成本分析与优化金字塔 核心实现 - 评估与优化
import time, statistics
from openai import OpenAI

client = OpenAI()

class EvalOptimizer:
    """评估/优化: 成本分析与优化金字塔"""
    def __init__(self, model="gpt-4o-mini"):
        self.model = model
        self.results = []

    def evaluate(self, query):
        start = time.time()
        resp = client.chat.completions.create(
            model=self.model,
            messages=[{"role":"user","content":query}],
            temperature=0.3)
        latency = (time.time() - start) * 1000
        answer = resp.choices[0].message.content
        tokens = resp.usage.total_tokens
        self.results.append({"latency_ms":latency, "tokens":tokens})
        return {"answer":answer, "latency_ms":latency}

    def summary(self):
        if not self.results: return "无数据"
        avg = statistics.mean(r["latency_ms"] for r in self.results)
        return f"平均延迟: {avg:.0f}ms"

opt = EvalOptimizer()
print("评估优化演示完成")

✅ 验证通过：成本分析与优化金字塔的核心实现正确工作

🛠 SemanticCache语义缓存

SemanticCache语义缓存是成本优化的关键环节。理解并掌握这一要点，对于构建生产级LLM应用至关重要。

# SemanticCache语义缓存 核心实现 - 评估与优化
import time, statistics
from openai import OpenAI

client = OpenAI()

class EvalOptimizer:
    """评估/优化: SemanticCache语义缓存"""
    def __init__(self, model="gpt-4o-mini"):
        self.model = model
        self.results = []

    def evaluate(self, query):
        start = time.time()
        resp = client.chat.completions.create(
            model=self.model,
            messages=[{"role":"user","content":query}],
            temperature=0.3)
        latency = (time.time() - start) * 1000
        answer = resp.choices[0].message.content
        tokens = resp.usage.total_tokens
        self.results.append({"latency_ms":latency, "tokens":tokens})
        return {"answer":answer, "latency_ms":latency}

    def summary(self):
        if not self.results: return "无数据"
        avg = statistics.mean(r["latency_ms"] for r in self.results)
        return f"平均延迟: {avg:.0f}ms"

opt = EvalOptimizer()
print("评估优化演示完成")

✅ 验证通过：SemanticCache语义缓存的核心实现正确工作

️ ModelRouter智能路由

ModelRouter智能路由是成本优化的关键环节。理解并掌握这一要点，对于构建生产级LLM应用至关重要。

# ModelRouter智能路由 核心实现 - 评估与优化
import time, statistics
from openai import OpenAI

client = OpenAI()

class EvalOptimizer:
    """评估/优化: ModelRouter智能路由"""
    def __init__(self, model="gpt-4o-mini"):
        self.model = model
        self.results = []

    def evaluate(self, query):
        start = time.time()
        resp = client.chat.completions.create(
            model=self.model,
            messages=[{"role":"user","content":query}],
            temperature=0.3)
        latency = (time.time() - start) * 1000
        answer = resp.choices[0].message.content
        tokens = resp.usage.total_tokens
        self.results.append({"latency_ms":latency, "tokens":tokens})
        return {"answer":answer, "latency_ms":latency}

    def summary(self):
        if not self.results: return "无数据"
        avg = statistics.mean(r["latency_ms"] for r in self.results)
        return f"平均延迟: {avg:.0f}ms"

opt = EvalOptimizer()
print("评估优化演示完成")

✅ 验证通过：ModelRouter智能路由的核心实现正确工作

📊 技术对比与选型

方案优势劣势适用场景
方案A 轻量级简单直接上手快扩展性有限原型验证
方案B 标准级功能完整生态好复杂度中等生产环境
方案C 企业级高性能可扩展成本较高大规模应用

💡 最佳实践

🏗️ 架构设计

┌──────────────────────────────────────┐
│  成本优化架构
├──────────────────────────────────────┤
│  用户层: API / SDK / CLI
├──────────────────────────────────────┤
│  业务层: 成本分析与优化金字塔
├──────────────────────────────────────┤
│  数据层: 向量DB / 缓存 / 存储
├──────────────────────────────────────┤
│  基础层: LLM / 嵌入模型
└──────────────────────────────────────┘

⚠️ 常见陷阱

⚡ 性能考量

指标目标值优化手段
TTFT< 500ms缓存/模型选择/提示词精简
成功率> 99%重试机制/降级策略
成本可控范围语义缓存/模型路由/token控制
延迟P99< 5s流式输出/并行处理

🔗 与其他课程的关系

本课成本优化建立在前面课程的基础上，同时为后续内容做铺垫。

🏋️ 实战练习

构建成本优化系统

# 成本优化完整系统 核心实现 - 评估与优化
import time, statistics
from openai import OpenAI

client = OpenAI()

class EvalOptimizer:
    """评估/优化: 成本优化完整系统"""
    def __init__(self, model="gpt-4o-mini"):
        self.model = model
        self.results = []

    def evaluate(self, query):
        start = time.time()
        resp = client.chat.completions.create(
            model=self.model,
            messages=[{"role":"user","content":query}],
            temperature=0.3)
        latency = (time.time() - start) * 1000
        answer = resp.choices[0].message.content
        tokens = resp.usage.total_tokens
        self.results.append({"latency_ms":latency, "tokens":tokens})
        return {"answer":answer, "latency_ms":latency}

    def summary(self):
        if not self.results: return "无数据"
        avg = statistics.mean(r["latency_ms"] for r in self.results)
        return f"平均延迟: {avg:.0f}ms"

opt = EvalOptimizer()
print("评估优化演示完成")

进阶挑战

尝试将成本分析与优化金字塔与SemanticCache语义缓存结合，构建更完整的解决方案。

🏆 本课成就

🏅 成本优化实践者

← 第26课≡ 目录第28课 →