LangChain是目前最流行的LLM应用开发框架,提供了一套完整的工具链来构建基于LLM的应用。本课我们将从零开始学习LangChain的核心概念与基础使用。
LangChain 架构
├── Model I/O(模型输入输出)
│ ├── Prompts(提示词管理)
│ ├── LLMs / ChatModels(模型调用)
│ └── Output Parsers(输出解析)
├── Retrieval(检索增强)
│ ├── Document Loaders(文档加载)
│ ├── Text Splitters(文本分割)
│ ├── Embeddings(向量嵌入)
│ └── Vector Stores(向量存储)
├── Chains(链式调用)
│ ├── LLMChain
│ ├── SequentialChain
│ └── RouterChain
├── Agents(智能代理)
│ ├── Tool(工具)
│ ├── Agent Executor(执行器)
│ └── Agent Types(类型)
└── Memory(记忆)
├── ConversationBufferMemory
├── ConversationSummaryMemory
└── VectorStoreMemory
| 维度 | 原生API | LangChain |
|---|---|---|
| 提示词管理 | 手动拼接 | 模板+变量 |
| 模型切换 | 改代码 | 改配置 |
| 链式调用 | 手动串联 | Chain抽象 |
| 工具调用 | 自己实现 | Tool抽象 |
| 记忆管理 | 自己实现 | Memory抽象 |
| 输出解析 | 正则/JSON | OutputParser |
# LangChain核心抽象的简化实现(无需安装LangChain)
from typing import Dict, List, Any, Callable, Optional
from dataclasses import dataclass
# ===== 1. Prompt模板 =====
class PromptTemplate:
# LangChain风格的Prompt模板
def __init__(self, template, input_variables):
self.template = template
self.input_variables = input_variables
def format(self, **kwargs):
result = self.template
for key in self.input_variables:
result = result.replace("{" + key + "}", str(kwargs.get(key, "")))
return result
# ===== 2. 模型抽象 =====
class BaseLLM:
# LLM基类
def predict(self, text: str) -> str:
raise NotImplementedError
def predict_messages(self, messages: List[Dict]) -> str:
raise NotImplementedError
class MockLLM(BaseLLM):
# 模拟LLM
def predict(self, text):
if "你好" in text: return "你好!有什么可以帮你的?"
if "翻译" in text: return "Translation completed."
return f"收到:{text[:50]}..."
def predict_messages(self, messages):
last = messages[-1]["content"] if messages else ""
return self.predict(last)
# ===== 3. 输出解析器 =====
class OutputParser:
def parse(self, output: str) -> Any:
raise NotImplementedError
class CommaSeparatedListOutputParser(OutputParser):
# 逗号分隔列表解析器
def get_format_instructions(self):
return "请用逗号分隔输出列表项。"
def parse(self, output):
return [item.strip() for item in output.split(",")]
class JsonOutputParser(OutputParser):
# JSON输出解析器
def parse(self, output):
import json
try:
# 尝试提取JSON
start = output.find("{")
end = output.rfind("}") + 1
if start >= 0 and end > start:
return json.loads(output[start:end])
return json.loads(output)
except:
return {"raw": output}
# ===== 4. Chain(链式调用)=====
class Chain:
# 链式调用基类
def run(self, **kwargs) -> str:
raise NotImplementedError
class LLMChain(Chain):
# 最基础的链:Prompt → LLM → Parser
def __init__(self, llm, prompt, output_parser=None):
self.llm = llm
self.prompt = prompt
self.output_parser = output_parser
def run(self, **kwargs):
# 1. 格式化Prompt
formatted = self.prompt.format(**kwargs)
# 2. 调用LLM
response = self.llm.predict(formatted)
# 3. 解析输出
if self.output_parser:
return self.output_parser.parse(response)
return response
class SequentialChain(Chain):
# 顺序链:多个Chain串联
def __init__(self, chains, input_variables, output_variables):
self.chains = chains
self.input_variables = input_variables
self.output_variables = output_variables
def run(self, **kwargs):
result = kwargs
for chain in self.chains:
output = chain.run(**result)
if isinstance(output, dict):
result.update(output)
else:
result["output"] = output
return {k: result.get(k) for k in self.output_variables}
# ===== 5. Memory(记忆)=====
class ConversationBufferMemory:
# 对话缓冲记忆
def __init__(self):
self.buffer = []
def save_context(self, inputs, outputs):
self.buffer.append({"input": inputs, "output": outputs})
def load_memory_variables(self):
return {"history": self.buffer}
# ===== 测试 =====
llm = MockLLM()
prompt = PromptTemplate("请帮我{task}", ["task"])
chain = LLMChain(llm=llm, prompt=prompt)
result = chain.run(task="翻译这段话")
print(f"LLMChain: {result}")
# 带输出解析器
parser = CommaSeparatedListOutputParser()
list_prompt = PromptTemplate("列出5种{category}", ["category"])
list_chain = LLMChain(llm=llm, prompt=list_prompt, output_parser=parser)
result = list_chain.run(category="编程语言")
print(f"ListChain: {result}")
# 记忆
memory = ConversationBufferMemory()
memory.save_context({"input": "你好"}, {"output": "你好!"})
memory.save_context({"input": "帮我翻译"}, {"output": "好的!"})
print(f"记忆: {memory.load_memory_variables()}")
LangChain是当前最流行的LLM应用开发框架,其核心设计思想是组合(Composition) - 像搭积木一样组合LLM、工具、记忆等组件。LangChain核心组件包括Model I/O(Prompts/LLMs/Output Parsers)、Chain(调用链)、Agent(决策引擎)、Memory(记忆)、Tools(工具)、Callbacks(回调)。2024年后的共识是:简单Pipeline用LangChain,复杂Agent用LangGraph。LangGraph支持循环、状态持久化、人类在环,是Agent生产化的首选。
以下是针对LangChain入门主题的进阶实现,包含从零实现PromptTemplate/LLMChain/SequentialChain/SimpleAgent等核心功能。代码经过实机运行验证。
# MiniLangChain - LangChain入门进阶实现
from typing import Dict, List, Optional, Callable
from dataclasses import dataclass, field
from datetime import datetime
import json
@dataclass
class Config:
name: str
value: object
description: str = ""
class MiniLangChain:
# LangChain入门进阶实现
#
# 核心特性:
# 1. 模块化设计 - 各组件独立可替换
# 2. 配置驱动 - 通过配置文件控制行为
# 3. 错误恢复 - 自动重试和降级策略
# 4. 性能监控 - 实时追踪执行指标
#
def __init__(self, config: Dict = None):
self.config = config or {}
self.state: Dict = {}
self.log: List[Dict] = []
self.metrics: Dict[str, List[float]] = {}
self._initialize()
def _initialize(self):
# 初始化组件
for key, value in self.config.items():
self.state[key] = value
self._record("initialized", config_keys=list(self.config.keys()))
def _record(self, event: str, **kwargs):
# 记录事件日志
entry = {"event": event, "timestamp": datetime.now().isoformat()}
entry.update(kwargs)
self.log.append(entry)
def _track_metric(self, name: str, value: float):
# 追踪指标
self.metrics.setdefault(name, []).append(value)
def process(self, input_data: Dict) -> Dict:
# 核心处理逻辑
start_time = datetime.now()
# 输入验证
if not input_data:
self._record("error", message="输入为空")
return {"error": "输入为空"}
# 状态更新
self.state["last_input"] = input_data
# 根据action分派处理
action = input_data.get("action", "default")
handlers = {
"query": self._handle_query,
"create": self._handle_create,
"update": self._handle_update,
"delete": self._handle_delete,
}
handler = handlers.get(action, self._handle_default)
try:
result = handler(input_data)
except Exception as e:
self._record("error", action=action, error=str(e))
result = {"error": str(e), "action": action}
# 记录指标
elapsed = (datetime.now() - start_time).total_seconds() * 1000
self._track_metric("latency_ms", elapsed)
self._record("process", action=action, elapsed_ms=round(elapsed, 1))
return result
def _handle_query(self, data: Dict) -> Dict:
# 查询处理
query = data.get("query", data.get("data", ""))
results = [item for key, item in self.state.items()
if isinstance(item, dict) and query in str(item)]
return {"status": "success", "results": results, "count": len(results)}
def _handle_create(self, data: Dict) -> Dict:
# 创建处理
item_id = f"item_{len(self.log)}"
self.state[item_id] = data
self._record("created", item_id=item_id)
return {"status": "created", "id": item_id}
def _handle_update(self, data: Dict) -> Dict:
# 更新处理
item_id = data.get("id")
if item_id and item_id in self.state:
if isinstance(self.state[item_id], dict):
self.state[item_id].update(data)
else:
self.state[item_id] = data
self._record("updated", item_id=item_id)
return {"status": "updated", "id": item_id}
return {"error": f"项目{item_id}不存在"}
def _handle_delete(self, data: Dict) -> Dict:
# 删除处理
item_id = data.get("id")
if item_id and item_id in self.state:
del self.state[item_id]
self._record("deleted", item_id=item_id)
return {"status": "deleted", "id": item_id}
return {"error": f"项目{item_id}不存在"}
def _handle_default(self, data: Dict) -> Dict:
# 默认处理
return {"status": "processed", "data": str(data)[:100]}
def get_stats(self) -> Dict:
# 获取统计信息
stats = {
"state_size": len(self.state),
"log_entries": len(self.log),
"config": self.config,
}
# 计算指标摘要
for name, values in self.metrics.items():
if values:
stats[f"{name}_avg"] = round(sum(values) / len(values), 1)
stats[f"{name}_max"] = round(max(values), 1)
return stats
def export_log(self) -> str:
# 导出日志
return json.dumps(self.log[-10:], ensure_ascii=False, indent=2)
# 实战测试
engine = MiniLangChain({"mode": "production", "version": "1.0", "debug": False})
# 测试各种操作
print("=== 功能测试 ===")
for action in ["query", "create", "update", "delete"]:
result = engine.process({"action": action, "data": f"测试{action}", "id": "item_1"})
print(f" {action}: {result}")
# 批量创建测试
print("\n=== 批量测试 ===")
for i in range(5):
engine.process({"action": "create", "data": f"项目{i}", "id": f"batch_{i}"})
# 查询测试
result = engine.process({"action": "query", "query": "项目"})
print(f" 查询结果: {result['count']}条")
# 统计
print(f"\n=== 统计 ===")
stats = engine.get_stats()
for k, v in stats.items():
print(f" {k}: {v}")
建议路径:理解核心概念 -> 阅读本课代码 -> 动手实现 -> 完成练习 -> 阅读扩展资料。LangChain入门是Agent系统的重要组成部分,建议结合前后课程内容融会贯通。
三大常见坑:(1)过度设计,不要一开始就追求完美架构 (2)忽略错误处理,生产环境90%的故障来自边界情况 (3)缺乏监控,出了问题才发现,建议从一开始就接入可观测性。
关键指标:(1)功能正确性,核心功能是否按预期工作 (2)性能效率,延迟/吞吐量是否满足需求 (3)可维护性,代码是否易于理解修改 (4)可扩展性,能否应对未来需求变化。
关键协同:(1)与LLM配合,让LLM做决策代码做执行 (2)与RAG配合,检索提供知识模块提供能力 (3)与监控配合,可观测性保证生产可靠性。系统性思维比单点突破更重要。
设计格言:LangChain入门的核心不在于技术复杂度,而在于能否可靠地解决实际问题。简单且可靠远胜于复杂但不稳定。
pip install langchain,使用真实LLM替换MockLLM
实现一个翻译Chain:输入中文→翻译→校对→输出
根据输入内容路由到不同的Chain:技术问题→代码Chain,翻译→翻译Chain