核心内容摘要
QT蓝牙编程实战：从零开始与蓝牙透传模块通讯（附完整代码）
【个人主页玄同765】大语言模型LLM开发工程师中国传媒大学·数字媒体技术智能交互与游戏设计深耕领域大语言模型开发 / RAG知识库 / AI Agent落地 / 模型微调技术栈Python / LangChain/RAGDifyRedisMilvus| SQL/NumPy | FastAPIDocker ️工程能力专注模型工程化部署、知识库构建与优化擅长全流程解决方案「让AI交互更智能让技术落地更高效」欢迎技术探讨/项目合作 关注我解锁大模型与智能交互的无限可能当你开发大模型应用时是否曾遇到这些挑战如何选择合适的大语言模型如何统一不同模型的调用接口如何优化模型性能和成本如何处理模型的输出格式如何与其他LangChain组件集成LangChain v
0的Model模块为这些问题提供了优雅的解决方案。
本文将全面解析LangChain v
0中Model模块的核心功能、
使用方法和最佳实践帮助你构建更加高效、灵活的大模型应用。
LangChain v
0 Model模块核心概念
模型接口抽象核心用途LangChain v
0通过统一的接口抽象使开发者能够以一致的方式与各种大语言模型进行交互无论底层模型的具体实现如何。
主要接口 -BaseLanguageModel所有语言模型的基类定义了基本的生成方法 -ChatModel用于聊天模型的接口处理基于消息的交互 -LLM用于文本补全模型的接口处理基于文本的交互 -Runnable所有LangChain组件的统一接口支持invoke、batch、stream等方法代码示例from langchain_openai import ChatOpenAI from langchain_core.language_models import BaseLanguageModel # 初始化模型 llm ChatOpenAI( modelgpt-4o-mini, temperature
7, max_tokens1000 ) # 验证模型类型 print(isinstance(llm, BaseLanguageModel)) # True print(hasattr(llm, invoke)) # True适用场景需要与多种大语言模型交互的场景如模型对比、多模型集成等。
模型类型核心用途LangChain v
0支持多种类型的模型包括开源模型和闭源模型满足不同场景的需求。
主要模型类型 -OpenAI模型如GPT-4o、GPT-
5-turbo等 -Anthropic模型如Claude 3系列 -Google模型如Gemini系列 -开源模型如Llama
Mistral等 -本地模型通过API或本地部署的模型代码示例# OpenAI模型 from langchain_openai import ChatOpenAI openai_llm ChatOpenAI(modelgpt-4o-mini) # Anthropic模型 from langchain_anthropic import ChatAnthropic anthropic_llm ChatAnthropic(modelclaude-3-sonnet-
# Google模型 from langchain_google_genai import ChatGoogleGenerativeAI google_llm ChatGoogleGenerativeAI(modelgemini-
5-flash)适用场景根据具体需求选择合适的模型如成本、性能、功能等因素。
模型配置核心用途通过详细的配置选项优化模型的性能、成本和输出质量。
主要配置选项 -model模型名称 -temperature生成温度控制输出的随机性 -max_tokens最大生成 tokens 数 -top_p nucleus sampling 参数 -frequency_penalty频率惩罚 -presence_penalty存在惩罚 -timeout超时时间 -api_keyAPI 密钥 -base_urlAPI 基础 URL代码示例from langchain_openai import ChatOpenAI # 详细配置 llm ChatOpenAI( modelgpt-4o-mini, temperature
3, max_tokens2000, top_p
95, frequency_penalty
1, presence_penalty
0, timeout30, api_keyyour-api-key, base_urlhttps://api.openai-proxy.org/v1 )适用场景需要精细控制模型行为的场景如生成质量要求高的应用。
LangChain v
0前后Model模块对比
v
0之前的Model模块在LangChain v
0之前Model模块的设计和使用方式与现在有较大差异核心差异 -模块结构模型类分布在不同模块导入路径复杂 -接口设计没有统一的Runnable接口调用方式不一致 -配置方式配置选项分散缺乏统一的配置机制 -集成方式与其他组件的集成较为复杂需要更多样板代码 -流式处理流式输出支持不完善v
0之前的代码示例# v
0之前的模型使用 from langchain.chat_models import ChatOpenAI from langchain.prompts import PromptTemplate # 初始化模型 llm ChatOpenAI(temperature0, model_namegpt-
5-turbo) # 创建提示词 prompt PromptTemplate( template你是一个助手回答用户的问题{question}, input_variables[question] ) # 构建链 chain prompt | llm # 执行 result chain.run(question北京的天气怎么样) print(result)
v
0之后的Model模块LangChain v
0引入了全新的架构和接口使Model模块更加简洁、灵活和强大核心改进 -统一接口所有模型实现Runnable接口支持invoke、batch、stream等统一方法 -模块化设计模型类集中在对应的集成模块导入路径清晰 -配置统一统一的配置机制支持环境变量和显式参数 -简化集成与其他组件的集成更加简化支持LCEL表达式 -增强流式完善的流式输出支持提供更好的用户体验 -异步支持原生支持异步调用提高并发处理能力v
0之后的代码示例# v
0之后的模型使用 from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate # 初始化模型 llm ChatOpenAI( modelgpt-4o-mini, temperature
3 ) # 创建提示词 prompt ChatPromptTemplate.from_messages([ (system, 你是一个助手需要回答用户的问题。
), (human, {question}) ]) # 构建链 chain prompt | llm # 执行 response chain.invoke({question: 北京的天气怎么样}) print(response.content) # 流式执行 for chunk in chain.stream({question: 北京的天气怎么样}): if hasattr(chunk, content) and chunk.content: print(chunk.content, end)
Model模块核心功能实现
基本模型调用核心用途通过简单的API调用获取模型的生成结果。
代码示例from langchain_openai import ChatOpenAI from langchain_core.messages import HumanMessage, SystemMessage # 初始化模型 llm ChatOpenAI(modelgpt-4o-mini) # 基本调用 response llm.invoke([ SystemMessage(content你是一个助手需要回答用户的问题。
), HumanMessage(content什么是LangChain) ]) print(response.content)适用场景简单的问答、文本生成等场景。
批量调用核心用途一次性处理多个请求提高处理效率。
代码示例from langchain_openai import ChatOpenAI from langchain_core.messages import HumanMessage # 初始化模型 llm ChatOpenAI(modelgpt-4o-mini) # 批量调用 messages_list [ [HumanMessage(content什么是Python)], [HumanMessage(content什么是LangChain)], [HumanMessage(content什么是大语言模型)] ] responses llm.batch(messages_list) for i, response in enumerate(responses): print(f问题 {i1} 的回答) print(response.content) print(---)适用场景需要处理多个相似请求的场景如批量文本生成、批量问答等。
流式输出核心用途实时获取模型的生成结果提供更好的用户体验。
代码示例from langchain_openai import ChatOpenAI from langchain_core.messages import HumanMessage # 初始化模型 llm ChatOpenAI(modelgpt-4o-mini) # 流式输出 print(模型回答) for chunk in llm.stream([HumanMessage(content什么是LangChain请详细解释。
)]): if hasattr(chunk, content) and chunk.content: print(chunk.content, end) print()适用场景需要实时反馈的场景如聊天机器人、客服系统等。
异步调用核心用途支持异步执行提高并发处理能力。
代码示例import asyncio from langchain_openai import ChatOpenAI from langchain_core.messages import HumanMessage # 初始化模型 llm ChatOpenAI(modelgpt-4o-mini) async def main(): # 异步调用 response await llm.ainvoke([HumanMessage(content什么是LangChain)]) print(response.content) # 执行异步函数 asyncio.run(main())适用场景高并发场景如Web应用、API服务等。
Model模块高级特性
模型集成技巧核心用途将Model模块与其他LangChain组件集成构建复杂的应用。
代码示例from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate from langchain_core.output_parsers import StrOutputParser from langchain_core.runnables import RunnablePassthrough # 初始化模型 llm ChatOpenAI(modelgpt-4o-mini) # 创建提示词 prompt ChatPromptTemplate.from_messages([ (system, 你是一个{role}需要回答用户的问题。
), (human, {question}) ]) # 构建链 chain ( { role: RunnablePassthrough(), question: RunnablePassthrough() } | prompt | llm | StrOutputParser() ) # 执行 result chain.invoke({ role: 技术专家, question: 什么是LangChain }) print(result)适用场景需要复杂逻辑处理的场景如多步骤推理、条件分支等。
模型输出解析核心用途将模型的输出解析为结构化格式方便后续处理。
代码示例from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate from langchain_core.output_parsers import JsonOutputParser from pydantic import BaseModel, Field # 定义输出结构 class WeatherResponse(BaseModel): city: str Field(description城市名称) temperature: str Field(description温度) condition: str Field(description天气状况) # 初始化模型 llm ChatOpenAI(modelgpt-4o-mini) # 创建提示词 prompt ChatPromptTemplate.from_messages([ (system, 你是一个助手需要按照指定格式输出天气信息。
), (human, 请提供{city}的天气信息按照JSON格式输出。
) ]) # 构建链 chain prompt | llm | JsonOutputParser() # 执行 result chain.invoke({city: 北京}) print(result) print(type(result))适用场景需要结构化输出的场景如数据提取、格式转换等。
模型缓存核心用途缓存模型的输出减少重复调用提高性能和降低成本。
代码示例from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate from langchain_core.runnables import RunnablePassthrough from langchain_core.cache import InMemoryCache from langchain.globals import set_llm_cache # 设置缓存 set_llm_cache(InMemoryCache()) # 初始化模型 llm ChatOpenAI(modelgpt-4o-mini) # 创建提示词 prompt ChatPromptTemplate.from_messages([ (human, {question}) ]) # 构建链 chain prompt | llm # 第一次调用会执行模型 print(第一次调用) result1 chain.invoke({question: 什么是LangChain}) print(result
content) # 第二次调用会使用缓存 print(\n第二次调用) result2 chain.invoke({question: 什么是LangChain}) print(result
content)适用场景需要重复处理相同或相似请求的场景如聊天机器人、客服系统等。
模型评估核心用途评估模型的性能选择最适合的模型和配置。
代码示例from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate # 初始化不同模型 models [ (gpt-4o-mini, ChatOpenAI(modelgpt-4o-mini)), (gpt-
5-turbo, ChatOpenAI(modelgpt-
5-turbo)) ] # 创建提示词 prompt ChatPromptTemplate.from_messages([ (human, 请解释什么是LangChain不超过100字。
) ]) # 评估模型 for model_name, llm in models: print(f\n模型{model_name}) chain prompt | llm response chain.invoke({}) print(f回答{response.content}) print(f长度{len(response.content)}字)适用场景需要选择模型或优化配置的场景如模型选型、参数调优等。
Model模块最佳实践
模型选择核心用途根据具体需求选择合适的模型平衡性能、成本和功能。
最佳实践 -评估需求明确应用的功能需求、性能要求和预算限制 -测试对比在实际场景中测试不同模型的表现 -考虑因素响应速度、生成质量、API稳定性、成本等 -混合使用根据不同任务选择不同的模型示例 - 对于简单的问答任务可以使用gpt-
5-turbo或其他轻量级模型 - 对于复杂的推理任务可以使用gpt-4o或Claude 3等高级模型 - 对于需要多语言支持的任务可以选择支持多语言的模型
提示词优化核心用途通过优化提示词提高模型的输出质量和准确性。
最佳实践 -清晰明确明确告诉模型要做什么避免模糊不清的指令 -提供上下文给模型足够的背景信息帮助它更好地理解任务 -指定格式如果需要特定格式的输出明确告诉模型 -示例引导提供示例引导模型按照预期的方式输出 -控制长度合理控制提示词的长度避免过长或过短示例from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate # 优化前的提示词 bad_prompt ChatPromptTemplate.from_messages([ (human,
总结这篇文章) ]) # 优化后的提示词 good_prompt ChatPromptTemplate.from_messages([ (system, 你是一个专业的
总结助手需要\n
提炼文章的核心观点\n
保持
总结简洁不超过300字\n
使用列表格式输出\n
不要包含引言或开场白) (human, 请
总结以下文章\n{article}) ])
错误处理核心用途处理模型调用过程中可能出现的错误提高应用的稳定性。
最佳实践 -捕获异常使用try-except捕获可能的异常 -超时处理设置合理的超时时间 -重试机制对临时性错误实现重试机制 -降级策略当高级模型不可用时使用备用模型 -日志记录记录错误信息便于调试和监控代码示例from langchain_openai import ChatOpenAI from langchain_core.messages import HumanMessage import time # 初始化模型 llm ChatOpenAI( modelgpt-4o-mini, timeout30 ) def safe_invoke(llm, messages, max_retries
: 安全调用模型支持重试 retries 0 while retries max_retries: try: return llm.invoke(messages) except Exception as e: print(f调用失败{str(e)}) retries 1 if retries max_retries: print(f等待2秒后重试...) time.sleep(
else: print(达到最大重试次数返回默认值) return {content: 抱歉暂时无法处理您的请求请稍后再试。
} # 使用安全调用 result safe_invoke(llm, [HumanMessage(content什么是LangChain)]) print(result.content)
性能优化核心用途优化模型的性能提高响应速度和并发处理能力。
最佳实践 -使用合适的模型根据任务选择合适大小的模型 -优化参数调整temperature、max_tokens等参数 -使用缓存缓存重复请求的结果 -异步调用使用异步API提高并发能力 -批量处理批量处理多个请求减少API调用次数 -流式输出使用流式输出提高用户体验代码示例import asyncio from langchain_openai import ChatOpenAI from langchain_core.messages import HumanMessage # 初始化模型 llm ChatOpenAI(modelgpt-4o-mini) async def process_multiple_questions(questions): 异步处理多个问题 tasks [] for question in questions: task llm.ainvoke([HumanMessage(contentquestion)]) tasks.append(task) responses await asyncio.gather(*tasks) return responses # 测试异步处理 questions [ 什么是Python, 什么是LangChain, 什么是大语言模型, 什么是人工智能 ] # 测量时间 import time start_time time.time() # 执行异步处理 responses asyncio.run(process_multiple_questions(questions)) end_time time.time() print(f处理时间{end_time - start_time:.2f}秒) # 输出结果 for i, (question, response) in enumerate(zip(questions, responses)): print(f\n问题{i1}{question}) print(f回答{response.content[:100]}...)
六、
常见问题与解决方案
模型调用失败问题模型调用失败可能是因为API密钥无效、网络问题或模型不可用。
解决方案 - 检查API密钥是否正确 - 检查网络连接是否正常 - 检查模型名称是否正确 - 实现错误处理和重试机制 - 使用备用模型作为降级策略代码示例from langchain_openai import ChatOpenAI from langchain_core.messages import HumanMessage def get_model(): 获取模型实例支持降级 try: # 尝试使用高级模型 return ChatOpenAI(modelgpt-4o-mini) except Exception as e: print(f高级模型初始化失败{str(e)}) # 降级到基础模型 return ChatOpenAI(modelgpt-
5-turbo) # 使用模型 llm get_model() try: response llm.invoke([HumanMessage(content什么是LangChain)]) print(response.content) except Exception as e: print(f调用失败{str(e)}) print(使用默认回答) print(LangChain是一个用于构建大语言模型应用的框架。
)
模型输出质量差问题模型的输出质量差可能是因为提示词不够清晰、参数设置不当或模型能力不足。
解决方案 - 优化提示词使其更加清晰明确 - 调整模型参数如temperature、top_p等 - 使用更高级的模型 - 提供更多的上下文信息 - 使用示例引导模型输出代码示例from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate # 初始化模型 llm ChatOpenAI( modelgpt-4o-mini, temperature
3, # 降低温度减少随机性 top_p
95 # 提高top_p增加相关性 ) # 优化提示词 prompt ChatPromptTemplate.from_messages([ (system, 你是一个专业的技术专家需要\n
清晰解释技术概念\n
提供具体的例子\n
使用简洁明了的语言\n
避免使用过于专业的术语) (human, 请解释什么是{concept}) ]) # 构建链 chain prompt | llm # 执行 result chain.invoke({concept: LangChain}) print(result.content)
模型调用速度慢问题模型调用速度慢可能是因为模型本身响应慢、网络延迟或请求处理复杂。
解决方案 - 使用更轻量级的模型 - 优化提示词长度避免过长 - 使用流式输出提供实时反馈 - 实现异步调用提高并发能力 - 使用缓存减少重复调用 - 考虑使用本地部署的模型代码示例from langchain_openai import ChatOpenAI from langchain_core.messages import HumanMessage # 初始化模型 llm ChatOpenAI( modelgpt-
5-turbo, # 使用轻量级模型 timeout15 # 设置合理的超时时间 ) # 流式输出 print(模型回答) for chunk in llm.stream([HumanMessage(content什么是LangChain)]): if hasattr(chunk, content) and chunk.content: print(chunk.content, end) print()
模型输出格式不符合预期问题模型的输出格式不符合预期可能是因为提示词不够明确或模型理解有误。
解决方案 - 在提示词中明确指定输出格式 - 提供输出格式的示例 - 使用结构化输出解析器 - 对输出进行后处理转换为所需格式代码示例from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate from langchain_core.output_parsers import CommaSeparatedListOutputParser # 初始化模型 llm ChatOpenAI(modelgpt-4o-mini) # 创建提示词 prompt ChatPromptTemplate.from_messages([ (system, 你是一个助手需要按照指定格式输出。
), (human, 请列出{topic}的5个关键点用逗号分隔。
) ]) # 构建链 chain prompt | llm | CommaSeparatedListOutputParser() # 执行 result chain.invoke({topic: LangChain}) print(result) print(type(result))
七、
总结LangChain v
0 Model模块的价值LangChain v
0的Model模块为大模型应用开发带来了以下价值统一接口提供了统一的模型接口使开发者能够以一致的方式与各种大语言模型交互降低了学习成本和开发复杂度。
丰富的集成支持多种主流的大语言模型包括OpenAI、Anthropic、Google等以及开源模型满足不同场景的需求。
强大的功能提供了丰富的功能如流式输出、异步调用、批量处理、输出解析等满足各种复杂场景的需求。
灵活的配置通过详细的配置选项开发者可以精细控制模型的行为优化性能和成本。
易于集成与LangChain的其他组件无缝集成支持LCEL表达式使构建复杂的应用变得更加简单。
性能优化通过缓存、异步调用、批量处理等机制提高了模型的性能和并发处理能力。
最佳实践提供了丰富的最佳实践帮助开发者避免
常见问题构建高质量的应用。
LangChain v
0的Model模块不仅是一个模型调用接口更是一个完整的大模型应用开发框架的核心组件。
通过掌握Model模块的使用你可以构建更加高效、灵活、强大的大模型应用将AI的能力真正落地到实际业务中。
无论你是开发简单的聊天机器人还是复杂的智能助手LangChain v
0的Model模块都能为你提供强大的支持。
现在就开始使用这些功能开启你的大模型应用开发之旅吧参考链接 - LangChain官方文档 - LangChain模型集成指南 - LangChain GitHub仓库 - OpenAI API官方文档 - Anthropic API官方文档 - Google Gemini API官方文档 - LangChain Expression Language (LCEL) - Pydantic模型 - Python异步编程 - 单元测试