利用FUTURE POLICE构建智能运维助手：日志语音查询与故障定位

AIå�Ÿç”Ÿåº”用领域æ€�ç»´æ ‘çš„åˆ›æ–°æ¨¡å¼�æ�¢è®¨å…³é”®è¯�AIå�Ÿç”Ÿåº”用ã€�æ€�ç»´æ ‘Tree of Thoughts, ToTã€�大语言模å�‹LLMã€�多步æ�¨ç�†ã€�生æˆ�å¼�AI摘è¦�éš�ç�€ç”Ÿæˆ�å¼�AI技术的爆å�‘“AIå�Ÿç”Ÿåº”用â€�AI-Native Applicationæˆ�为科技领域的新é£�å�£ã€‚这类应用ä»�设计之åˆ�就深度ä¾�赖大语言模å�‹LLMçš„æ�¨ç�†ä¸�生æˆ�能力而é��ä¼ ç»Ÿè½¯ä»¶çš„åŠŸèƒ½å� åŠ ã€‚ä½†ä¼ ç»ŸLLM在处ç�†å¤�æ�‚问题时如数学è¯�æ˜�ã€�策略游æˆ�ã€�多轮对è¯�常出ç�°æ€�è·¯å�¡å£³æˆ–逻辑断层。本文将è�šç„¦ä¸€ç§�çª�ç ´æ€§åˆ›æ–°æ¨¡å¼�——æ€�ç»´æ ‘Tree of Thoughts, ToT通过类比人类解题时的è�‰ç¨¿çº¸æ€�ç»´æ�­ç¤ºå…¶å¦‚何让AIåƒ�äººç±»ä¸€æ ·åˆ†æ­¥éª¤ã€�å�¯å›�溯地æ€�考ä»�而é‡�æ�„AIå�Ÿç”Ÿåº”ç”¨çš„æ ¸å¿ƒèƒ½åŠ›è¾¹ç•Œã€‚èƒŒæ™¯ä»‹ç»�ç›®çš„å’ŒèŒƒå›´æœ¬æ–‡æ—¨åœ¨è§£ç­”ä¸‰ä¸ªæ ¸å¿ƒé—®é¢˜ä¸ºä½•AIå�Ÿç”Ÿåº”用需è¦�æ€�ç»´æ ‘è¿™ç§�创新模å¼�æ€�ç»´æ ‘çš„è¿�行机制如何模拟人类的多步æ�¨ç�†æ€�ç»´æ ‘å¦‚ä½•å…·ä½“è�½åœ°å¹¶æ�¨åŠ¨AIå�Ÿç”Ÿåº”用的功能å�‡çº§å†…容覆盖技术å�Ÿç�†ã€�数学模å�‹ã€�å®�战案例å�Šæœªæ�¥è¶‹åŠ¿é€‚å�ˆå¯¹ç”Ÿæˆ�å¼�AI应用开å�‘感兴趣的开å�‘者ã€�产å“�ç»�ç�†å�ŠæŠ€æœ¯çˆ±å¥½è€…。预期读者AI应用开å�‘者想了解如何优化LLMçš„å¤�æ�‚任务处ç�†èƒ½åŠ›äº§å“�ç»�ç�†æƒ³è®¾è®¡æ›´æ™ºèƒ½çš„AIå�Ÿç”ŸåŠŸèƒ½æŠ€æœ¯çˆ±å¥½è€…对AIæ�¨ç�†æœºåˆ¶å¥½å¥‡çš„é��专业读者文档结æ�„概述本文将ä»�人类æ€�考 vs ä¼ ç»ŸAIå“�应的对比切入é€�步拆解æ€�ç»´æ ‘çš„æ ¸å¿ƒæ¦‚å¿µé€šè¿‡æ•°å­¦æ¨¡å�‹å’Œä»£ç �示例解æ��技术细节结å�ˆæ•™è‚²ã€�客æœ�ã€�ç ”å�‘辅助等å®�际场景展示其应用价值最å��æ�¢è®¨æœªæ�¥ä¸�多模æ€�ã€�自主智能体的è��å�ˆè¶‹åŠ¿ã€‚æœ¯è¯­è¡¨æ ¸å¿ƒæœ¯è¯­å®šä¹‰AIå�Ÿç”Ÿåº”用ä»�需求分æ��到æ�¶æ�„设计å�‡ä»¥LLMä¸ºæ ¸å¿ƒèƒ½åŠ›çš„åº”ç”¨å¦‚AutoGPTã€�Notion AI区别äº�ä¼ ç»Ÿåº”ç”¨AIæ�’件的集æˆ�模å¼�。æ€�ç»´æ ‘Tree of Thoughts, ToT一ç§�让LLM模拟人类多步æ�¨ç�†çš„框æ�¶é€šè¿‡ç”Ÿæˆ�-评估-å›�溯机制æ�„建动æ€�æ€�维路径。大语言模å�‹LLM如GPT-4ã€�PaLM 2等具备强上下文ç�†è§£ä¸�生æˆ�能力的预训练模å�‹ã€‚ç›¸å…³æ¦‚å¿µè§£é‡Šä¼ ç»Ÿæ��示工程Prompt Engineering通过设计输入文本引导LLM输出适用äº�简å�•ä»»åŠ¡å¦‚翻译ã€�摘è¦�但难以处ç�†éœ€è¦�多步æ�¨ç�†çš„å¤�æ�‚问题。链å¼�æ€�考Chain of Thought, CoTLLM的基础æ�¨ç�†æ–¹æ³•é€šè¿‡é€�æ­¥æ�¨å¯¼ç”Ÿæˆ�答案但缺ä¹�å›�溯修正能力类似å�•çº¿ç¨‹å†™ä½œæ–‡ã€‚æ ¸å¿ƒæ¦‚å¿µä¸�è�”系故事引入å°�æ˜�解数学题的å�¯ç¤ºå‘¨æœ«å°�æ˜�é�‡åˆ°ä¸€é�“数学题“鸡兔å�Œç¬¼å¤´å…±35个脚共94å�ªé—®é¸¡å…”å�„å‡ å�ªâ€�ä¼ ç»ŸAIçš„å�šæ³•åƒ�é€Ÿç®—æœºå™¨äººä¸€æ ·ç›´æ�¥è¾“入问题等待答案。如æ�œæ¨¡å�‹è®­ç»ƒæ—¶æ²¡è§�过类似题å�¯èƒ½è¾“出错误比如直æ�¥ç®—35×270忽略兔å­�多2å�ªè„šã€‚å°�æ˜�çš„å�šæ³•åœ¨è�‰ç¨¿çº¸ä¸Šç”»äº†æ£µæ€�ç»´æ ‘å�‡è®¾å…¨æ˜¯é¸¡â†’è„šæ•°35×270比å®�é™…å°‘24å�ªæ¯�æ�¢1å�ªå…”è„šæ•°2→需è¦�æ�¢24÷212å�ªå…”验è¯�12å�ªå…”×4 23å�ªé¸¡Ã—2 484694正确。å°�æ˜�çš„è�‰ç¨¿çº¸æ€�维有三个关键动作生æˆ�多ç§�å�‡è®¾åˆ†æ”¯ã€�评估å�‡è®¾å�ˆç�†æ€§å‰ªæ��ã€�å›�溯修正错误å›�退。æ€�ç»´æ ‘ToT正是让AI学会这ç§�打è�‰ç¨¿èƒ½åŠ›çš„技术模å¼�ã€‚æ ¸å¿ƒæ¦‚å¿µè§£é‡Šåƒ�ç»™å°�å­¦ç”Ÿè®²æ•…äº‹ä¸€æ ·æ¦‚å¿µä¸€AIå�Ÿç”Ÿåº”用——会æ€�è€ƒçš„æ™ºèƒ½åŠ©æ‰‹ä¼ ç»ŸAPPåƒ�å·¥å…·ç›’ä½ éœ€è¦�自己选工具比如用计算器算题ã€�用文档写答案AIå�Ÿç”Ÿåº”用åƒ�å°�助手它能ç�†è§£ä½ 的需求主动调用å�„ç§�èƒ½åŠ›è§£å†³é—®é¢˜æ¯”å¦‚ä½ è¯´å¸®æˆ‘è§£é¸¡å…”å�Œç¬¼é—®é¢˜å®ƒç›´æ�¥è¾“出解题过程答案。但è¦�处ç�†å¤�æ�‚问题这个å°�助手需è¦�æ›´è�ªæ˜�çš„æ€�考方å¼�。概念二æ€�ç»´æ ‘ToT——AIçš„è�‰ç¨¿çº¸æƒ³è±¡AIå¤§è„‘é‡Œæœ‰ä¸€å¼ ä¼šåŠ¨æ€�生长的æ€�维地图æ¯�个节点是一个æ€�路比如å�‡è®¾å…¨æ˜¯é¸¡èŠ‚点下的分支是下一步å�¯èƒ½çš„æ“�作比如计算脚数或æ�¢å…”å­�试试。AI会åƒ�å°�æ˜�ä¸€æ ·ç”Ÿæˆ�多个å�¯èƒ½çš„æ€�路分支检查æ¯�个æ€�路是å�¦å�ˆç�†è¯„估如æ�œæŸ�个分支走ä¸�通比如脚数算错就å›�到上一步选å�¦ä¸€ä¸ªåˆ†æ”¯å›�溯。概念三大语言模å�‹LLM——æ€�ç»´æ ‘çš„ç¬”LLM是AI的语言大脑能ç�†è§£é—®é¢˜å¹¶ç”Ÿæˆ�文字。æ€�ç»´æ ‘éœ€è¦�LLMå�šä¸‰ä»¶äº‹ç”Ÿæˆ�器Generatoræ ¹æ�®å½“å‰�æ€�路写出下一步å�¯èƒ½çš„æ“�作比如å�‡è®¾å…¨æ˜¯å…”会æ€�æ ·è¯„ä¼°å™¨Evaluator判断当å‰�æ€�路是å�¦å�ˆç�†æ¯”如脚数比å®�际多这个å�‡è®¾å�¯èƒ½æœ‰é—®é¢˜æ•´å�ˆå™¨Integrator把所有å�¯è¡Œçš„æ€�路串起æ�¥å½¢æˆ�最终答案比如正确的解法是æ�¢12å�ªå…”ã€‚æ ¸å¿ƒæ¦‚å¿µä¹‹é—´çš„å…³ç³»ç”¨å°�学生能ç�†è§£çš„比喻AIå�Ÿç”Ÿåº”用 vs æ€�ç»´æ ‘AIå�Ÿç”Ÿåº”用是å°�助手æ€�ç»´æ ‘æ˜¯å®ƒçš„è�ªæ˜�大脑。就åƒ�å°�æ˜�需è¦�è�‰ç¨¿çº¸æ‰�能解å¤�æ�‚题å°�助手需è¦�æ€�ç»´æ ‘æ‰�能处ç�†å¤�æ�‚任务。æ€�ç»´æ ‘ vs LLMæ€�ç»´æ ‘æ˜¯è§£é¢˜æ–¹æ³•LLM是执行解题的手。就åƒ�å°�æ˜�用铅笔在è�‰ç¨¿çº¸ä¸Šå†™å­—LLM用生æˆ�-评估-å›�溯在æ€�ç»´æ ‘é‡Œå†™æ€�路。AIå�Ÿç”Ÿåº”用 vs LLMAIå�Ÿç”Ÿåº”用是最终产å“�LLMæ˜¯æ ¸å¿ƒå¼•æ“�。就åƒ�手机需è¦�芯片æ‰�能è¿�è¡ŒAIå�Ÿç”Ÿåº”用需è¦�LLMæ�­é…�æ€�ç»´æ ‘æ‰�能å®�ç�°æ™ºèƒ½åŠŸèƒ½ã€‚æ ¸å¿ƒæ¦‚å¿µå�Ÿç�†å’Œæ�¶æ�„的文本示æ„�图æ€�ç»´æ ‘çš„æ ¸å¿ƒæ�¶æ�„å�¯æ¦‚括为1æ ¸3模å�—æ ¸å¿ƒåŠ¨æ€�æ€�ç»´æ ‘ç”±èŠ‚ç‚¹å’Œåˆ†æ”¯æ�„æˆ�çš„æ ‘çŠ¶ç»“æ�„æ¯�个节点代表一个æ�¨ç�†çŠ¶æ€�。模å�—生æˆ�模å�—生æˆ�候选分支评估模å�—判断分支å�ˆç�†æ€§æ�œç´¢æ¨¡å�—é��å�†æ ‘结æ�„寻找最优路径。Mermaid æµ�程图å�ˆç�†ä¸�å�ˆç�†æ˜¯å�¦é—®é¢˜è¾“入生æˆ�åˆ�始æ€�è·¯æ ¹èŠ‚ç‚¹è¯„ä¼°å½“å‰�æ€�路是å�¦å�ˆç�†?生æˆ�下一步分支å­�节点å›�溯到父节点å°�试其他分支是å�¦æ‰¾åˆ°ç­”案?è¾“å‡ºæœ€ç»ˆè·¯å¾„æ ¸å¿ƒç®—æ³•å�Ÿç�† 具体æ“�作步骤æ€�ç»´æ ‘çš„æ ¸å¿ƒæ˜¯åŸºäº�æ ‘ç»“æ�„çš„æ�œç´¢æ�¨ç�†å…¶ç®—法æµ�程å�¯åˆ†ä¸º5步以解数学题为例步骤1问题分解生æˆ�æ ¹èŠ‚ç‚¹å°†å¤�æ�‚问题拆解为å�¯å¤„ç�†çš„å­�问题。例如鸡兔å�Œç¬¼å�¯æ‹†è§£ä¸ºå�‡è®¾å…¨æ˜¯é¸¡â†’计算脚数→对比å®�é™…è„šæ•°çš„åˆ�始æ€�è·¯æ ¹èŠ‚ç‚¹ã€‚æ­¥éª¤2生æˆ�候选分支扩展å­�节点用LLM生æˆ�å�¯èƒ½çš„下一步æ“�作å­�节点。例如分支1“å�‡è®¾å…¨æ˜¯é¸¡è®¡ç®—è„šæ•°â€�分支2“å�‡è®¾å…¨æ˜¯å…”计算脚数â€�分支3“设鸡有xå�ªå…”有35-xå�ªåˆ—方程2x4(35-x)94â€�。步骤3评估分支å�ˆç�†æ€§å‰ªæ��用评估器å�¯ä»¥æ˜¯LLM或规则判断æ¯�个分支是å�¦å�¯è¡Œã€‚例如分支1计算脚数70比å®�é™…å°‘24评估为部分å�ˆç�†éœ€ä¿®æ­£åˆ†æ”¯2计算脚数140比å®�际多46评估为部分å�ˆç�†éœ€ä¿®æ­£åˆ†æ”¯3ç›´æ�¥åˆ—方程评估为高å�ˆç�†æ€§å�¯ç›´æ�¥æ±‚解。步骤4æ�œç´¢æœ€ä¼˜è·¯å¾„深度/å¹¿åº¦ä¼˜å…ˆæ ¹æ�®è¯„估结æ�œé€‰æ‹©åˆ†æ”¯ç»§ç»­æ�¢ç´¢ã€‚例如优先处ç�†é«˜å�ˆç�†æ€§çš„分支3若分支3解出x23鸡则直æ�¥å¾—到答案若分支3计算错误比如列方程时符å�·é”™è¯¯åˆ™å›�æº¯åˆ°æ ¹èŠ‚ç‚¹å°�试分支1或分支2。步骤5æ•´å�ˆè¾“出生æˆ�最终答案将最优路径上的所有节点æ€�路整å�ˆæˆ�自然语言输出解题过程答案。Python伪代ç �示例模拟ToTæµ�程classThoughtNode:def__init__(self,content,parentNone):self.contentcontent# 当å‰�æ€�路内容如å�‡è®¾å…¨æ˜¯é¸¡self.parentparent# 父节点å›�溯用self.children[]# å­�节点下一步æ€�è·¯self.score0# 评估分数越高越å�ˆç�†defgenerate_branches(current_node,llm):用LLM生æˆ�当å‰�节点的å­�节点候选分支promptf当å‰�æ€�è·¯{current_node.content}。请生æˆ�下一步å�¯èƒ½çš„æ“�作最多3个。branchesllm.generate(prompt)# LLMè¿”å›�候选分支列表return[ThoughtNode(branch,parentcurrent_node)forbranchinbranches]defevaluate_branch(node,llm):用LLM评估分支å�ˆç�†æ€§

分promptf�路{node.content}。请评估这个�路对解决问题的帮助

分10分最��。node.scorellm.generate(prompt,temperature

# 温度设0结�更确定returnnode.scoredefsearch_tree(root,llm,max_depth

:深度优先�索最优路径current_noderootfordepthinrange(max_depth):# 生��节点current_node.childrengenerate_branches(current_node,llm)# 评估�节点forchildincurrent_node.children:evaluate_branch(child,llm)# 选择分数最高的�节点继续�索current_nodemax(current_node.children,keylambdax:x.score)# 检查是�找到答案�设答案包�正确关键�if正确incurrent_node.content:returncurrent_node# 若未找到�溯到父节点�试其他分支此处简化�际需���溯逻辑returnNone# 示例调用rootThoughtNode(解决鸡兔�笼问题头35脚

answer_nodesearch_tree(root,llmGPT

print(最终æ€�路路径,get_path(answer_node))# 输出ä»�æ ¹åˆ°ç­”æ¡ˆèŠ‚ç‚¹çš„è·¯å¾„æ•°å­¦æ¨¡å�‹å’Œå…¬å¼� 详细讲解 举例说æ˜�æ€�ç»´æ ‘çš„æ•°å­¦æœ¬è´¨æ˜¯åœ¨çŠ¶æ€�空间中寻找最优路径å�¯ç”¨é©¬å°”å�¯å¤«å†³ç­–过程MDPæ��述状æ€�定义状æ€� ( s_t )第 ( t ) 步的æ�¨ç�†çŠ¶æ€�对应æ€�ç»´æ ‘çš„ä¸€ä¸ªèŠ‚ç‚¹åŒ…å�«å½“å‰�æ€�路内容和å�†å�²è·¯å¾„。动作 ( a_t )ä»�状æ€� ( s_t ) 生æˆ�å­�节点的æ“�作如å�‡è®¾å…¨æ˜¯é¸¡ã€‚转移概ç�‡ä»�状æ€� ( s_t ) 执行动作 ( a_t ) 转移到状æ€� ( s_{t1} ) 的概ç�‡P ( s t 1 ∣ s t , a t ) LLM生æˆ�该å­�节点的概ç�‡ P(s_{t1} | s_t, a_t) \text{LLM生æˆ�该å­�节点的概ç�‡}P(st1​∣st​,at​)LLM生æˆ�该å­�节点的概ç�‡å¥–励函数评估状æ€� ( s_t ) çš„å�ˆç�†æ€§å¥–励 ( R(s_t) ) 越高该状æ€�越å�¯èƒ½å¯¼å�‘正确答案。例如R ( s t ) α × 逻辑一致性 β × ä¸�问题相关性 ( α β 1 ) R(s_t) \alpha \times \text{逻辑一致性} \beta \times \text{ä¸�问题相关性} \quad (\alpha\beta

R(st​)α×逻辑一致性β×�问题相关性(αβ

举例在鸡兔�笼问题中状� ( s_1 )“�设全是鸡脚数70�其逻辑一致性得分为

8脚数计算正确但��际�符相关性得分为1直�关�问题则 ( R(s_

1)

5×

8

5×

1

9 )。最优路径æ�œç´¢ç›®æ ‡æ˜¯æœ€å¤§åŒ–累积奖励 ( G \sum_{t0}^T \gamma^t R(s_t) )( \gamma ) ä¸ºæŠ˜æ‰£å› å­�æ�ƒè¡¡çŸ­æœŸå’Œé•¿æœŸå¥–励。通过广度优先æ�œç´¢BFS或深度优先æ�œç´¢DFS找到 ( G ) 最大的路径。项目å®�战代ç �å®�际案例和详细解释说æ˜�å¼€å�‘ç�¯å¢ƒæ�­å»ºæˆ‘们将开å�‘一个AIæ•°å­¦é¢˜è§£ç­”å™¨æ ¸å¿ƒåŠŸèƒ½æ˜¯ç”¨æ€�ç»´æ ‘å¤„ç�†å¤šæ­¥æ•°å­¦é¢˜ã€‚工具链LLMOpenAI GPT-4通过API调用框æ�¶LangChain简化LLM交互语言Python

9ä¾�赖库openai,langchain,networkx绘制æ€�ç»´æ ‘ã€‚æº�代ç �详细å®�ç�°å’Œä»£ç �解读以下是关键模å�—的简化代ç �完整代ç �è§�GitHub仓库

�维节点类ThoughtNodefromdataclassesimportdataclassfromtypingimportList,OptionaldataclassclassThoughtNode:content:str# 当��路内容如�设全是鸡脚数35×270parent:Optional[ThoughtNode]None# 父节点children:List[ThoughtNode]None# �节点score:float

0# 评估分数

defget_path(self)-List[str]:è�·å�–ä»�æ ¹èŠ‚ç‚¹åˆ°å½“å‰�节点的路径path[]currentselfwhilecurrent:path.append(current.content)currentcurrent.parentreturnpath[::-1]# å��转列表ä»�æ ¹åˆ°å½“å‰�节点

生�候选分支用LangChain调用LLMfromlangchain.chat_modelsimportChatOpenAIfromlangchain.promptsimportChatPromptTemplate llmChatOpenAI(model_namegpt-4,temperature

0.

# 温度调高中生æˆ�æ›´å¤šæ ·åˆ†æ”¯defgenerate_branches(current_content:str)-List[str]:æ ¹æ�®å½“å‰�æ€�路生æˆ�候选分支promptChatPromptTemplate.from_template( 我ç�°åœ¨è¦�解决这个问题鸡兔å�Œç¬¼å¤´å…±35个脚共94å�ªé—®é¸¡å…”å�„å‡ å�ª 当å‰�æ€�路是{current_content}。请生æˆ�下一步å�¯èƒ½çš„æ€�路最多3个用简æ´�的语言æ��述。 )messagesprompt.format_messages(current_contentcurrent_content)responsellm(messages)# 解æ��LLMè¿”å›�的分支å�‡è®¾ç”¨æ�¢è¡Œåˆ†éš”return[line.strip()forlineinresponse.content.split(\n)ifline.strip()]

评估分支��性用LLM打分defevaluate_branch(branch_content:str)-float:评估分支对解决问题的帮助

分promptChatPromptTemplate.from_template( 评估以下�路对解决鸡兔�笼问题的帮助

分1分最有帮助 �路{branch_content} 请�返�一个0到1之间的�数例如

8。 )messagesprompt.format_messages(branch_contentbranch_content)responsellm(messages)returnfloat(response.content)

æ€�ç»´æ ‘æ�œç´¢ä¸»å‡½æ•°defbuild_thought_tree(initial_content:str,max_depth

-ThoughtNode:rootThoughtNode(contentinitial_content)current_nodes[root]# 当å‰�层节点广度优先æ�œç´¢fordepthinrange(max_depth):next_nodes[]fornodeincurrent_nodes:# 生æˆ�å­�节点branchesgenerate_branches(node.content)node.children[ThoughtNode(contentbranch,parentnode)forbranchinbranches]# 评估å­�节点forchildinnode.children:child.scoreevaluate_branch(child.content)next_nodes.extend(node.children)current_nodesnext_nodes# 进入下一层# 找到分数最高的å�¶å­�节点all_leaves[nodefornodeinget_all_nodes(root)ifnotnode.children]best_leafmax(all_leaves,keylambdax:x.score)returnbest_leaf代ç �解读ä¸�分æ��ThoughtNode类用数æ�®ç±»dataclass简æ´�定义æ€�维节点包å�«å†…容ã€�父å­�关系ã€�评估分数get_path方法方便å›�溯完整æ€�路。generate_branches函数通过LangChain模æ�¿æ��示LLM生æˆ�候选分支温度设

7å¹³è¡¡å¤šæ ·æ€§å’Œç›¸å…³æ€§æ¸©åº¦è¶Šé«˜ç”Ÿæˆ�越éš�机。evaluate_branchå‡½æ•°ç”¨ä¸¥æ ¼çš„æ��示让LLM输出数值分数便äº�é‡�化比较分支质é‡�。build_thought_tree函数采用广度优先æ�œç´¢BFS扩展æ€�ç»´æ ‘é™�制最大深度é�¿å…�æ— é™�循ç�¯æœ€ç»ˆé€‰æ‹©åˆ†æ•°æœ€é«˜çš„å�¶å­�节点作为最优路径。å®�际应用场景æ€�ç»´æ ‘æ­£åœ¨é‡�æ�„AIå�Ÿç”Ÿåº”用的能力边界以下是3个典å�‹åœºæ™¯åœºæ™¯1æ•™è‚²é¢†åŸŸâ€”â€”æ™ºèƒ½è§£é¢˜è¾…å¯¼ä¼ ç»ŸAI辅导工具å�ªèƒ½ç»™ç­”案而基äº�æ€�ç»´æ ‘çš„åº”ç”¨èƒ½æ•™æ€�路。例如学生问“这é�“å‡ ä½•é¢˜æ€�么å�šâ€�AI生æˆ�多个解题æ€�路作辅助线ã€�用相似三角形ã€�用勾股定ç�†è¯„ä¼°æ¯�个æ€�路的å�ˆç�†æ€§å¦‚作辅助线更直观é€�步讲解最优路径并å…�许学生选择æ�¢ä¸€ç§�æ€�路试试å›�溯到其他分支。场景2客æœ�领域——å¤�æ�‚问题处ç�†ä¼ 统客æœ�AIå�ªèƒ½å¤„ç�†æŸ¥å¿«é€’改密ç �等简å�•é—®é¢˜é�‡åˆ°è®¢å�•æœªæ”¶åˆ°ä¸”退款被拒的å¤�æ�‚问题常å�¡å£³ã€‚æ€�ç»´æ ‘è®©AI能分解问题“订å�•æœªæ”¶åˆ°â†’å�¯èƒ½ç‰©æµ�问题退款被拒→å�¯èƒ½ä¸�符å�ˆè§„则â€�生æˆ�分支“è�”系物æµ�查件â€�“检查退款规则â€�“æ��交申诉â€�评估优先级“先è�”系物æµ�高紧急å�Œæ—¶æ£€æŸ¥é€€æ¬¾è§„则高相关â€�输出分步引导“第一步…第二步…若失败å�¯å°�试…â€�。场景3ç ”å�‘辅助——代ç �æ¼�æ´�æ�’查程åº�员调试时é�‡åˆ°æ�¥å�£è°ƒç”¨å¤±è´¥é—®é¢˜ä¼ 统AIå�¯èƒ½ç›´æ�¥ç»™æ£€æŸ¥ç½‘络的建议。æ€�ç»´æ ‘AI能生æˆ�æ�’查分支“检查请求å�‚数→检查æœ�务日志→检查æ�ƒé™�é…�ç½®â€�评估分支“æœ�务日志包å�«é”™è¯¯ç �高价值优先检查â€�引导程åº�员“请æ��供最近的æœ�åŠ¡æ—¥å¿—æˆ‘å¸®ä½ åˆ†æ��错误ç �…â€�è‹¥æ—¥å¿—æ— å¼‚å¸¸å›�溯到检查请求å�‚数分支继续æ�’查。工具和资æº�æ�¨è��å¼€å�‘工具LangChain简化LLMä¸�æ€�ç»´æ ‘çš„é›†æˆ�支æŒ�自定义æ��示模æ�¿å’Œé“¾Chain结æ�„。AutoGPT基äº�æ€�ç»´æ ‘çš„è‡ªä¸»æ™ºèƒ½ä½“æ¡†æ�¶å�¯è‡ªåŠ¨è®¾å®šç›®æ ‡å¹¶é€šè¿‡è®¡åˆ’-执行-评估循ç�¯å®Œæˆ�任务。LlamaIndex将外部数æ�®å¦‚文档ã€�æ•°æ�®åº“ä¸�LLM结å�ˆä¸ºæ€�ç»´æ ‘æ��供背景知识支æŒ�ã€‚å­¦ä¹ èµ„æº�论文《Tree of Thoughts: Deliberate Problem Solving with Large Language Modelsã€‹æ ¸å¿ƒç�†è®ºå�šå®¢ã€ŠHow to Implement Tree of Thoughts with GPT-4》å®�战指å�—GitHub仓库《ToT-Examples》包å�«æ•°å­¦ã€�游æˆ�ã€�代ç �生æˆ�等场景的示例代ç �。未æ�¥å�‘展趋势ä¸�挑战趋势1多模æ€�æ€�ç»´æ ‘å½“å‰�æ€�ç»´æ ‘ä»¥æ–‡æœ¬ä¸ºä¸»æœªæ�¥å°†ç»“å�ˆå›¾åƒ�ã€�语音ã€�代ç �等多模æ€�æ•°æ�®ã€‚例如设计AIæ—¶æ€�ç»´æ ‘èŠ‚ç‚¹å�¯ä»¥æ˜¯è�‰å›¾â†’3D模å�‹â†’物ç�†ä»¿çœŸçš„多模æ€�分支医疗诊断时节点å�¯ä»¥æ˜¯ç—‡çŠ¶æ��述→影åƒ�分æ��→化验报告的跨模æ€�æ�¨ç�†ã€‚趋势2自主智能体的æ€�维中æ�¢éš�ç�€AutoGPTã€�BabyAGI等自主智能体的普å�Šæ€�ç»´æ ‘å°†æˆ�为其决策大脑。智能体å�¯é€šè¿‡æ€�ç»´æ ‘åˆ†è§£å¤�æ�‚ç›®æ ‡å¦‚ç­–åˆ’ä¸€åœºäº§å“�å�‘布会→定时间→找场地→邀嘉宾动æ€�调整策略若场地已满å›�溯到找备选场地分支积累ç»�验将æˆ�功路径存入æ€�维知识库优化未æ�¥å†³ç­–。挑战1计算æˆ�本ä¸�效ç�‡æ€�ç»´æ ‘éœ€è¦�多次调用LLM生æˆ�评估æ¯�个分支计算æˆ�本å�¯èƒ½æ˜¯ä¼ 统æ��示工程的

å€�。未æ�¥éœ€ä¼˜åŒ–è½»é‡�级评估器用å°�模å�‹æ›¿ä»£LLM打分剪æ��ç­–ç•¥æ��å‰�终止ä½�分数分支。挑战2è¯„ä¼°æ ‡å‡†çš„å®¢è§‚æ€§å½“å‰�评估主è¦�ä¾�èµ–LLM的主观判断如这个æ€�路是å�¦å�ˆç�†å�¯èƒ½å¼•å…¥å��è§�。需æ�¢ç´¢åŸºäº�规则的评估如数学题的脚数必须为å�¶æ•°åŸºäº�æ•°æ�®çš„评估用å�†å�²æˆ�功案例训练评估模å�‹ã€‚æ€»ç»“å­¦åˆ°äº†ä»€ä¹ˆæ ¸å¿ƒæ¦‚å¿µå›�顾AIå�Ÿç”Ÿåº”用ä»�设计之åˆ�å°±ä¾�èµ–LLM的智能应用需è¦�æ›´å¤�æ�‚çš„æ�¨ç�†èƒ½åŠ›ã€‚æ€�ç»´æ ‘ToT模拟人类打è�‰ç¨¿çš„多步æ�¨ç�†æ¡†æ�¶é€šè¿‡ç”Ÿæˆ�-评估-å›�溯解决å¤�æ�‚问题。LLM作为生æˆ�器ã€�评估器和整å�ˆå™¨æ˜¯æ€�ç»´æ ‘çš„æ ¸å¿ƒæ‰§è¡Œå¼•æ“�。概念关系å›�顾AIå�Ÿç”Ÿåº”用是需求方需è¦�æ€�ç»´æ ‘æ��ä¾›å¤�æ�‚æ�¨ç�†èƒ½åŠ›æ€�ç»´æ ‘æ˜¯è§£å†³æ–¹æ¡ˆéœ€è¦�LLM作为工具å®�ç�°ä¸‰è€…å…±å�Œæ�„æˆ�需求-方法-工具的技术闭ç�¯æ�¨åŠ¨AI应用ä»�功能辅助å�‘智能决策å�‡çº§ã€‚æ€�考题动动å°�è„‘ç­‹ä½ èƒ½æƒ³åˆ°ç”Ÿæ´»ä¸­è¿˜æœ‰å“ªäº›éœ€è¦�多步æ�¨ç�†çš„场景如æ�œç”¨æ€�ç»´æ ‘è®¾è®¡ä¸€ä¸ªAIåº”ç”¨ä½ ä¼šå¦‚ä½•åˆ†è§£æ­¥éª¤å�‡è®¾ä½ è¦�å¼€å�‘一个旅行计划AI用户需求是带å°�å­©å�»ä¸Šæµ·ç�©3天喜欢自然和科技。用æ€�ç»´æ ‘çš„è¯�åˆ�始分支å�¯èƒ½æœ‰å“ªäº›å“ªäº›åˆ†æ”¯éœ€è¦�优先评估æ€�ç»´æ ‘éœ€è¦�多次调用LLMå�¯èƒ½å¯¼è‡´å»¶è¿Ÿå¢�åŠ ã€‚ä½ æœ‰ä»€ä¹ˆæ–¹æ³•å�¯ä»¥ä¼˜åŒ–å“�应速度附录常è§�问题ä¸�解答Qæ€�ç»´æ ‘å’Œé“¾å¼�æ€�考CoT有什么区别A链å¼�æ€�考是å�•çº¿ç¨‹æ�¨ç�†ä¸€æ�¡è·¯èµ°åˆ°é»‘而æ€�ç»´æ ‘æ˜¯å¤šçº¿ç¨‹å›�溯生æˆ�多个分支走ä¸�通就å›�头。例如解数学题时CoTå�¯èƒ½ç›´æ�¥æŒ‰å�‡è®¾å…¨æ˜¯é¸¡æ�¨å¯¼è‹¥ä¸­é€”算错就输出错误答案ToT会å�Œæ—¶å°�试å�‡è®¾å…¨æ˜¯é¸¡â€œå�‡è®¾å…¨æ˜¯å…”â€�列方程等分支选最å�ˆç�†çš„路径。Qæ€�ç»´æ ‘éœ€è¦�很强的LLMå�—å°�模å�‹èƒ½å®�ç�°å�—A生æˆ�和评估高质é‡�分支需è¦�LLM的强ç�†è§£èƒ½åŠ›å°�模å�‹å¦‚7Bå�‚æ•°çš„Llamaå�¯èƒ½ç”Ÿæˆ�的分支质é‡�较ä½�。但å�¯ä»¥é€šè¿‡å¤§æ¨¡å�‹ç”Ÿæˆ�å°�模å�‹è¯„ä¼°çš„æ··å�ˆæ¨¡å¼�é™�ä½�æˆ�本或针对特定领域如数学题用规则替代部分评估逻辑。Qæ€�ç»´æ ‘ä¼šè®©AIæ›´åƒ�人类å�—A是的æ€�ç»´æ ‘æ¨¡ä»¿äº†äººç±»è¯•é”™-修正的æ€�考过程ä¸�仅能æ��高答案准确ç�‡è¿˜èƒ½è¾“出更符å�ˆäººç±»ä¹ 惯的æ�¨ç�†è¿‡ç¨‹å¦‚我先å�‡è®¾å…¨æ˜¯é¸¡å�‘ç�°è„šæ•°ä¸�够所以æ�¢æˆ�å…”å­�æ��å�‡å�¯è§£é‡Šæ€§ã€‚扩展阅读 å�‚考资料论文《Tree of Thoughts: Deliberate Problem Solving with Large Language Models》Yao et al., 2023å�šå®¢ã€ŠFrom Chain of Thought to Tree of Thoughts: A Breakthrough in LLM Reasoning》Medium, 2023å¼€æº�项目《LangChain Documentation》https://python.langchain.com/æ¡ˆä¾‹ç ”ç©¶ã€ŠHow Duolingo Uses ToT for Language Learning Apps》Duolingo Tech Blog, 2024

91成人短视频-91成人短视频应用