Planning：利用LLM规划任务步骤
输入“/”快速插入内容
Planning：利用LLM规划任务步骤
Planning：利用LLM规划任务步骤
飞书用户7742飞书用户81742024年7月26日修改
🌲
翻译整理：小七姐
“Planning”（规划）是AI Agent工作流中的一种关键设计模式，，它涉及到使用大型语言模型（LLM）来自主决定执行哪些步骤来完成一个更大的任务。这种模式下，AI Agent能够根据任务的需要，动态地分配额外的计算资源来解决需要更多推理步骤的问题。这种模式的核心在于，AI Agent将复杂任务分解为多个子任务，并动态地规划每个子任务的执行顺序，以达成最终目标。
在“Planning”模式下，AI Agent 能够将一个复杂的任务分解为多个小的子任务，并自主决定每个子任务的执行顺序。例如，如果我们要求AI Agent在线研究一个特定主题，它可能会将这个目标分解为研究特定的子主题、综合发现和编写报告等子任务。
“Planning”模式的一个实际应用示例是，如果你想让代理考虑一个男孩的照片，并画出一个相同姿势的女孩的图片，这个任务可以分解为两个不同的步骤：（i）在男孩的图片中检测姿势，（ii）渲染一个在检测到的姿势中的一个女孩的图片。LLM可以通过输出一个指定计划的字符串（例如，{tool: pose-detection, input: image.jpg, output: temp1 } {tool: pose-to-image, input: temp1, output: final.jpg}）来细化任务，然后触发软件调用姿势检测工具和姿势到图像工具来完成任务。
对下面两篇文献资料做简单解读，以便大家能更深入地了解这一设计模式：
Chain-of-Thought Prompting
《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》，这篇论文探讨了如何通过生成一系列中间推理步骤来显著提高大型语言模型执行复杂推理任务的能力，也就是我们熟悉的“COT”（思维链提示）。不直接要求模型输出答案，而是通过提供中间推理步骤的示例来指导其响应，让模型在给出答案前先执行完整的思考过程。
思维链（高亮显示）有助于大型语言模型中的多步骤推理。这里的输出来自一个拥有1370亿参数的语言模型。
COT思维框架是一种很好的引导模型进行推理和生成文本的策略。强调将复杂的思考过程分解为一系列连贯的中间步骤，以便更好地理解和解决复杂问题。
✅关键概念包括：
a.
分解问题：鼓励模型将一个大问题分解为多个较小的、互相关联的子问题或中间步骤。这有助于模型更好地理清问题的结构。
b.
中间步骤：每个子问题或中间步骤都分配给模型来处理。模型需要逐一解决这些中间步骤，并生成相应的答案或文本。
▪
对于中间步骤的拆分，有以下三种常见的方法：
1.
交给 GPT 模型拆分
2.
根据以往经验拆分
3.
借用成熟的工作链
c.
逐步推理：COT强调模型应该逐步推理，将一个中间步骤的结果用作下一个中间步骤的基础。
d.
最终整合：模型最终将所有中间步骤的答案或文本整合在一起，形成最终的解答。这确保了最终的输出是全面的、准确的。
HuggingGPT
《HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in Hugging Face》，这篇论文介绍了HuggingGPT，这是一种基于 LLM 的代理，它利用 LLM（如 ChatGPT）连接机器学习社区（如 Hugging Face）中的各种 AI 模型来解决 AI 任务。具体来说，当接收到用户请求时，使用 ChatGPT 进行任务规划，根据 Hugging Face 中可用的功能描述选择模型，然后使用选定的 AI 模型执行每个子任务，并根据执行结果进行响应总结。通过利用 ChatGPT 的强大语言能力和 Hugging Face 中的丰富 AI 模型，HuggingGPT 可以解决涵盖不同模态和领域的复杂 AI 任务。
HuggingGPT概述。以大型语言模型（例如，ChatGPT）为核心控制器，以专家模型为执行者，HuggingGPT的工作流程包括四个阶段：1)任务规划：大型语言模型将用户请求解析成任务列表，并确定任务之间的执行顺序和资源依赖关系；2)模型选择：大型语言模型根据Hugging Face上专家模型的描述为任务分配适当的模型；3)任务执行：混合端点上的专家模型执行分配的任务；4)响应生成：大型语言模型整合专家的推理结果，并生成工作流日志的摘要来回应用户。