论文:
Generative Agents: Interactive Simulacra of Human Behavior
shadow
前阵子在一场线下活动,我们展开了对生成式智能体的分享和研讨,同时也介绍了Earth在实现智能体系统的思考和实践。
最近有一篇文章把LLM驱动的智能体的构成讲解的很清楚,基于LLM,意味着自然语言作为一种接口,串联了系统的各个模块,我们尤其要关注自然语言的写法(Prompt工程)。全文字数比较多,我提取了我比较关心的要点(尤其是prompt相关的)
https://lilianweng.github.io/posts/2023-06-23-agent
以下为原文精简后的整理:
AutoGPT、GPT-Engineer和BabyAGI等几个项目,演示了以LLM(大语言模型)作为核心控制器构建智能体的可行性。
# 智能体
在 LLM 支持的智能体系统中,LLM 充当大脑,并由几个关键组件组成:
- 规划
子目标和分解:将任务分解为更小的、可管理的子目标,从而能够有效处理复杂的任务。
反思和完善:可以对过去的行为进行自我批评和自我反思,从错误中吸取教训,并针对未来的步骤进行完善,从而提高最终结果的质量。
任务分解可以通过:
(1) 通过 LLM 进行简单提示,如"Steps for XYZ.\n1."、"What are the subgoals for achieving XYZ?"、
(2) 通过使用特定于任务的指令;例如,"Write a story outline."用于写小说
(3) 人工输入。
- 记忆
短期记忆:上下文学习都是利用模型的短期记忆来学习。
长期记忆:长时间保留和回忆(无限)信息的能力,通常是通过利用外部向量存储和快速检索。
可以粗略地对应起来:
感觉记忆作为原始输入的学习嵌入表示,包括文本、图像或其他形式;
短期记忆作为情境学习。它是短且有限的,因为它受到 Transformer 有限上下文窗口长度的限制。
长期记忆作为代理在查询时可以处理的外部向量存储,可通过快速检索进行访问。
- 工具使用
智能体学习调用外部 API 来获取模型中缺失的额外信息,包括代码执行能力、对专有信息源的访问等。
一种典型做法是 LLM 作为路由器将查询到最合适的专家模块(包括API调用注释)
HuggingGPT的提示工程(关键提示摘录):
任务规划:
任务必须从以下选项中选择:{{可用任务列表}}。任务之间有逻辑关系,请注意他们的顺序。如果用户输入无法解析,则需要回复空JSON。
模型选择:
仅输出最合适模型的模型id。输出必须采用严格的 JSON 格式:{“id”:“id”,“reason”:“您选择的详细原因”}。我们有一个模型列表供您从{{候选模型}}中进行选择。请从列表中选择一种id。
AutoGPT的提示工程:
- 当前的一些技术限制
上下文长度有限:上下文容量有限,限制了历史信息、详细说明、API 调用上下文和响应的包含。系统的设计必须适应这种有限的通信带宽。尽管向量存储和检索可以提供对更大知识库的访问,但它们的表示能力不如大模型那么强大。
长期规划和任务分解的挑战:长期规划和有效探索解决方案仍然具有挑战性。LLM 在遇到意外错误时很难调整计划。
自然语言接口的可靠性:当前的智能体依赖自然语言作为LLM与外部组件(例如工具)之间的接口。然而,模型输出的可靠性不稳定,LLM 可能会出现格式错误,并且偶尔会拒绝遵循指示。
- mixcopilot 解决方案
针对技术限制,我们认为一套好用的分解、测试任务的工具显得格外重要。特别是模型输出不稳定的问题,我们的工具可以随时人为干预模型输入和输出。
本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请
点击举报。