English | 简体中文
- 本项目探索使用 Agent 从本地文件中处理数据，进而生成复杂内容。例如，输入与特定行业相关的文档，基于此生成行业分析报告。
- 由于存在 token 数量的限制，我们不能将大量数据直接交由语言模型处理。传统的 embedding 数据库提供的功能相对基础，多半只能处理简单的问答情形。
- 采用了典型的 Tasken Driven 的 Agent 结构；
- 使用了 OpenAI 的 function call API，以及 Langchain 的语言模型；
- 考虑到 embedding 数据库功能单一，只能确保任务精细化，以便语言模型可以从数据库中找到对应的数据或信息；
- 需要对 prompt 进行大量修改和调整，以创建足够细的任务。例如，如果在 embedding 数据库中未找到内容，可能是因为任务划分不够细致，需进行再次处理（本库未体现）；
- Prompt 采用标准的 ReAct 形式。
- 实现 prompt 的 ToT (Tree of Thoughts)，用以处理复杂的数据或逻辑推理问题；
- 自动生成 prompt。目前，根据任务调整 prompt 的工作量很大;
- 由于请求数多，embedchain 经常会出现 OpenAI 请求超时的问题，需要本地实现进行调整；
- 添加更多的工具；修改 wikipedia 的 tool；
- 基于 OpenAI 和 Langchain，使用了 Chromadb 的本地数据库;
- 为了快速实现功能，借用了大量来自 aurelio-labs/funkagent 和 embedchain/embedchain 的代码。# Local Agent