调研:如何实现智能分析助手(Agent)(AutoCoder、FastGPT、AutoGen、DataCopilot)

文章目录

调研:如何实现智能分析助手(Agent)(AutoCoder、FastGPT、AutoGen、DataCopilot)


一、交互流程


二、数据流程

企业聊天应用的后端通常遵循以下类似的流程[1](https://learn.microsoft.com/en-us/azure/architecture/ai-ml/architecture/baseline-openai-e2e-chat):

1.用户在自定义聊天用户界面(UI)中输入一个提示

2.该提示通过界面代码发送到后端

3.后端从提示中提取用户意图(问题或指令)

4.后端确定需要访问的数据存储(与用户提示相关)(可选)

5.后端查询相关的数据存储

6.后端将意图、相关基础数据和提示中提供的任何历史记录发送给大型语言模型(LLM)

7.后端将结果返回,以便可以在用户界面上显示


三、架构分类

上图的架构分类参考[2](https://www.imyfone.com/ai-tools/chatbot-architecture/),[3](https://www.imyfone.com/ai-tools/how-do-chatbots-work/):


四、开源产品

4.1 AutoCoder(知识库变体)

  • 利用LLM对元数据进行提取[13](https://github.com/allwefantasy/auto-coder/blob/master/src/autocoder/index/index.py),后续将提取出的元数据作为业务知识拼接到prompts中使用

  • 适用场景:知识比较少的场景

4.2 FastGPT(知识库实现)

  • 上图是源码[14](https://github.com/labring/FastGPT/blob/main/projects/app/src/service/core/dataset/data/controller.ts) insertData2DataSet方法的时序图

4.3 AutoGen(多 Agent 交互)

上图来源于[9](https://drlee.io/step-by-step-autogen-by-microsoft-the-future-of-programming-using-autonomous-gpt-like-agents-105ac45a518f),场景描述如下:

  • 多Agent交互:有两个Agent,其中User Proxy Agent代表人与Assistant Agent交互

  • 代码自动生成:生成在沙箱环境,代码互相隔离

4.4 Data Copilot(任务规划)

上图来源于[10](https://zhuanlan.zhihu.com/p/636906119),关注概念:

  • self-request:prompt_intent_detection[11](https://github.com/zwq2018/Data-Copilot/blob/main/prompt_lib/prompt_intent_detection.json)、prompt_task[12](https://github.com/zwq2018/Data-Copilot/blob/main/prompt_lib/prompt_task.json)

5 参考链接

1 baseline-openai-e2e-chat

2 chatbot-architecture

3 how-do-chatbots-work

4 AI+BI:结合大语言模型实现对话式的智能报表系统

5 从长期记忆的角度谈Agent

6 Prompt调试及知识库使用调研

7 NoCoding-BatchDataQualityConfig

8 十分钟用LangChain做一个源代码阅读助手

9 Step By Step AutoGen by Microsoft

10 Data-Copilot: 大语言模型做你最贴心省事的数据助手

11 Data-Copilot: prompt_intent_detection

12 Data-Copilot: prompt_task

13 AutoCoder: 索引构建

14 FastGPT:索引构建

相关推荐
积流成海35 分钟前
Agent演化史(九):多智能体的暗面,当一次 prompt 注入可以横向移动
prompt·agent·智能体·大模型应用
lucas_AI3 小时前
给 Claude Code 挂上代码地图:token 省了 39%,但先看你的瓶颈在哪
llm·agent
ZhengEnCi14 小时前
GUI Agent 打转死循环怎么解决:四个「防打转失效」根因与完整修复方案
agent
大大大大晴天15 小时前
ReAct Agent 从原理到实现:让大模型学会思考、行动与观察
大数据·agent
ZhengEnCi18 小时前
Agent 评测体系是什么:从三层评测到十一个维度的完整评估框架
agent
武子康20 小时前
语音聊了十分钟,为什么不能拿转写分钟算费用?
人工智能·深度学习·agent
武子康1 天前
图片删了,为什么旧链接还能打开、后台还能生成回来?
人工智能·agent
znyin1 天前
dsh源码解析 - Cordis 如何启动:插件树与热更新
agent
柒和远方1 天前
从「存一条记忆」到「管一段记忆」——Mem0 与自建 psql+向量长期记忆的取舍
agent
Flynt1 天前
内存省16倍的Lightpanda实测:数字是真的,但并发代码要重写
性能优化·开源·agent