调研:如何实现智能分析助手(Agent)(AutoCoder、FastGPT、AutoGen、DataCopilot)

文章目录

调研:如何实现智能分析助手(Agent)(AutoCoder、FastGPT、AutoGen、DataCopilot)


一、交互流程


二、数据流程

企业聊天应用的后端通常遵循以下类似的流程[1]:

1.用户在自定义聊天用户界面(UI)中输入一个提示

2.该提示通过界面代码发送到后端

3.后端从提示中提取用户意图(问题或指令)

4.后端确定需要访问的数据存储(与用户提示相关)(可选)

5.后端查询相关的数据存储

6.后端将意图、相关基础数据和提示中提供的任何历史记录发送给大型语言模型(LLM)

7.后端将结果返回,以便可以在用户界面上显示


三、架构分类

上图的架构分类参考[2,3]:


四、开源产品

4.1 AutoCoder(知识库变体)

  • 利用LLM对元数据进行提取[13],后续将提取出的元数据作为业务知识拼接到prompts中使用

  • 适用场景:知识比较少的场景

4.2 FastGPT(知识库实现)

  • 上图是源码[14] insertData2DataSet方法的时序图

4.3 AutoGen(多 Agent 交互)

上图来源于[9],场景描述如下:

  • 多Agent交互:有两个Agent,其中User Proxy Agent代表人与Assistant Agent交互

  • 代码自动生成:生成在沙箱环境,代码互相隔离

4.4 Data Copilot(任务规划)

上图来源于[10],关注概念:

  • self-request:prompt_intent_detection[11]、prompt_task[12]

5 参考链接

1\] [baseline-openai-e2e-chat](https://learn.microsoft.com/en-us/azure/architecture/ai-ml/architecture/baseline-openai-e2e-chat) \[2\] [chatbot-architecture](https://www.imyfone.com/ai-tools/chatbot-architecture/) \[3\] [how-do-chatbots-work](https://www.imyfone.com/ai-tools/how-do-chatbots-work/) \[4\] [AI+BI:结合大语言模型实现对话式的智能报表系统](https://mp.weixin.qq.com/s/tA3vVo7v2p-48QNVqFU8Pg) \[5\] [从长期记忆的角度谈Agent](https://zhuanlan.zhihu.com/p/682593028) \[6\] [Prompt调试及知识库使用调研](https://docs.58corp.com/#/space/1773166836444094465) \[7\] [NoCoding-BatchDataQualityConfig](https://docs.58corp.com/#/space/1774651293344784385) \[8\] [十分钟用LangChain做一个源代码阅读助手](https://zhuanlan.zhihu.com/p/629508838) \[9\] [Step By Step AutoGen by Microsoft](https://drlee.io/step-by-step-autogen-by-microsoft-the-future-of-programming-using-autonomous-gpt-like-agents-105ac45a518f) \[10\] [Data-Copilot: 大语言模型做你最贴心省事的数据助手](https://zhuanlan.zhihu.com/p/636906119) \[11\] [Data-Copilot: prompt_intent_detection](https://github.com/zwq2018/Data-Copilot/blob/main/prompt_lib/prompt_intent_detection.json) \[12\] [Data-Copilot: prompt_task](https://github.com/zwq2018/Data-Copilot/blob/main/prompt_lib/prompt_task.json) \[13\] [AutoCoder: 索引构建](https://github.com/allwefantasy/auto-coder/blob/master/src/autocoder/index/index.py) \[14\] [FastGPT:索引构建](https://github.com/labring/FastGPT/blob/main/projects/app/src/service/core/dataset/data/controller.ts)

相关推荐
AI大模型20 小时前
什么是Embedding?Embedding的三大分类从“词袋”到“上下文”
程序员·llm·agent
大模型教程20 小时前
记一次大模型检索增强系统中的一个问题——死板的RAG
程序员·llm·agent
AI大模型21 小时前
想在 AI 领域弯道超车?这份 7 大 RAG 核心框架清单,你必须收藏!
程序员·llm·agent
后端小肥肠2 天前
效率狂飙!n8n 无人值守工作流,每天自动把领域最新热点做成小红书卡片存本地
人工智能·agent·mcp
阿里云云原生2 天前
浅谈 Agent 开发工具链演进历程
agent
阿里云云原生2 天前
构建定时 Agent,基于 Spring AI Alibaba 实现自主运行的人机协同智能 Agent
agent
大模型教程2 天前
开源RAG神器RAGFlow深度解析:融合Agent能力,零门槛搭建企业级AI知识库
程序员·llm·agent
AI大模型2 天前
斩获72k Star!谷歌云AI大牛开源LLM应用案例库,拿来即用
程序员·llm·agent
AI大模型2 天前
GitHub斩获 19.9k 星!免费!从零开始系统学习大语言模型
程序员·llm·agent
大模型教程2 天前
后悔没早点读!Sebastian Raschka 新书《从头开始推理》
程序员·llm·agent