一.概述
什么是agent?
大模型LLM只能说和想,不能做,仅作知识输出
智能体agent不仅能说和想,还能做,可执行的交付。是能够感知环境、自主决策、使用工具完成任务的智能体
agent具有自主性,能独立思考和决策;有工具使用的能力,可以调用各种外部能力;有任务规划的能力,能拆解并执行复杂任务

大模型的局限
知识过失,无法联网,不能执行,深度不足
提示词工程
提示词prompt是开发者赋予bot的身份、能力和行为规范,它决定了bot的影响质量和风格
提示词帮助用户控制语言模型输出,生成适合的特定需求
提示词调整提供了对模型行为的直观控制,但对提示的确切措辞和涉及敏感,因此需要精心制定的准则以实现期望的效果
提示词的四个要素
角色定位:明确bot的身份,建立专业形象,角色越具体,回复越专业
技能描述:清晰的目标,让bot知道做什么
输出格式:结构化回复要求,确保输出规范
约束条件:限制不当行为,保证安全合规
提示词分类
系统提示词:大模型角色定位+回复逻辑
用户提示词:用户直接提出的具体的指令或问题
提示词编写
可以直接编写,可以使用现有模板,也可以让ai写
RAG检索增强技术
RAG是一种结合知识检索和语言生成的人工智能技术,主要用于解决大型语言模型幻觉问题
RAG流程
第一步:将用户的问题query先和知识库做相关性检索, 检索出和问题相关的context上下文
第二步:再将query问题和context上下文融合拼接得到一个完整的结果result
第三步:将第二步融合的结果result送入大模型的到最后的结果
知识库构建
知识库文档类型:
文档预处理:清理无关内容,按主题分类整理,文件命名规范
文档切片:为了适应大语言模型的上下文长度限制,并提升检索的精确度和效率
切分方式:按字符数切分(固定长度),按符号切分(按句号,换行符,感叹号等),按语义切分(识别主题变化点智能切分)
一般使用符号和字符长度一起切分,一般200-500字每段。长度太小上下文不完整,长度太大,无关信息过多,干扰判断
文档向量化:将切分后的文本进行向量数字化,便于计算问题和文档的相似性
向量化作用:语义理解;相似度计算;快速检索
Function Call
该功能指的是在语言模型中集成外部功能或API的调用能力,这意味着模型可以在生成文本的过程中调用外部函数或服务,获取额外的数据或执行特定的任务
Function Call能解决大模型信息实时性,数据局限性以及功能扩展性的问题
工作流
将一个复杂任务分解成一系列可管理的,按顺序或按条件执行的步骤,并通过图形化的界面将这些步骤连接起来
工作流:使用功能类数据处理,如报告生成、海报制作、数据分析,不支持对话历史,无会话概念,发布渠道是API、模板和商店
对话流:对话类、交互式应用,用于智能客服、AI助手、虚拟伴侣等,支持读取对话历史,必须传入会话名称,全渠道发布
节点:每个节点是一个具有特定功能的独立组件,负责处理数据、执行任务