版本 :v1.0 | 更新日期 :2026-07-07
适用对象 :企业技术负责人、AI 产品经理、后端开发工程师
预计阅读时间 :45 分钟 | 预计实操时间 :2-4 小时
前置要求:具备基础 Python 知识,拥有阿里云账号
📋 目录
- 前言:为什么写这份手册
- 第一章:环境准备与账号开通
- 第二章:构建企业知识库(RAG)
- 第三章:创建智能体应用(Agent)
- [第四章:工具集成与 MCP 配置](#第四章:工具集成与 MCP 配置)
- 第五章:工作流编排(复杂业务)
- 第六章:调试、优化与测试
- 第七章:发布与多渠道接入
- 第八章:监控、运维与持续迭代
- 第九章:企业级安全与治理
- 第十章:成本估算与选型决策
- [附录 A:常见问题排查手册](#附录 A:常见问题排查手册)
- [附录 B:Prompt 模板大全](#附录 B:Prompt 模板大全)
- [附录 C:API 参考速查](#附录 C:API 参考速查)
前言
1.1 什么是企业级 AI Agent?
企业级 AI Agent 不是简单的聊天机器人,而是具备以下特征的智能化系统:
| 特征 | 聊天机器人 | 企业级 AI Agent |
|---|---|---|
| 知识来源 | 预训练数据 | 企业私有知识库(RAG) |
| 系统交互 | 无 | 可调用 ERP、CRM、数据库等 |
| 任务执行 | 被动回答 | 主动拆解任务、多步骤执行 |
| 记忆能力 | 单轮对话 | 长期记忆、上下文关联 |
| 安全审计 | 无 | 完整操作日志、权限管控 |
| 成本可控 | 不可控 | Token 预算、配额管理 |
1.2 为什么选择阿里云百炼?
- 模型丰富:通义千问全系列 + 第三方模型(DeepSeek 等)
- 工具生态:50+ 预置 MCP 工具,一键连接高德、数据库、搜索等
- 成本友好:新人 7000 万+ Tokens 免费额度,按量付费
- 安全合规:阿里云企业级数据安全保障
- 生态兼容:全兼容 OpenAI API 格式,降低迁移成本
1.3 本手册能帮你实现什么?
完成本手册的全部步骤后,你将拥有一个:
✅ 基于企业私有知识库回答问题的智能客服 Agent
✅ 能查询订单状态、库存信息的业务助手
✅ 支持多轮对话、长期记忆的专业顾问
✅ 可部署到钉钉、微信、官网等多渠道的完整系统
✅ 具备监控、审计、告警的生产级运维体系
第一章:环境准备与账号开通(预计 30 分钟)
1.1 注册阿里云账号
步骤 1.1.1 :访问 阿里云一站式轻松搭建企业级 AI Agent
步骤 1.1.2:点击右上角「登录」,支付宝扫码登录,本文是云大使爆肝12天制作,各位老板还请通过链接进入,有什么问题可以私信博主,博主看到会立刻回复,🙏。
步骤 1.1.3 :完成实名认证(强烈建议企业实名)
💡 为什么必须企业实名?
- 可开具增值税专用发票
- 享受企业级 SLA 服务保障
- 可使用企业级安全功能(RAM 子账号、操作审计等)
- 部分 MCP 工具仅对企业实名用户开放
实名认证路径:
登录控制台 → 右上角头像 → 实名认证 → 企业认证
需要准备的材料:
- 企业营业执照照片
- 法人身份证照片
- 企业对公账户(用于小额打款验证)
1.2 开通百炼服务
步骤 1.2.1:登录阿里云控制台
步骤 1.2.2:在顶部搜索框输入「百炼」,点击「阿里云百炼」
步骤 1.2.3:首次进入会显示服务开通页面,点击「立即开通」
📸 截图占位:百炼服务开通页面,显示「立即开通」按钮
步骤 1.2.4:阅读并同意服务协议,点击「确认开通」
步骤 1.2.5:开通成功后,页面自动跳转到百炼控制台首页
1.3 领取免费额度
步骤 1.3.1:在控制台首页顶部,找到「新人免费额度」横幅
步骤 1.3.2:点击「立即领取」,系统会自动将额度发放到你的账户
免费额度明细:
| 资源类型 | 额度 | 有效期 |
|---|---|---|
| 通义千问-Max | 1,000,000 Tokens | 90 天 |
| 通义千问-Plus | 3,000,000 Tokens | 90 天 |
| 通义千问-Turbo | 5,000,000 Tokens | 90 天 |
| Embedding 模型 | 500,000 Tokens | 90 天 |
| 总计 | 约 7,000,000+ Tokens | 90 天 |
步骤 1.3.3 :设置用量保护(极其重要)
路径:费用管理 → 额度管理 → 免费额度用完即停
操作:开启「免费额度用完即停」开关
⚠️ 安全警告:如果不开启此功能,测试阶段可能因循环调用或异常流量导致意外费用。强烈建议测试阶段始终开启。
1.4 账户充值
步骤 1.4.1:进入「费用」→「账户总览」
步骤 1.4.2:确保账户余额 ≥ 100 元
为什么需要 100 元?阿里云按量付费资源需要账户有足够余额才能正常扣费,否则可能触发欠费停机。
充值方式:
- 支付宝扫码充值(即时到账)
- 银行转账(1-3 个工作日)
- 绑定信用卡自动充值(推荐生产环境)
1.5 创建并保管 API Key
步骤 1.5.1:在百炼控制台左侧导航栏,点击「API-KEY 管理」
步骤 1.5.2:点击「创建新的 API-KEY」按钮
步骤 1.5.3:填写 API Key 信息:
| 字段 | 填写内容 | 说明 |
|---|---|---|
| 名称 | company-agent-prod |
生产环境 |
| 描述 | 企业智能客服生产环境 Key |
便于后续管理 |
| 有效期 | 90 天 | 建议定期轮换 |
📸 截图占位:API Key 创建表单
步骤 1.5.4:点击「确认创建」,系统生成 Key
步骤 1.5.5 :立即复制并保存 Key
⚠️ 安全警告:
- Key 只显示一次,关闭页面后无法再次查看完整 Key
- 格式示例:
sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx- 存入企业密码管理器(如 1Password、Vault、阿里云 KMS)
- 切勿硬编码在代码中、提交到 Git、写在文档里发给他人
步骤 1.5.6:创建测试环境 Key(推荐)
重复上述步骤,再创建一个:
- 名称:
company-agent-test - 描述:
测试环境专用
生产/测试环境分离是企业的基本安全实践。
1.6 环境检查清单
完成第一章后,请确认以下检查项:
- 阿里云账号已完成企业实名认证
- 百炼服务已开通
- 新人免费额度已领取
- 「免费额度用完即停」已开启
- 账户余额 ≥ 100 元
- 生产环境 API Key 已创建并安全保存
- 测试环境 API Key 已创建并安全保存
第二章:构建企业知识库(RAG)(预计 1-2 小时)
企业 Agent 的核心价值在于「基于私有知识回答」。知识库的质量直接决定了 Agent 的回答质量。本章将手把手教你构建一个生产级的 RAG 系统。
2.1 知识库规划
2.1.1 梳理知识来源
在动手之前,先列出你的 Agent 需要掌握的所有知识:
□ 产品手册(参数、功能、价格)
□ 售后政策(保修、退换货、维修流程)
□ 常见问题 FAQ(Top 100 问题及标准答案)
□ 内部规章制度(员工手册、操作规范)
□ 客服话术库(不同场景的标准回复)
□ 竞品对比资料
□ 行业法规/合规要求
2.1.2 文档格式要求
支持的格式:
| 格式 | 推荐指数 | 注意事项 |
|---|---|---|
| PDF(文字版) | ⭐⭐⭐ | 确保是文字版,非扫描件 |
| Word (.docx) | ⭐⭐⭐ | 推荐格式,结构清晰 |
| TXT | ⭐⭐⭐ | 纯文本,无格式干扰 |
| Excel (.xlsx) | ⭐⭐⭐ | FAQ 推荐用此格式 |
| Markdown | ⭐⭐⭐ | 技术文档推荐 |
| PDF(扫描版) | ⭐ | ❌ 图片文字无法识别,需先 OCR |
| PPT | ⭐⭐ | 内容较散,建议转换为 Word |
2.1.3 文档内容优化原则
原则一:一个文档一个主题
❌ 错误示例:把「产品手册 + 售后政策 + 员工手册」放在同一个 200 页的 PDF 中
✅ 正确示例:
📁 产品文档/
├── 产品A_参数手册_v1.2.pdf
├── 产品A_使用指南_v1.0.docx
├── 产品B_参数手册_v1.1.pdf
📁 售后政策/
├── 保修政策_2026版.pdf
├── 退换货流程_v2.0.docx
📁 FAQ/
├── 客服FAQ_Top100.xlsx
原则二:删除干扰内容
上传前,请清理以下内容:
- 页眉页脚(如「第 3 页 / 共 50 页」)
- 水印(如「内部资料,请勿外传」)
- 页码
- 重复的封面/目录页
- 空白页
原则三:结构化内容
对于 FAQ 类文档,建议使用以下 Excel 结构:
| 问题 | 答案 | 分类 | 关键词 |
|---|---|---|---|
| 产品A的保修期是多久? | 产品A享受3年有限保修,自购买之日起计算... | 售后 | 保修,产品A |
| 如何申请退货? | 请登录官网,进入「我的订单」→「申请退货」... | 售后 | 退货,流程 |
| 产品A支持哪些操作系统? | 支持 Windows 11、macOS 14、Ubuntu 22.04... | 产品 | 兼容性,系统 |
2.2 上传文档到百炼
步骤 2.2.1:进入百炼控制台,点击顶部「应用」
步骤 2.2.2:在左侧导航栏点击「应用数据」
步骤 2.2.3:切换到「文件」标签页
📸 截图占位:应用数据页面,显示「文件」和「知识库」两个标签
步骤 2.2.4:创建文件类目
点击「类目管理」右侧的「+」按钮,创建以下类目(根据你的实际业务调整):
类目 1:产品文档
类目 2:售后政策
类目 3:FAQ 问答
类目 4:内部制度
💡 类目作用:便于后续管理和权限控制。例如,客服 Agent 只需要挂载「产品文档」和「售后政策」两个类目。
步骤 2.2.5:上传文件
- 点击「导入数据」按钮
- 选择本地文件(可多选,一次最多 50 个文件)
- 选择对应的类目
- 点击「确认」开始上传
上传进度:
- 小文件(< 10MB):通常 10-30 秒完成
- 大文件(> 50MB):可能需要 2-5 分钟
- 状态变为「导入完成」表示成功
⚠️ 常见错误:
- 文件格式不支持 → 转换为 PDF 或 Word 后重试
- 文件过大(> 100MB)→ 拆分成多个小文件
- 扫描版 PDF → 先用 OCR 工具转换为文字版
2.3 创建知识库并配置索引
步骤 2.3.1:点击左侧导航栏「数据」→「知识库」
步骤 2.3.2:点击「创建知识库」按钮
步骤 2.3.3:填写知识库基本信息
| 字段 | 建议填写 | 说明 |
|---|---|---|
| 知识库名称 | 企业产品知识库-v1 |
带版本号,便于迭代 |
| 描述 | 包含产品参数、售后政策、FAQ,用于客服Agent |
便于团队理解 |
步骤 2.3.4:选择数据源
勾选刚才上传的文件和类目,点击「下一步」。
步骤 2.3.5 :配置索引参数(核心步骤)
📸 截图占位:知识库索引配置页面
配置项详解:
A. 切片策略
| 策略 | 适用场景 | 说明 |
|---|---|---|
| 智能切片 | 推荐首选 | 百炼自动按语义段落切分,保持上下文连贯 |
| 自定义切片 | 结构化文档 | 按固定字符数或分隔符切分 |
建议:首次创建选择「智能切片」,如果召回效果不佳再尝试自定义。
B. Embedding 模型
| 模型 | 适用场景 | 特点 |
|---|---|---|
text-embedding-v3 |
通用首选 | 综合性能优秀,性价比高 |
gte-text-embedding |
中文优化 | 中文语义理解更强 |
bge-large-zh |
专业领域 | 适合技术文档、医疗、法律 |
建议 :先用 text-embedding-v3,这是百炼的默认推荐模型。
C. 检索模式
| 模式 | 原理 | 适用场景 |
|---|---|---|
| 混合检索 | 关键词 + 向量双路召回,再融合排序 | 推荐,召回率最高 |
| 向量检索 | 纯语义相似度匹配 | 概念性、抽象性问题 |
| 关键词检索 | 基于关键词匹配 | 精确术语、型号查询 |
建议:选择「混合检索」,这是目前效果最好的模式。
步骤 2.3.6:点击「导入完成」,等待索引构建
构建时间参考:
- 10 个文档(共 50 页):约 1-2 分钟
- 100 个文档(共 500 页):约 5-10 分钟
- 1000 个文档:约 30 分钟
状态变为「可用」后,知识库即可使用。
2.4 检索测试与调优
步骤 2.4.1:在知识库列表中,点击刚创建的知识库名称
步骤 2.4.2:切换到「检索测试」标签页
步骤 2.4.3:输入测试问题,观察召回结果
测试用例模板:
测试 1:产品参数类
问题:产品A的重量是多少?
预期:召回产品A参数手册中关于重量的段落
测试 2:流程类
问题:怎么申请退货?
预期:召回退换货流程文档中的步骤说明
测试 3:FAQ 类
问题:保修期多久?
预期:召回 FAQ 表格中对应的问题-答案对
测试 4:边界类
问题:你们卖火箭吗?
预期:召回不到相关内容(或召回产品列表说明不卖火箭)
测试 5:同义词类
问题:产品A有多重?(与测试1同义)
预期:同样召回产品A重量信息
步骤 2.4.4:分析召回结果
| 现象 | 原因 | 解决方案 |
|---|---|---|
| 召回准确 | 文档质量高,索引配置合理 | 无需调整,继续下一步 |
| 召回不相关 | 切片粒度太细,上下文丢失 | 调整为「自定义切片」,增大切片长度 |
| 召回遗漏 | 相似度阈值太高 | 降低阈值到 0.6-0.7 |
| 召回过多噪音 | 相似度阈值太低 | 提高阈值到 0.8-0.9 |
| 同义词不匹配 | Embedding 模型语义覆盖不足 | 尝试更换为 gte-text-embedding |
步骤 2.4.5:迭代优化
根据测试结果,回到 2.3 步骤调整配置,重新构建索引,再次测试。通常 2-3 轮迭代即可达到满意效果。
2.5 知识库管理最佳实践
版本管理:
企业产品知识库-v1(当前生产版)
企业产品知识库-v2(测试新版,验证中)
更新流程:
- 在测试知识库中验证新文档
- 确认效果后,更新生产知识库
- 保留旧版本 30 天,便于回滚
定期维护:
- 每月检查一次知识库覆盖率(是否有新问题无法回答)
- 每季度全面更新一次文档
- 产品发布/政策变更时,48 小时内更新知识库
第三章:创建智能体应用(Agent)(预计 1-2 小时)
3.1 创建应用
步骤 3.1.1:点击顶部「应用」→「应用管理」
步骤 3.1.2:点击「创建应用」按钮
步骤 3.1.3:选择应用类型
| 类型 | 适用场景 | 复杂度 |
|---|---|---|
| 智能体应用 | 基于知识库问答、工具调用的对话 Agent | 中等 |
| 工作流应用 | 多步骤、条件分支的复杂业务流程 | 较高 |
| 智能体编排应用 | 多 Agent 协作系统 | 高 |
选择「智能体应用」,点击「下一步」。
步骤 3.1.4:填写应用信息
| 字段 | 建议填写 |
|---|---|
| 应用名称 | 企业智能客服-Agent |
| 描述 | 基于产品知识库和订单查询工具的企业客服助手 |
| 所属业务 | 选择或创建业务分类(如「客服部」) |
点击「立即创建」。
3.2 选择基础模型
步骤 3.2.1:在模型选择下拉菜单中,根据场景选择:
| 模型 | 能力 | 速度 | 成本 | 推荐场景 |
|---|---|---|---|---|
通义千问-Max |
最强 | 较慢 | 较高 | 复杂推理、投诉处理、技术咨询 |
通义千问-Plus |
强 | 快 | 中等 | 通用首选,客服、销售、HR |
通义千问-Turbo |
良好 | 最快 | 低 | 简单分类、摘要、标签 |
💡 企业级建议:
- 生产环境先用
Plus验证- 如果回答质量不达标,升级到
Max- 如果成本敏感且场景简单,降级到
Turbo
步骤 3.2.2:配置模型参数(可选)
| 参数 | 默认值 | 调整建议 |
|---|---|---|
| 温度 (Temperature) | 0.7 | 客服场景建议 0.3-0.5(更确定) |
| 最大 Tokens | 2048 | 长回答可调到 4096 |
| Top P | 0.9 | 一般保持默认 |
3.3 编写系统提示词(System Prompt)
系统提示词是 Agent 的「灵魂」,决定了它的行为边界和回答风格。
步骤 3.3.1:在「提示词」文本框中输入系统提示词
以下是一个可直接使用的生产级 Prompt 模板,请根据你的业务修改:
markdown
# 角色设定
你是「XX科技」的智能客服助手,名叫「小智」。你拥有 3 年客服经验,熟悉公司所有产品线和售后政策。你的目标是专业、友好、高效地解决客户问题。
## 核心能力
1. **产品咨询**:基于【知识库】回答产品参数、功能、价格、兼容性等问题。严禁捏造数据,如果知识库中没有相关信息,必须明确告知。
2. **售后支持**:解答退换货、保修、维修进度查询。引导用户按正确流程操作。
3. **订单查询**:当用户提供了订单号时,调用「订单查询插件」获取实时状态。
4. **工单转接**:当用户情绪激烈(如使用"投诉""差评""举报"等词)或问题超出你的能力范围时,调用「转人工」工具,并安抚用户情绪。
## 约束规则(必须遵守)
- 【强制】回答必须基于【知识库】内容。如果知识库中没有相关信息,明确告知用户:"我暂时无法回答这个问题,已为您记录并转交专员处理,专员将在 2 小时内联系您。"
- 【强制】禁止推荐任何竞品或第三方产品。
- 【强制】涉及价格时,必须注明"以上价格以官网实时价格为准,可能存在变动"。
- 【强制】禁止在回复中输出用户的身份证号、手机号、银行卡号等敏感个人信息。
- 【强制】用户查询他人订单时,必须拒绝并告知"您只能查询自己的订单信息"。
- 每次回复后,主动询问"请问是否还有其他可以帮您的?"
- 使用亲切、口语化的中文,避免过于机械的表达。
- 对于步骤类回答,使用 1. 2. 3. 编号,便于用户跟随操作。
## 输出格式示例
**产品咨询示例**:
"您好!产品A的重量是 **1.5kg**,非常轻便,适合日常携带。它支持 Windows 11 和 macOS 14 系统。请问您主要用在什么场景呢?我可以帮您推荐更合适的配置。"
**售后示例**:
"好的,我来帮您查询退货流程:
1. 登录官网,进入「我的订单」
2. 找到对应订单,点击「申请退货」
3. 选择退货原因,提交申请
4. 审核通过后,按短信提示寄回商品
整个流程通常需要 3-5 个工作日。请问您的订单号是多少?我可以帮您查看具体进度。"
**转人工示例**:
"非常理解您的心情,这个问题确实需要更专业的同事来帮您处理。我已经为您转接人工客服,预计等待时间 2 分钟,请您稍等。"
步骤 3.3.2:Prompt 编写检查清单
- 是否定义了明确的角色和名字?
- 是否列出了所有核心能力?
- 是否有【强制】约束规则?
- 是否处理了边界情况(知识库无答案、敏感信息、权限控制)?
- 是否提供了输出格式示例?
- 是否包含工具调用触发条件?
3.4 挂载知识库
步骤 3.4.1:在配置页面找到「知识」或「知识检索增强」区域
步骤 3.4.2:点击「添加知识库」
步骤 3.4.3 :勾选第二章创建的知识库(如 企业产品知识库-v1)
步骤 3.4.4:配置高级参数
| 参数 | 建议值 | 说明 |
|---|---|---|
| 召回数量 | 3-5 | 太少则信息不足,太多则干扰大 |
| 相似度阈值 | 0.75 | 低于此值的片段不纳入回答 |
💡 调优技巧:
- 如果 Agent 回答经常遗漏信息 → 降低阈值到 0.65
- 如果 Agent 回答经常包含不相关信息 → 提高阈值到 0.85
步骤 3.4.5:点击「确认」完成挂载
3.5 配置对话开场白
步骤 3.5.1:在「开场白」区域输入:
您好!我是小智,XX科技的智能客服助手。我可以帮您解答产品咨询、售后问题,还可以查询订单状态。请问今天有什么可以帮您的吗?😊
步骤 3.5.2:配置预设问题(引导用户提问)
预设问题可以显著提升用户首次体验:
1. 推荐一款适合办公的笔记本电脑
2. 产品A的保修期是多久?
3. 如何查询我的订单状态?
4. 退货流程是怎样的?
📸 截图占位:配置完成后的 Agent 预览界面,显示开场白和预设问题
3.6 配置长期记忆(Memory)
步骤 3.6.1:在配置页面找到「记忆」或「Memory」设置区域
步骤 3.6.2:开启「长期记忆」开关
步骤 3.6.3:选择存储方式:
| 方式 | 优点 | 缺点 | 适用场景 |
|---|---|---|---|
| 百炼内置 Memory | 免运维,自动扩容 | 数据存储在阿里云 | 大多数企业 |
| 自托管 Redis | 数据完全自主掌控 | 需要自行运维 | 强数据主权要求 |
建议:选择「百炼内置 Memory」。
步骤 3.6.4:配置记忆策略:
- 记住用户偏好:是(如用户偏好简洁回答,后续保持简洁)
- 对话历史保留轮数:10 轮
- 关键信息持久化:是(如用户提到的订单号、产品型号)
第四章:工具集成与 MCP 配置(预计 2-3 小时)
工具集成是区分「聊天机器人」和「AI Agent」的关键。本章将教你让 Agent 能查询数据库、调用 API、搜索网络。
4.1 方案 A:使用预置 MCP 服务(推荐)
MCP(Model Context Protocol)是 2026 年的行业标准,让大模型能标准化地连接外部工具。
4.1.1 浏览可用 MCP 服务
步骤 4.1.1.1:在百炼控制台找到「MCP 服务」或「工具」页面
步骤 4.1.1.2:浏览已集成的 MCP 服务列表:
| MCP 服务 | 功能 | 适用场景 |
|---|---|---|
| WebSearch | 实时网络搜索 | 需要最新信息(新闻、价格、活动) |
| WebParser | 网页内容解析 | 读取指定网页内容 |
| Amap Maps | 高德地图 | 查位置、路线规划、周边搜索 |
| Hologres | 数据库查询 | 查询企业数据仓库 |
| 无影云电脑 | 远程桌面操作 | 需要操作图形界面的场景 |
| Fetch | 网页抓取 | 获取网页原始内容 |
| Notion | Notion 文档操作 | 读取/写入 Notion 页面 |
📸 截图占位:MCP 服务列表页面
4.1.2 开通 MCP 服务
步骤 4.1.2.1:选择需要的 MCP 服务,点击「开通」
步骤 4.1.2.2:选择部署模式:
| 模式 | 计费方式 | 特点 | 适用场景 |
|---|---|---|---|
| 基础模式 | 按调用量计费 | 冷启动有延迟(约 3-5 秒) | 低频场景、测试阶段 |
| 极速模式 | 0.13 元/小时 | 工具常驻内存,0 延迟 | 高频生产环境 |
💡 建议:测试阶段用「基础模式」,上线后如果调用频繁(> 100 次/天),切换到「极速模式」。
步骤 4.1.2.3:点击「确认开通」,等待服务状态变为「可用」(通常 1-2 分钟)
4.1.3 将 MCP 挂载到 Agent
步骤 4.1.3.1:回到 Agent 配置页面
步骤 4.1.3.2:在「工具」或「MCP 服务」区域,点击「添加工具」
步骤 4.1.3.3:勾选已开通的 MCP 服务
📸 截图占位:工具挂载界面,显示已选中的 MCP 服务
步骤 4.1.3.4:等待工具加载完成
- 基础模式:右侧显示「工具 X」即表示加载成功,首次加载可能需要 3-5 秒
- 极速模式:立即显示
步骤 4.1.3.5:更新系统提示词,明确工具调用时机
在系统提示词的「核心能力」部分补充:
markdown
5. **实时信息查询**:当用户询问最新新闻、天气、活动信息时,调用 WebSearch 工具获取实时数据。
6. **位置服务**:当用户询问地址、路线、周边设施时,调用 Amap Maps 工具。
4.2 方案 B:自定义插件(连接企业私有系统)
如果预置 MCP 无法满足需求(如需要查询企业自研 ERP、CRM),需要开发自定义插件。
4.2.1 准备企业内部 API
假设场景:你的企业有一个订单查询系统,提供以下 API:
bash
# API 端点
POST https://api.company.com/v1/order/query
# 请求头
Content-Type: application/json
Authorization: Bearer {api_key}
# 请求体
{
"order_id": "ORD20240701001",
"request_source": "ai_agent"
}
# 成功响应
{
"code": 200,
"data": {
"order_id": "ORD20240701001",
"status": "已发货",
"status_code": "shipped",
"product_name": "产品A",
"create_time": "2026-06-15 10:30:00",
"pay_time": "2026-06-15 10:35:00",
"ship_time": "2026-06-16 09:00:00",
"logistics_company": "顺丰速运",
"logistics_no": "SF1234567890",
"estimated_arrival": "2026-06-18",
"total_amount": 2999.00
},
"message": "success"
}
# 错误响应
{
"code": 404,
"data": null,
"message": "订单不存在或无权查询"
}
4.2.2 在百炼注册自定义插件
步骤 4.2.2.1:进入「工具」→「自定义插件」→「新建插件」
步骤 4.2.2.2:填写插件基本信息:
| 字段 | 填写内容 |
|---|---|
| 插件名称 | 订单查询插件 |
| 插件描述 | 根据订单号查询订单状态、物流信息和预计到达时间。仅支持查询用户自己的订单。 |
| 请求方式 | POST |
| API 地址 | https://api.company.com/v1/order/query |
步骤 4.2.2.3:配置认证方式
| 认证方式 | 适用场景 | 配置方法 |
|---|---|---|
| API Key | 简单认证 | 在 Header 中传递 Authorization: Bearer {key} |
| OAuth 2.0 | 需要用户授权 | 配置 Client ID、Client Secret、Token 地址 |
| 无认证 | 内部网络 | 不配置 |
对于本示例,选择「API Key」,配置:
Header 名称:Authorization
Header 值:Bearer {your_api_key}
步骤 4.2.2.4:定义入参 Schema(JSON Schema 格式)
json
{
"type": "object",
"properties": {
"order_id": {
"type": "string",
"description": "订单编号,格式为 ORD 开头加 9 位数字,如 ORD20240701001"
}
},
"required": ["order_id"]
}
💡 Schema 编写要点:
description字段极其重要,大模型根据它理解参数含义required标明必填参数- 示例值帮助大模型理解格式
步骤 4.2.2.5:定义出参 Schema
json
{
"type": "object",
"properties": {
"code": {
"type": "integer",
"description": "状态码,200 表示成功"
},
"data": {
"type": "object",
"properties": {
"order_id": {"type": "string", "description": "订单编号"},
"status": {"type": "string", "description": "订单状态,如待付款、已发货、已完成"},
"product_name": {"type": "string", "description": "商品名称"},
"logistics_company": {"type": "string", "description": "物流公司"},
"logistics_no": {"type": "string", "description": "物流单号"},
"estimated_arrival": {"type": "string", "description": "预计到达日期"}
}
},
"message": {"type": "string", "description": "错误信息"}
}
}
步骤 4.2.2.6:测试插件连通性
-
点击「测试」按钮
-
输入测试参数:
json{"order_id": "ORD20240701001"} -
点击「发送请求」
-
检查返回结果是否符合预期
⚠️ 常见错误:
- 网络不通 → 检查 API 是否允许公网访问,或配置阿里云 VPC 内网访问
- 认证失败 → 检查 API Key 是否正确,Header 格式是否匹配
- 返回格式不匹配 → 检查出参 Schema 是否与实际返回一致
步骤 4.2.2.7:保存并发布
测试通过后,点击「保存并发布」。插件状态变为「已发布」后,即可挂载到 Agent。
4.2.3 挂载自定义插件到 Agent
步骤 4.2.3.1:回到 Agent 配置页面
步骤 4.2.3.2:在「工具」区域,勾选「订单查询插件」
步骤 4.2.3.3:更新系统提示词,明确调用时机:
markdown
## 工具调用规则
- 当用户提供了订单号(格式 ORD 开头)并询问状态时,**必须**调用「订单查询插件」。
- 如果插件返回 code=404,告知用户"未找到该订单,请检查订单号是否正确"。
- 如果插件返回 code=500,告知用户"系统繁忙,请稍后重试"。
- 查询成功后,用自然语言总结订单状态,不要直接输出 JSON。
4.3 工具集成测试
完成工具挂载后,在右侧预览窗进行测试:
测试 1:触发工具调用
用户:帮我查一下订单 ORD20240701001
预期:Agent 调用订单查询插件,返回订单状态
测试 2:不触发工具
用户:你们的产品怎么样?
预期:Agent 基于知识库回答,不调用工具
测试 3:工具返回错误
用户:帮我查一下订单 ORD999999999
预期:Agent 优雅处理错误,提示订单不存在
测试 4:参数提取
用户:我昨天买的那个东西到哪了?订单号是 ORD20240701001
预期:Agent 从长句中提取订单号,正确调用工具
第五章:工作流编排(复杂业务)(预计 2-4 小时,可选)
当业务逻辑涉及多个步骤、条件判断时,需要使用工作流应用。本章为进阶内容,如果当前场景简单可跳过。
5.1 何时需要工作流?
| 场景 | 是否需要工作流 |
|---|---|
| 单轮问答(基于知识库回答) | ❌ 不需要,智能体应用即可 |
| 查询单一信息(如订单状态) | ❌ 不需要 |
| 多步骤业务(查库存→查等级→算折扣→生成报价) | ✅ 需要 |
| 条件分支(VIP 用户走快速通道,普通用户走标准流程) | ✅ 需要 |
| 需要人工审批的环节 | ✅ 需要 |
5.2 创建工作流应用
步骤 5.2.1:「应用管理」→「创建应用」→「工作流应用」
步骤 5.2.2 :命名:智能报价工作流
5.3 设计工作流节点
场景示例:用户询问「我想买产品A,我是金牌会员,能便宜多少?」
工作流设计:
[开始]
→ [大模型:提取参数]
→ [插件:查库存]
→ [插件:查用户等级]
→ [大模型:计算折扣]
→ [大模型:生成报价]
→ [结束]
节点 1:开始节点
- 输入参数 :
user_query(字符串,用户原始问题)
节点 2:大模型节点(信息提取)
-
模型 :
通义千问-Turbo(轻量任务,节约成本) -
Prompt :
从用户问题中提取以下信息,以 JSON 格式输出: - product_name: 产品名称 - user_level: 用户等级(如金牌、银牌、普通),未提及则默认为"普通" 用户问题:{{user_query}} -
输出 :
extracted_info(JSON 对象)
节点 3:插件节点(查库存)
- 插件:库存查询插件
- 入参映射 :
product_name←extracted_info.product_name
- 输出 :
stock_info
节点 4:插件节点(查用户等级)
- 插件:会员等级查询插件
- 入参映射 :
user_id← 从会话上下文中获取当前用户 ID
- 输出 :
user_level_info
节点 5:大模型节点(计算折扣)
-
模型 :
通义千问-Plus -
Prompt :
根据以下信息计算折扣后价格: 产品:{{stock_info.product_name}} 原价:{{stock_info.price}} 用户等级:{{user_level_info.level}} 折扣规则:金牌 8 折,银牌 9 折,普通无折扣 输出 JSON:{"original_price": xxx, "discount_rate": xxx, "final_price": xxx} -
输出 :
price_calculation
节点 6:大模型节点(生成报价)
-
模型 :
通义千问-Plus -
Prompt :
生成一份友好的报价回复: - 产品:{{stock_info.product_name}} - 库存状态:{{stock_info.stock_status}} - 原价:{{price_calculation.original_price}} - 会员折扣:{{price_calculation.discount_rate}} - 最终价格:{{price_calculation.final_price}} 要求:语气亲切,突出会员权益,提醒库存有限 -
输出 :
final_response
节点 7:结束节点
- 输出 :
final_response
5.4 连接节点并测试
步骤 5.4.1:用鼠标拖拽连接各节点
📸 截图占位:工作流设计器界面,显示节点和连接线
步骤 5.4.2:点击「测试运行」
步骤 5.4.3:输入测试数据:
json
{"user_query": "我想买产品A,我是金牌会员,能便宜多少?"}
步骤 5.4.4:观察每个节点的输入输出,排查问题
第六章:调试、优化与测试(预计 2-3 小时)
6.1 系统化的测试策略
不要随机测试,使用系统化的测试矩阵:
测试矩阵模板
| 测试 ID | 类型 | 测试问题 | 预期结果 | 实际结果 | 状态 |
|---|---|---|---|---|---|
| TC-001 | 知识库 | 产品A重量是多少? | 基于知识库准确回答 | 待填写 | 待测试 |
| TC-002 | 工具调用 | 查订单 ORD123 | 调用订单插件 | 待填写 | 待测试 |
| TC-003 | 边界拒绝 | 你们卖火箭吗? | 礼貌拒绝,不编造 | 待填写 | 待测试 |
| TC-004 | 多轮对话 | 连续追问同一主题 | 上下文连贯 | 待填写 | 待测试 |
| TC-005 | 敏感信息 | 帮我看看别人的订单 | 拒绝并提示权限 | 待填写 | 待测试 |
| TC-006 | 情绪处理 | 我要投诉! | 安抚并转人工 | 待填写 | 待测试 |
| TC-007 | 知识库缺失 | 你们有产品Z吗? | 明确告知无法回答 | 待填写 | 待测试 |
| TC-008 | 工具错误 | 查订单 ORD999 | 优雅处理错误 | 待填写 | 待测试 |
6.2 右侧预览窗调试技巧
步骤 6.2.1:打开预览窗,输入测试问题
步骤 6.2.2:观察 Agent 的「思考过程」
百炼的预览窗通常会显示:
- 是否触发了知识库检索
- 检索召回的文档片段
- 是否调用了工具及入参
- 最终生成的回答
步骤 6.2.3:对比预期与实际结果
如果结果不符,按以下流程排查:
回答错误?
→ 是知识库问题?
→ 召回的片段是否正确?
→ 否:回到第二章优化知识库
→ 是:优化 Prompt 的约束规则
→ 是工具问题?
→ 是否触发了工具?
→ 否:优化 Prompt 的工具触发条件
→ 是:检查工具入参和返回结果
→ 是模型问题?
→ 升级到更强的模型(Turbo → Plus → Max)
6.3 调优参数手册
6.3.1 知识库调优
| 问题 | 参数调整 | 操作路径 |
|---|---|---|
| 召回不足 | 降低相似度阈值 | 知识库配置 → 相似度阈值:0.75 → 0.65 |
| 召回过多噪音 | 提高相似度阈值 | 知识库配置 → 相似度阈值:0.75 → 0.85 |
| 上下文断裂 | 增大切片长度 | 切片策略 → 自定义切片 → 字符数:500 → 1000 |
| 语义不匹配 | 更换 Embedding 模型 | 重建索引 → 选择 gte-text-embedding |
6.3.2 模型参数调优
| 问题 | 参数调整 | 说明 |
|---|---|---|
| 回答太发散 | 降低 Temperature | 0.7 → 0.3,回答更确定 |
| 回答太死板 | 提高 Temperature | 0.3 → 0.7,增加创造性 |
| 回答太长 | 降低 Max Tokens | 2048 → 1024 |
| 回答不完整 | 提高 Max Tokens | 2048 → 4096 |
6.3.3 Prompt 调优
原则:具体、明确、可验证
❌ 差的 Prompt:
你是一个客服,回答用户的问题。
✅ 好的 Prompt:
你是「XX科技」的智能客服助手,名叫「小智」。
核心能力:
1. 基于【知识库】回答产品咨询,严禁捏造数据
2. 调用「订单查询插件」查询订单状态
3. 无法回答时明确告知用户,并转交人工
约束规则:
- 必须基于知识库回答,无相关信息时告知"我暂时无法回答"
- 禁止推荐竞品
- 涉及价格时注明"以官网实时价格为准"
6.4 长期记忆测试
测试方法:
用户:我想买一台笔记本,主要用来写代码。
Agent:推荐产品A,适合开发场景,重量1.5kg...
用户:它支持外接显示器吗?(指代「它」= 产品A)
Agent:产品A支持外接最多2台4K显示器...
用户:那它的续航怎么样?(继续指代产品A)
Agent:产品A续航约12小时...
如果 Agent 能正确理解指代,说明长期记忆工作正常。
第七章:发布与多渠道接入(预计 1-2 小时)
7.1 正式发布
步骤 7.1.1:在 Agent 配置页面,点击右上角「发布」
步骤 7.1.2:在弹出面板中点击「确认发布」
步骤 7.1.3:系统生成以下信息:
- 应用 ID:
app-xxxxx - API 端点:
https://dashscope.aliyuncs.com/...
7.2 渠道接入方案详解
7.2.1 官方网页版(最快,5 分钟)
适用场景:快速验证、内部试用、嵌入官网
步骤:
- 「发布渠道」→「官方网页版」→「创建」
- 系统自动生成专属链接:
https://xxx.alicloud.com/chat/xxx - 可直接分享,或 iframe 嵌入企业官网
自定义选项:
- 页面标题
- 欢迎语
- 主题颜色(可匹配企业 VI)
7.2.2 钉钉机器人(内部办公)
适用场景:企业内部服务台、IT 运维、HR 问答
前置要求:
- 你是钉钉组织的管理员,或有开发者权限
- 已创建钉钉应用(或准备创建)
步骤:
- 「发布渠道」→「钉钉机器人」
- 登录 钉钉开发者后台
- 创建企业内部应用 → 获取 Client ID 和 Client Secret
- 回到百炼,填写凭证
- 选择要接入的钉钉群
- 保存后,在群内 @机器人 即可触发 Agent
使用方式:
@小智 帮我查一下订单 ORD123456
@小智 产品A的保修期是多久?
7.2.3 微信公众号(对外客服)
适用场景:面向客户的智能客服、营销互动
前置要求:
- 已认证的服务号或订阅号
- 公众号管理员扫码授权
步骤:
- 「发布渠道」→「微信公众号」
- 点击「授权公众号」,管理员扫码
- 选择公众号
- 配置自动回复规则:
- 收到消息时自动触发 Agent
- 或仅对关键词触发
- 保存后,粉丝在公众号内留言即可触发 Agent
注意事项:
- 微信公众号有 5 秒响应超时限制,复杂查询可能超时
- 建议配置「正在处理中」的提示语
- 关注/取关事件也可配置自动回复
7.2.4 API 集成(自有系统)
适用场景:已有自研系统(APP、小程序、管理后台),需要深度集成
Python SDK 示例:
python
from openai import OpenAI
import os
# 初始化客户端(百炼全兼容 OpenAI 接口)
client = OpenAI(
api_key=os.getenv("DASHSCOPE_API_KEY"), # 从环境变量读取,不要硬编码
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"
)
def ask_agent(question, user_id="anonymous"):
"""
调用企业 Agent 回答用户问题
"""
try:
response = client.chat.completions.create(
model="qwen-plus", # 或你在百炼配置的 Agent 应用 ID
messages=[
{"role": "system", "content": "你是企业客服助手"},
{"role": "user", "content": question}
],
# 如果 Agent 配置了工具,需要开启 tool_choice
tools=[{
"type": "function",
"function": {"name": "query_order", "description": "查询订单"}
}],
temperature=0.5,
max_tokens=2048
)
return {
"success": True,
"answer": response.choices[0].message.content,
"usage": {
"prompt_tokens": response.usage.prompt_tokens,
"completion_tokens": response.usage.completion_tokens,
"total_tokens": response.usage.total_tokens
}
}
except Exception as e:
return {
"success": False,
"error": str(e)
}
# 使用示例
if __name__ == "__main__":
result = ask_agent("产品A的重量是多少?")
if result["success"]:
print(f"回答:{result['answer']}")
print(f"Token 消耗:{result['usage']['total_tokens']}")
else:
print(f"错误:{result['error']}")
Java 示例(Spring AI Alibaba):
java
import org.springframework.ai.chat.ChatClient;
import org.springframework.ai.chat.prompt.Prompt;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.*;
@RestController
@RequestMapping("/api/agent")
public class AgentController {
@Autowired
private ChatClient chatClient;
@PostMapping("/chat")
public String chat(@RequestBody ChatRequest request) {
String response = chatClient.call(
new Prompt("你是企业客服助手。用户问题:" + request.getQuestion())
);
return response;
}
}
Node.js 示例:
javascript
const OpenAI = require('openai');
const client = new OpenAI({
apiKey: process.env.DASHSCOPE_API_KEY,
baseURL: 'https://dashscope.aliyuncs.com/compatible-mode/v1'
});
async function askAgent(question) {
const response = await client.chat.completions.create({
model: 'qwen-plus',
messages: [
{ role: 'system', content: '你是企业客服助手' },
{ role: 'user', content: question }
]
});
return response.choices[0].message.content;
}
askAgent('产品A的重量是多少?').then(console.log);
7.2.5 魔笔低代码 UI(定制化界面)
适用场景:需要品牌化、可定制的交互界面,不想写前端代码
步骤:
-
「发布渠道」→「魔笔分享渠道」→「立即查看」
-
进入魔笔 UI 设计器
-
点击「创建 UI」→ 选择「文本对话」模板
-
填写配置:
-
应用名称:
XX科技智能客服 -
API-KEY:你的百炼 API Key
-
选择智能体:刚才发布的 Agent
-
欢迎语标题:
您好,我是小智 -
欢迎语描述:
我可以帮您解答产品问题、查询订单状态 -
头像 URL:上传企业 Logo
-
预设问题:
1. 推荐一款适合办公的笔记本 2. 产品A的保修期是多久? 3. 如何查询我的订单?
-
-
点击「立即创建」
-
生成嵌入代码:
html<iframe src="https://xxx.alicloud.com/embed/xxx" width="400" height="600" frameborder="0"> </iframe> -
将 iframe 嵌入到企业官网、OA 系统或 APP WebView 中
第八章:监控、运维与持续迭代(持续进行)
8.1 应用观测
步骤 8.1.1:进入百炼控制台「应用观测」或「监控」页面
核心指标监控:
| 指标 | 健康阈值 | 异常处理 |
|---|---|---|
| 日调用次数 | 根据业务设定 | 突增 3 倍以上检查是否被攻击 |
| 成功率 | > 95% | 低于 95% 检查模型/工具状态 |
| 平均响应时间 | < 3 秒 | 超过 5 秒检查模型选择或工具延迟 |
| Token 日消耗 | 在预算内 | 超过预算 80% 触发告警 |
| 知识库命中率 | > 70% | 过低说明知识库覆盖不足 |
步骤 8.1.2:查看对话日志
日志包含:
- 用户原始问题
- Agent 最终回答
- 知识库召回的文档片段(用于判断 RAG 质量)
- 工具调用记录(工具名、入参、返回结果)
- Token 消耗明细
8.2 设置告警规则
步骤 8.2.1:进入阿里云「云监控」控制台
步骤 8.2.2:创建告警规则
推荐告警配置:
| 规则名称 | 条件 | 通知方式 | 级别 |
|---|---|---|---|
| Token 预算告警 | 日消耗 > 预算 80% | 短信 + 钉钉 | 警告 |
| 成功率告警 | 成功率 < 95%(持续 5 分钟) | 短信 + 邮件 | 严重 |
| 响应时间告警 | P99 延迟 > 5 秒 | 钉钉 | 警告 |
| 错误率告警 | 5xx 错误 > 1% | 短信 + 电话 | 紧急 |
| 调用量突增 | 日调用量 > 上周同期 300% | 钉钉 | 警告 |
8.3 持续迭代流程
建议每周进行一次迭代:
周一:数据收集
- 导出上周对话日志
- 标记明显错误的回答(幻觉、信息错误、拒绝服务)
周二:根因分析
- 是知识库问题?→ 补充/更新文档
- 是 Prompt 问题?→ 优化约束规则
- 是工具问题?→ 检查 API 稳定性
- 是模型问题?→ 考虑升级模型
周三:优化实施
- 更新知识库文档
- 修改 Prompt
- 调整模型参数
周四:A/B 测试
- 百炼支持多版本对比
- 同时运行旧版和新版
- 对比回答质量、用户满意度
周五:发布新版
- 确认新版效果优于旧版
- 发布到生产环境
- 保留旧版本 7 天(便于回滚)
8.4 版本管理策略
Agent-v1.0(稳定版,当前生产环境)
Agent-v1.1(测试版,优化了售后话术)
Agent-v2.0(开发版,新增库存查询功能)
发布流程:
- 在测试环境验证 v1.1
- 灰度发布:10% 流量 → 50% 流量 → 100% 流量
- 监控 24 小时,无异常后下线 v1.0
第九章:企业级安全与治理(贯穿全程)
9.1 权限与访问控制
9.1.1 RAM 子账号管理
步骤:阿里云控制台 → 「RAM 访问控制」→ 「用户」→ 「创建用户」
推荐权限分配:
| 角色 | 权限范围 | 说明 |
|---|---|---|
| Agent 管理员 | 百炼全部权限 | 负责整体架构和发布 |
| Agent 开发者 | 百炼应用管理、知识库管理 | 负责 Prompt 调优和知识库维护 |
| Agent 运营 | 百炼应用观测、日志查看 | 负责内容审核和数据分析 |
| 财务人员 | 费用管理、账单查看 | 负责成本控制和预算管理 |
| 只读审计 | 操作审计日志 | 合规审计人员 |
9.1.2 API Key 安全策略
| 策略 | 实施方法 | 重要性 |
|---|---|---|
| 环境分离 | 生产/测试/开发各用不同 Key | ⭐⭐⭐ 必须 |
| 定期轮换 | 每 90 天更换一次 Key | ⭐⭐⭐ 必须 |
| IP 白名单 | 限制只有企业服务器 IP 可调用 | ⭐⭐⭐ 必须 |
| 最小权限 | 每个 Key 只授予必要的权限 | ⭐⭐⭐ 必须 |
| 密钥管理 | 使用阿里云 KMS 或 HashiCorp Vault | ⭐⭐ 推荐 |
| 禁用硬编码 | 代码中通过环境变量读取 Key | ⭐⭐⭐ 必须 |
9.2 数据安全
9.2.1 传输安全
- 百炼 API 默认使用 HTTPS(TLS 1.2+)
- 确保你的服务端也使用 HTTPS 调用百炼 API
9.2.2 存储安全
- 知识库文档存储在阿里云 OSS,默认加密
- 对话日志存储在阿里云数据库,支持加密
9.2.3 敏感数据保护
在系统提示词中增加数据保护约束:
markdown
## 数据安全规则(必须遵守)
- 【强制】禁止在回复中输出用户的身份证号、手机号、银行卡号、密码等敏感信息。
- 【强制】用户查询他人订单时,必须拒绝并告知"您只能查询自己的订单信息"。
- 【强制】如果用户要求删除个人数据,记录请求并转交人工处理。
- 【强制】不要在回复中透露内部系统架构、API 地址、数据库结构等技术信息。
9.3 审计与合规
9.3.1 操作审计(ActionTrail)
步骤:阿里云控制台 → 「ActionTrail」→ 「创建跟踪」
记录以下操作:
- 谁创建了 Agent
- 谁修改了 Prompt
- 谁发布了新版本
- 谁删除了知识库
9.3.2 对话日志审计
导出方式:
- 百炼控制台 → 「应用观测」→ 「日志导出」
- 导出到阿里云 SLS(日志服务)或 OSS
- 设置保留策略(建议 180 天)
9.3.3 合规要求
| 行业 | 特殊要求 | 实施方案 |
|---|---|---|
| 金融 | 等保三级、数据本地化 | 私有化部署 + 本地知识库 |
| 医疗 | HIPAA/等效合规、患者隐私 | 数据脱敏 + 审计日志 |
| 教育 | 未成年人保护 | 内容过滤 + 人工审核 |
| 政务 | 国产化、信创 | 通义千问 + 阿里云政务云 |
第十章:成本估算与选型决策
10.1 成本构成
| 成本项 | 计费方式 | 单价参考 | 月成本(中等规模) |
|---|---|---|---|
| 模型 Token | 按输入+输出 Token | Plus: ¥0.004/1K Tokens | ¥200-800 |
| Embedding | 按 Token | ¥0.001/1K Tokens | ¥50-100 |
| MCP 工具调用 | 按调用次数 | 基础: ¥0.01/次 | ¥50-200 |
| MCP 极速模式 | 按小时 | ¥0.13/小时 | ¥100-300 |
| 函数计算(可选) | 按 CU | ¥0.0001/CU | ¥50-150 |
| 存储(NAS/ OSS) | 按容量 | ¥0.15/GB/月 | ¥20-50 |
| 总计 | - | - | ¥470-1600/月 |
10.2 降本策略
| 策略 | 方法 | 预期节省 |
|---|---|---|
| 模型分级 | 简单任务用 Turbo,复杂任务用 Plus/Max | 30-50% |
| 缓存命中 | 对常见问题预生成答案,缓存 1 小时 | 20-30% |
| 知识库优化 | 减少召回片段数量,降低上下文长度 | 10-20% |
| 工具懒加载 | 低频工具用基础模式,不用时释放 | 15-25% |
| 批量处理 | 非实时场景使用批量 API | 40-60% |
10.3 企业规模选型建议
| 企业规模 | 日对话量 | 推荐方案 | 月成本 | 上线周期 |
|---|---|---|---|---|
| 初创/验证 | < 100 | 百炼低代码 + 免费额度 | ¥0-300 | 1-2 周 |
| 中小企业 | 100-1000 | 百炼 + 自定义插件 | ¥300-1000 | 2-4 周 |
| 中大型企业 | 1000-10000 | 百炼 + 工作流 + 多 Agent | ¥1000-5000 | 1-2 月 |
| 集团/超大规模 | > 10000 | 瓴羊 AgentOne 企业方案 | 定制报价 | 3-6 月 |
附录 A:常见问题排查手册
A.1 知识库问题
Q1:上传文件后一直显示「导入中」
- 检查文件大小是否超过 100MB
- 检查文件格式是否支持
- 等待 10 分钟后刷新,如仍卡住联系阿里云客服
Q2:知识库检索测试召回不到内容
- 检查文档是否是文字版(非扫描件)
- 降低相似度阈值到 0.6
- 尝试更换 Embedding 模型
- 检查文档中是否确实包含相关内容
Q3:召回的内容包含很多无关信息
- 提高相似度阈值到 0.8-0.9
- 减少召回数量到 3
- 优化文档结构,删除干扰内容
A.2 Agent 配置问题
Q4:Agent 不调用工具
- 检查工具是否已挂载到 Agent
- 在 Prompt 中明确工具触发条件
- 检查工具描述是否清晰
- 测试工具是否可用
Q5:Agent 回答包含编造信息
- 在 Prompt 中加「必须基于知识库」的强制约束
- 降低 Temperature 到 0.3
- 检查知识库是否覆盖了该问题
Q6:多轮对话上下文丢失
- 开启「长期记忆」功能
- 检查 Memory 配置是否正确
- 确认对话历史保留轮数设置合理
A.3 发布与接入问题
Q7:API 调用返回 401
- 检查 API Key 是否正确
- 检查 Key 是否过期
- 检查是否超出免费额度且账户欠费
Q8:钉钉机器人不响应
- 检查 Client ID 和 Secret 是否正确
- 确认机器人已加入目标群
- 检查钉钉应用权限是否开通
Q9:微信公众号回复慢
- 微信公众号有 5 秒超时限制
- 复杂查询建议先回复「正在处理中」
- 考虑使用异步消息队列
A.4 性能问题
Q10:响应时间超过 5 秒
- 检查是否使用了 Max 模型(较慢)
- 检查 MCP 工具是否使用基础模式(冷启动延迟)
- 减少知识库召回片段数量
- 检查网络连接质量
Q11:Token 消耗异常高
- 检查知识库召回片段是否过长
- 检查是否有循环调用
- 检查 Max Tokens 设置是否过大
- 使用更轻量的模型处理简单任务
附录 B:Prompt 模板大全
B.1 通用客服 Agent
markdown
# 角色
你是「{{company_name}}」的智能客服助手,名叫「{{agent_name}}」。
## 核心能力
1. 基于【知识库】回答产品咨询
2. 调用「订单查询插件」查询订单状态
3. 无法回答时转交人工
## 约束规则
- 必须基于【知识库】回答,无相关信息时明确告知"我暂时无法回答"
- 禁止推荐竞品
- 涉及价格时注明"以官网实时价格为准"
- 禁止输出用户敏感信息
## 输出格式
- 亲切、口语化的中文
- 关键信息加粗
- 步骤类用 1.2.3. 编号
B.2 销售顾问 Agent
markdown
# 角色
你是「{{company_name}}」的高级销售顾问,拥有 5 年行业经验。
## 核心能力
1. 根据客户需求推荐合适产品
2. 解释产品优势和竞品差异
3. 计算报价和优惠方案
## 约束规则
- 推荐必须基于【知识库】中的真实产品
- 不承诺无法兑现的优惠
- 尊重客户预算,不强行推销高端产品
- 主动询问客户使用场景,提供个性化建议
B.3 HR 助手 Agent
markdown
# 角色
你是「{{company_name}}」的 HR 助手,负责解答员工关于考勤、福利、制度的咨询。
## 核心能力
1. 解答考勤、请假、报销流程
2. 解释福利政策(社保、公积金、商业保险)
3. 指引员工使用内部系统
## 约束规则
- 涉及个人薪资、绩效等敏感信息时,告知"请登录 HR 系统查看或联系 HR 专员"
- 政策解释以最新版制度为准
- 不提供法律建议,复杂劳动纠纷建议咨询专业律师
B.4 IT 运维 Agent
markdown
# 角色
你是「{{company_name}}」的 IT 运维助手,负责处理内部技术问题。
## 核心能力
1. 解答常见 IT 问题(VPN、邮箱、打印机、软件安装)
2. 调用「工单系统」创建 IT 工单
3. 查询系统状态和网络状况
## 约束规则
- 涉及服务器配置、网络安全等敏感操作时,必须转交人工
- 不提供个人设备维修建议
- 系统故障时优先安抚用户,告知预计恢复时间
附录 C:API 参考速查
C.1 百炼兼容 OpenAI 接口
bash
# 基础聊天
POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions
# 请求头
Authorization: Bearer {api_key}
Content-Type: application/json
# 请求体
{
"model": "qwen-plus",
"messages": [
{"role": "system", "content": "你是助手"},
{"role": "user", "content": "你好"}
],
"temperature": 0.7,
"max_tokens": 2048
}
C.2 常用模型 ID
| 模型 | 模型 ID | 上下文长度 |
|---|---|---|
| 通义千问-Max | qwen-max |
32K |
| 通义千问-Plus | qwen-plus |
128K |
| 通义千问-Turbo | qwen-turbo |
128K |
| Embedding v3 | text-embedding-v3 |
8K |
C.3 错误码速查
| 错误码 | 含义 | 解决方案 |
|---|---|---|
| 401 | 认证失败 | 检查 API Key |
| 429 | 请求过多 | 降低 QPS,或升级套餐 |
| 500 | 服务器错误 | 稍后重试,或联系客服 |
| 503 | 服务不可用 | 检查模型状态,切换备用模型 |
结语
恭喜你完成了这份手册的全部内容!至此,你已经:
✅ 开通了阿里云百炼服务
✅ 构建了企业级知识库
✅ 创建了具备工具调用能力的智能体
✅ 掌握了工作流编排方法
✅ 学会了多渠道发布
✅ 建立了监控运维体系
✅ 了解了企业级安全治理
AI Agent 的落地不是一蹴而就的,建议从最简单的场景开始(如内部 FAQ 助手),验证价值后再逐步扩展。记住:知识库的质量决定了 Agent 的上限,Prompt 的精度决定了 Agent 的下限,持续的迭代决定了 Agent 的生命力。
如果在实践过程中遇到问题,欢迎在评论区留言交流,我会持续更新这份手册。
作者 :AI 技术实践团队
更新日期 :2026-07-07
版本 :v1.0
声明 :本文基于阿里云百炼 2026 年 7 月版本撰写,产品功能持续迭代,具体以官方控制台为准。
"""