从零到一:使用阿里云百炼搭建企业级 AI Agent 完全实战手册(2026超详细版)

版本 :v1.0 | 更新日期 :2026-07-07

适用对象 :企业技术负责人、AI 产品经理、后端开发工程师

预计阅读时间 :45 分钟 | 预计实操时间 :2-4 小时

前置要求:具备基础 Python 知识,拥有阿里云账号


📋 目录


前言

1.1 什么是企业级 AI Agent?

企业级 AI Agent 不是简单的聊天机器人,而是具备以下特征的智能化系统:

特征 聊天机器人 企业级 AI Agent
知识来源 预训练数据 企业私有知识库(RAG)
系统交互 可调用 ERP、CRM、数据库等
任务执行 被动回答 主动拆解任务、多步骤执行
记忆能力 单轮对话 长期记忆、上下文关联
安全审计 完整操作日志、权限管控
成本可控 不可控 Token 预算、配额管理

1.2 为什么选择阿里云百炼?

  • 模型丰富:通义千问全系列 + 第三方模型(DeepSeek 等)
  • 工具生态:50+ 预置 MCP 工具,一键连接高德、数据库、搜索等
  • 成本友好:新人 7000 万+ Tokens 免费额度,按量付费
  • 安全合规:阿里云企业级数据安全保障
  • 生态兼容:全兼容 OpenAI API 格式,降低迁移成本

1.3 本手册能帮你实现什么?

完成本手册的全部步骤后,你将拥有一个:

✅ 基于企业私有知识库回答问题的智能客服 Agent

✅ 能查询订单状态、库存信息的业务助手

✅ 支持多轮对话、长期记忆的专业顾问

✅ 可部署到钉钉、微信、官网等多渠道的完整系统

✅ 具备监控、审计、告警的生产级运维体系


第一章:环境准备与账号开通(预计 30 分钟)

1.1 注册阿里云账号

步骤 1.1.1 :访问 阿里云一站式轻松搭建企业级 AI Agent

步骤 1.1.2:点击右上角「登录」,支付宝扫码登录,本文是云大使爆肝12天制作,各位老板还请通过链接进入,有什么问题可以私信博主,博主看到会立刻回复,🙏。

步骤 1.1.3 :完成实名认证(强烈建议企业实名

💡 为什么必须企业实名?

  • 可开具增值税专用发票
  • 享受企业级 SLA 服务保障
  • 可使用企业级安全功能(RAM 子账号、操作审计等)
  • 部分 MCP 工具仅对企业实名用户开放

实名认证路径

复制代码
登录控制台 → 右上角头像 → 实名认证 → 企业认证

需要准备的材料:

  • 企业营业执照照片
  • 法人身份证照片
  • 企业对公账户(用于小额打款验证)

1.2 开通百炼服务

步骤 1.2.1:登录阿里云控制台

步骤 1.2.2:在顶部搜索框输入「百炼」,点击「阿里云百炼」

步骤 1.2.3:首次进入会显示服务开通页面,点击「立即开通」

📸 截图占位:百炼服务开通页面,显示「立即开通」按钮

步骤 1.2.4:阅读并同意服务协议,点击「确认开通」

步骤 1.2.5:开通成功后,页面自动跳转到百炼控制台首页

1.3 领取免费额度

步骤 1.3.1:在控制台首页顶部,找到「新人免费额度」横幅

步骤 1.3.2:点击「立即领取」,系统会自动将额度发放到你的账户

免费额度明细

资源类型 额度 有效期
通义千问-Max 1,000,000 Tokens 90 天
通义千问-Plus 3,000,000 Tokens 90 天
通义千问-Turbo 5,000,000 Tokens 90 天
Embedding 模型 500,000 Tokens 90 天
总计 约 7,000,000+ Tokens 90 天

步骤 1.3.3 :设置用量保护(极其重要

复制代码
路径:费用管理 → 额度管理 → 免费额度用完即停
操作:开启「免费额度用完即停」开关

⚠️ 安全警告:如果不开启此功能,测试阶段可能因循环调用或异常流量导致意外费用。强烈建议测试阶段始终开启。

1.4 账户充值

步骤 1.4.1:进入「费用」→「账户总览」

步骤 1.4.2:确保账户余额 ≥ 100 元

为什么需要 100 元?阿里云按量付费资源需要账户有足够余额才能正常扣费,否则可能触发欠费停机。

充值方式

  • 支付宝扫码充值(即时到账)
  • 银行转账(1-3 个工作日)
  • 绑定信用卡自动充值(推荐生产环境)

1.5 创建并保管 API Key

步骤 1.5.1:在百炼控制台左侧导航栏,点击「API-KEY 管理」

步骤 1.5.2:点击「创建新的 API-KEY」按钮

步骤 1.5.3:填写 API Key 信息:

字段 填写内容 说明
名称 company-agent-prod 生产环境
描述 企业智能客服生产环境 Key 便于后续管理
有效期 90 天 建议定期轮换

📸 截图占位:API Key 创建表单

步骤 1.5.4:点击「确认创建」,系统生成 Key

步骤 1.5.5立即复制并保存 Key

⚠️ 安全警告

  • Key 只显示一次,关闭页面后无法再次查看完整 Key
  • 格式示例:sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
  • 存入企业密码管理器(如 1Password、Vault、阿里云 KMS)
  • 切勿硬编码在代码中、提交到 Git、写在文档里发给他人

步骤 1.5.6:创建测试环境 Key(推荐)

重复上述步骤,再创建一个:

  • 名称:company-agent-test
  • 描述:测试环境专用

生产/测试环境分离是企业的基本安全实践。

1.6 环境检查清单

完成第一章后,请确认以下检查项:

  • 阿里云账号已完成企业实名认证
  • 百炼服务已开通
  • 新人免费额度已领取
  • 「免费额度用完即停」已开启
  • 账户余额 ≥ 100 元
  • 生产环境 API Key 已创建并安全保存
  • 测试环境 API Key 已创建并安全保存

第二章:构建企业知识库(RAG)(预计 1-2 小时)

企业 Agent 的核心价值在于「基于私有知识回答」。知识库的质量直接决定了 Agent 的回答质量。本章将手把手教你构建一个生产级的 RAG 系统。

2.1 知识库规划

2.1.1 梳理知识来源

在动手之前,先列出你的 Agent 需要掌握的所有知识:

复制代码
□ 产品手册(参数、功能、价格)
□ 售后政策(保修、退换货、维修流程)
□ 常见问题 FAQ(Top 100 问题及标准答案)
□ 内部规章制度(员工手册、操作规范)
□ 客服话术库(不同场景的标准回复)
□ 竞品对比资料
□ 行业法规/合规要求
2.1.2 文档格式要求

支持的格式

格式 推荐指数 注意事项
PDF(文字版) ⭐⭐⭐ 确保是文字版,非扫描件
Word (.docx) ⭐⭐⭐ 推荐格式,结构清晰
TXT ⭐⭐⭐ 纯文本,无格式干扰
Excel (.xlsx) ⭐⭐⭐ FAQ 推荐用此格式
Markdown ⭐⭐⭐ 技术文档推荐
PDF(扫描版) ❌ 图片文字无法识别,需先 OCR
PPT ⭐⭐ 内容较散,建议转换为 Word
2.1.3 文档内容优化原则

原则一:一个文档一个主题

❌ 错误示例:把「产品手册 + 售后政策 + 员工手册」放在同一个 200 页的 PDF 中

✅ 正确示例:

复制代码
📁 产品文档/
  ├── 产品A_参数手册_v1.2.pdf
  ├── 产品A_使用指南_v1.0.docx
  ├── 产品B_参数手册_v1.1.pdf
📁 售后政策/
  ├── 保修政策_2026版.pdf
  ├── 退换货流程_v2.0.docx
📁 FAQ/
  ├── 客服FAQ_Top100.xlsx

原则二:删除干扰内容

上传前,请清理以下内容:

  • 页眉页脚(如「第 3 页 / 共 50 页」)
  • 水印(如「内部资料,请勿外传」)
  • 页码
  • 重复的封面/目录页
  • 空白页

原则三:结构化内容

对于 FAQ 类文档,建议使用以下 Excel 结构:

问题 答案 分类 关键词
产品A的保修期是多久? 产品A享受3年有限保修,自购买之日起计算... 售后 保修,产品A
如何申请退货? 请登录官网,进入「我的订单」→「申请退货」... 售后 退货,流程
产品A支持哪些操作系统? 支持 Windows 11、macOS 14、Ubuntu 22.04... 产品 兼容性,系统

2.2 上传文档到百炼

步骤 2.2.1:进入百炼控制台,点击顶部「应用」

步骤 2.2.2:在左侧导航栏点击「应用数据」

步骤 2.2.3:切换到「文件」标签页

📸 截图占位:应用数据页面,显示「文件」和「知识库」两个标签

步骤 2.2.4:创建文件类目

点击「类目管理」右侧的「+」按钮,创建以下类目(根据你的实际业务调整):

复制代码
类目 1:产品文档
类目 2:售后政策
类目 3:FAQ 问答
类目 4:内部制度

💡 类目作用:便于后续管理和权限控制。例如,客服 Agent 只需要挂载「产品文档」和「售后政策」两个类目。

步骤 2.2.5:上传文件

  1. 点击「导入数据」按钮
  2. 选择本地文件(可多选,一次最多 50 个文件)
  3. 选择对应的类目
  4. 点击「确认」开始上传

上传进度

  • 小文件(< 10MB):通常 10-30 秒完成
  • 大文件(> 50MB):可能需要 2-5 分钟
  • 状态变为「导入完成」表示成功

⚠️ 常见错误

  • 文件格式不支持 → 转换为 PDF 或 Word 后重试
  • 文件过大(> 100MB)→ 拆分成多个小文件
  • 扫描版 PDF → 先用 OCR 工具转换为文字版

2.3 创建知识库并配置索引

步骤 2.3.1:点击左侧导航栏「数据」→「知识库」

步骤 2.3.2:点击「创建知识库」按钮

步骤 2.3.3:填写知识库基本信息

字段 建议填写 说明
知识库名称 企业产品知识库-v1 带版本号,便于迭代
描述 包含产品参数、售后政策、FAQ,用于客服Agent 便于团队理解

步骤 2.3.4:选择数据源

勾选刚才上传的文件和类目,点击「下一步」。

步骤 2.3.5 :配置索引参数(核心步骤

📸 截图占位:知识库索引配置页面

配置项详解

A. 切片策略
策略 适用场景 说明
智能切片 推荐首选 百炼自动按语义段落切分,保持上下文连贯
自定义切片 结构化文档 按固定字符数或分隔符切分

建议:首次创建选择「智能切片」,如果召回效果不佳再尝试自定义。

B. Embedding 模型
模型 适用场景 特点
text-embedding-v3 通用首选 综合性能优秀,性价比高
gte-text-embedding 中文优化 中文语义理解更强
bge-large-zh 专业领域 适合技术文档、医疗、法律

建议 :先用 text-embedding-v3,这是百炼的默认推荐模型。

C. 检索模式
模式 原理 适用场景
混合检索 关键词 + 向量双路召回,再融合排序 推荐,召回率最高
向量检索 纯语义相似度匹配 概念性、抽象性问题
关键词检索 基于关键词匹配 精确术语、型号查询

建议:选择「混合检索」,这是目前效果最好的模式。

步骤 2.3.6:点击「导入完成」,等待索引构建

构建时间参考:

  • 10 个文档(共 50 页):约 1-2 分钟
  • 100 个文档(共 500 页):约 5-10 分钟
  • 1000 个文档:约 30 分钟

状态变为「可用」后,知识库即可使用。

2.4 检索测试与调优

步骤 2.4.1:在知识库列表中,点击刚创建的知识库名称

步骤 2.4.2:切换到「检索测试」标签页

步骤 2.4.3:输入测试问题,观察召回结果

测试用例模板

复制代码
测试 1:产品参数类
问题:产品A的重量是多少?
预期:召回产品A参数手册中关于重量的段落

测试 2:流程类
问题:怎么申请退货?
预期:召回退换货流程文档中的步骤说明

测试 3:FAQ 类
问题:保修期多久?
预期:召回 FAQ 表格中对应的问题-答案对

测试 4:边界类
问题:你们卖火箭吗?
预期:召回不到相关内容(或召回产品列表说明不卖火箭)

测试 5:同义词类
问题:产品A有多重?(与测试1同义)
预期:同样召回产品A重量信息

步骤 2.4.4:分析召回结果

现象 原因 解决方案
召回准确 文档质量高,索引配置合理 无需调整,继续下一步
召回不相关 切片粒度太细,上下文丢失 调整为「自定义切片」,增大切片长度
召回遗漏 相似度阈值太高 降低阈值到 0.6-0.7
召回过多噪音 相似度阈值太低 提高阈值到 0.8-0.9
同义词不匹配 Embedding 模型语义覆盖不足 尝试更换为 gte-text-embedding

步骤 2.4.5:迭代优化

根据测试结果,回到 2.3 步骤调整配置,重新构建索引,再次测试。通常 2-3 轮迭代即可达到满意效果。

2.5 知识库管理最佳实践

版本管理

复制代码
企业产品知识库-v1(当前生产版)
企业产品知识库-v2(测试新版,验证中)

更新流程

  1. 在测试知识库中验证新文档
  2. 确认效果后,更新生产知识库
  3. 保留旧版本 30 天,便于回滚

定期维护

  • 每月检查一次知识库覆盖率(是否有新问题无法回答)
  • 每季度全面更新一次文档
  • 产品发布/政策变更时,48 小时内更新知识库

第三章:创建智能体应用(Agent)(预计 1-2 小时)

3.1 创建应用

步骤 3.1.1:点击顶部「应用」→「应用管理」

步骤 3.1.2:点击「创建应用」按钮

步骤 3.1.3:选择应用类型

类型 适用场景 复杂度
智能体应用 基于知识库问答、工具调用的对话 Agent 中等
工作流应用 多步骤、条件分支的复杂业务流程 较高
智能体编排应用 多 Agent 协作系统

选择「智能体应用」,点击「下一步」。

步骤 3.1.4:填写应用信息

字段 建议填写
应用名称 企业智能客服-Agent
描述 基于产品知识库和订单查询工具的企业客服助手
所属业务 选择或创建业务分类(如「客服部」)

点击「立即创建」。

3.2 选择基础模型

步骤 3.2.1:在模型选择下拉菜单中,根据场景选择:

模型 能力 速度 成本 推荐场景
通义千问-Max 最强 较慢 较高 复杂推理、投诉处理、技术咨询
通义千问-Plus 中等 通用首选,客服、销售、HR
通义千问-Turbo 良好 最快 简单分类、摘要、标签

💡 企业级建议

  • 生产环境先用 Plus 验证
  • 如果回答质量不达标,升级到 Max
  • 如果成本敏感且场景简单,降级到 Turbo

步骤 3.2.2:配置模型参数(可选)

参数 默认值 调整建议
温度 (Temperature) 0.7 客服场景建议 0.3-0.5(更确定)
最大 Tokens 2048 长回答可调到 4096
Top P 0.9 一般保持默认

3.3 编写系统提示词(System Prompt)

系统提示词是 Agent 的「灵魂」,决定了它的行为边界和回答风格。

步骤 3.3.1:在「提示词」文本框中输入系统提示词

以下是一个可直接使用的生产级 Prompt 模板,请根据你的业务修改:

markdown 复制代码
# 角色设定
你是「XX科技」的智能客服助手,名叫「小智」。你拥有 3 年客服经验,熟悉公司所有产品线和售后政策。你的目标是专业、友好、高效地解决客户问题。

## 核心能力
1. **产品咨询**:基于【知识库】回答产品参数、功能、价格、兼容性等问题。严禁捏造数据,如果知识库中没有相关信息,必须明确告知。
2. **售后支持**:解答退换货、保修、维修进度查询。引导用户按正确流程操作。
3. **订单查询**:当用户提供了订单号时,调用「订单查询插件」获取实时状态。
4. **工单转接**:当用户情绪激烈(如使用"投诉""差评""举报"等词)或问题超出你的能力范围时,调用「转人工」工具,并安抚用户情绪。

## 约束规则(必须遵守)
- 【强制】回答必须基于【知识库】内容。如果知识库中没有相关信息,明确告知用户:"我暂时无法回答这个问题,已为您记录并转交专员处理,专员将在 2 小时内联系您。"
- 【强制】禁止推荐任何竞品或第三方产品。
- 【强制】涉及价格时,必须注明"以上价格以官网实时价格为准,可能存在变动"。
- 【强制】禁止在回复中输出用户的身份证号、手机号、银行卡号等敏感个人信息。
- 【强制】用户查询他人订单时,必须拒绝并告知"您只能查询自己的订单信息"。
- 每次回复后,主动询问"请问是否还有其他可以帮您的?"
- 使用亲切、口语化的中文,避免过于机械的表达。
- 对于步骤类回答,使用 1. 2. 3. 编号,便于用户跟随操作。

## 输出格式示例
**产品咨询示例**:
"您好!产品A的重量是 **1.5kg**,非常轻便,适合日常携带。它支持 Windows 11 和 macOS 14 系统。请问您主要用在什么场景呢?我可以帮您推荐更合适的配置。"

**售后示例**:
"好的,我来帮您查询退货流程:
1. 登录官网,进入「我的订单」
2. 找到对应订单,点击「申请退货」
3. 选择退货原因,提交申请
4. 审核通过后,按短信提示寄回商品

整个流程通常需要 3-5 个工作日。请问您的订单号是多少?我可以帮您查看具体进度。"

**转人工示例**:
"非常理解您的心情,这个问题确实需要更专业的同事来帮您处理。我已经为您转接人工客服,预计等待时间 2 分钟,请您稍等。"

步骤 3.3.2:Prompt 编写检查清单

  • 是否定义了明确的角色和名字?
  • 是否列出了所有核心能力?
  • 是否有【强制】约束规则?
  • 是否处理了边界情况(知识库无答案、敏感信息、权限控制)?
  • 是否提供了输出格式示例?
  • 是否包含工具调用触发条件?

3.4 挂载知识库

步骤 3.4.1:在配置页面找到「知识」或「知识检索增强」区域

步骤 3.4.2:点击「添加知识库」

步骤 3.4.3 :勾选第二章创建的知识库(如 企业产品知识库-v1

步骤 3.4.4:配置高级参数

参数 建议值 说明
召回数量 3-5 太少则信息不足,太多则干扰大
相似度阈值 0.75 低于此值的片段不纳入回答

💡 调优技巧

  • 如果 Agent 回答经常遗漏信息 → 降低阈值到 0.65
  • 如果 Agent 回答经常包含不相关信息 → 提高阈值到 0.85

步骤 3.4.5:点击「确认」完成挂载

3.5 配置对话开场白

步骤 3.5.1:在「开场白」区域输入:

复制代码
您好!我是小智,XX科技的智能客服助手。我可以帮您解答产品咨询、售后问题,还可以查询订单状态。请问今天有什么可以帮您的吗?😊

步骤 3.5.2:配置预设问题(引导用户提问)

预设问题可以显著提升用户首次体验:

复制代码
1. 推荐一款适合办公的笔记本电脑
2. 产品A的保修期是多久?
3. 如何查询我的订单状态?
4. 退货流程是怎样的?

📸 截图占位:配置完成后的 Agent 预览界面,显示开场白和预设问题

3.6 配置长期记忆(Memory)

步骤 3.6.1:在配置页面找到「记忆」或「Memory」设置区域

步骤 3.6.2:开启「长期记忆」开关

步骤 3.6.3:选择存储方式:

方式 优点 缺点 适用场景
百炼内置 Memory 免运维,自动扩容 数据存储在阿里云 大多数企业
自托管 Redis 数据完全自主掌控 需要自行运维 强数据主权要求

建议:选择「百炼内置 Memory」。

步骤 3.6.4:配置记忆策略:

复制代码
- 记住用户偏好:是(如用户偏好简洁回答,后续保持简洁)
- 对话历史保留轮数:10 轮
- 关键信息持久化:是(如用户提到的订单号、产品型号)

第四章:工具集成与 MCP 配置(预计 2-3 小时)

工具集成是区分「聊天机器人」和「AI Agent」的关键。本章将教你让 Agent 能查询数据库、调用 API、搜索网络。

4.1 方案 A:使用预置 MCP 服务(推荐)

MCP(Model Context Protocol)是 2026 年的行业标准,让大模型能标准化地连接外部工具。

4.1.1 浏览可用 MCP 服务

步骤 4.1.1.1:在百炼控制台找到「MCP 服务」或「工具」页面

步骤 4.1.1.2:浏览已集成的 MCP 服务列表:

MCP 服务 功能 适用场景
WebSearch 实时网络搜索 需要最新信息(新闻、价格、活动)
WebParser 网页内容解析 读取指定网页内容
Amap Maps 高德地图 查位置、路线规划、周边搜索
Hologres 数据库查询 查询企业数据仓库
无影云电脑 远程桌面操作 需要操作图形界面的场景
Fetch 网页抓取 获取网页原始内容
Notion Notion 文档操作 读取/写入 Notion 页面

📸 截图占位:MCP 服务列表页面

4.1.2 开通 MCP 服务

步骤 4.1.2.1:选择需要的 MCP 服务,点击「开通」

步骤 4.1.2.2:选择部署模式:

模式 计费方式 特点 适用场景
基础模式 按调用量计费 冷启动有延迟(约 3-5 秒) 低频场景、测试阶段
极速模式 0.13 元/小时 工具常驻内存,0 延迟 高频生产环境

💡 建议:测试阶段用「基础模式」,上线后如果调用频繁(> 100 次/天),切换到「极速模式」。

步骤 4.1.2.3:点击「确认开通」,等待服务状态变为「可用」(通常 1-2 分钟)

4.1.3 将 MCP 挂载到 Agent

步骤 4.1.3.1:回到 Agent 配置页面

步骤 4.1.3.2:在「工具」或「MCP 服务」区域,点击「添加工具」

步骤 4.1.3.3:勾选已开通的 MCP 服务

📸 截图占位:工具挂载界面,显示已选中的 MCP 服务

步骤 4.1.3.4:等待工具加载完成

  • 基础模式:右侧显示「工具 X」即表示加载成功,首次加载可能需要 3-5 秒
  • 极速模式:立即显示

步骤 4.1.3.5:更新系统提示词,明确工具调用时机

在系统提示词的「核心能力」部分补充:

markdown 复制代码
5. **实时信息查询**:当用户询问最新新闻、天气、活动信息时,调用 WebSearch 工具获取实时数据。
6. **位置服务**:当用户询问地址、路线、周边设施时,调用 Amap Maps 工具。

4.2 方案 B:自定义插件(连接企业私有系统)

如果预置 MCP 无法满足需求(如需要查询企业自研 ERP、CRM),需要开发自定义插件。

4.2.1 准备企业内部 API

假设场景:你的企业有一个订单查询系统,提供以下 API:

bash 复制代码
# API 端点
POST https://api.company.com/v1/order/query

# 请求头
Content-Type: application/json
Authorization: Bearer {api_key}

# 请求体
{
  "order_id": "ORD20240701001",
  "request_source": "ai_agent"
}

# 成功响应
{
  "code": 200,
  "data": {
    "order_id": "ORD20240701001",
    "status": "已发货",
    "status_code": "shipped",
    "product_name": "产品A",
    "create_time": "2026-06-15 10:30:00",
    "pay_time": "2026-06-15 10:35:00",
    "ship_time": "2026-06-16 09:00:00",
    "logistics_company": "顺丰速运",
    "logistics_no": "SF1234567890",
    "estimated_arrival": "2026-06-18",
    "total_amount": 2999.00
  },
  "message": "success"
}

# 错误响应
{
  "code": 404,
  "data": null,
  "message": "订单不存在或无权查询"
}
4.2.2 在百炼注册自定义插件

步骤 4.2.2.1:进入「工具」→「自定义插件」→「新建插件」

步骤 4.2.2.2:填写插件基本信息:

字段 填写内容
插件名称 订单查询插件
插件描述 根据订单号查询订单状态、物流信息和预计到达时间。仅支持查询用户自己的订单。
请求方式 POST
API 地址 https://api.company.com/v1/order/query

步骤 4.2.2.3:配置认证方式

认证方式 适用场景 配置方法
API Key 简单认证 在 Header 中传递 Authorization: Bearer {key}
OAuth 2.0 需要用户授权 配置 Client ID、Client Secret、Token 地址
无认证 内部网络 不配置

对于本示例,选择「API Key」,配置:

复制代码
Header 名称:Authorization
Header 值:Bearer {your_api_key}

步骤 4.2.2.4:定义入参 Schema(JSON Schema 格式)

json 复制代码
{
  "type": "object",
  "properties": {
    "order_id": {
      "type": "string",
      "description": "订单编号,格式为 ORD 开头加 9 位数字,如 ORD20240701001"
    }
  },
  "required": ["order_id"]
}

💡 Schema 编写要点

  • description 字段极其重要,大模型根据它理解参数含义
  • required 标明必填参数
  • 示例值帮助大模型理解格式

步骤 4.2.2.5:定义出参 Schema

json 复制代码
{
  "type": "object",
  "properties": {
    "code": {
      "type": "integer",
      "description": "状态码,200 表示成功"
    },
    "data": {
      "type": "object",
      "properties": {
        "order_id": {"type": "string", "description": "订单编号"},
        "status": {"type": "string", "description": "订单状态,如待付款、已发货、已完成"},
        "product_name": {"type": "string", "description": "商品名称"},
        "logistics_company": {"type": "string", "description": "物流公司"},
        "logistics_no": {"type": "string", "description": "物流单号"},
        "estimated_arrival": {"type": "string", "description": "预计到达日期"}
      }
    },
    "message": {"type": "string", "description": "错误信息"}
  }
}

步骤 4.2.2.6:测试插件连通性

  1. 点击「测试」按钮

  2. 输入测试参数:

    json 复制代码
    {"order_id": "ORD20240701001"}
  3. 点击「发送请求」

  4. 检查返回结果是否符合预期

⚠️ 常见错误

  • 网络不通 → 检查 API 是否允许公网访问,或配置阿里云 VPC 内网访问
  • 认证失败 → 检查 API Key 是否正确,Header 格式是否匹配
  • 返回格式不匹配 → 检查出参 Schema 是否与实际返回一致

步骤 4.2.2.7:保存并发布

测试通过后,点击「保存并发布」。插件状态变为「已发布」后,即可挂载到 Agent。

4.2.3 挂载自定义插件到 Agent

步骤 4.2.3.1:回到 Agent 配置页面

步骤 4.2.3.2:在「工具」区域,勾选「订单查询插件」

步骤 4.2.3.3:更新系统提示词,明确调用时机:

markdown 复制代码
## 工具调用规则
- 当用户提供了订单号(格式 ORD 开头)并询问状态时,**必须**调用「订单查询插件」。
- 如果插件返回 code=404,告知用户"未找到该订单,请检查订单号是否正确"。
- 如果插件返回 code=500,告知用户"系统繁忙,请稍后重试"。
- 查询成功后,用自然语言总结订单状态,不要直接输出 JSON。

4.3 工具集成测试

完成工具挂载后,在右侧预览窗进行测试:

复制代码
测试 1:触发工具调用
用户:帮我查一下订单 ORD20240701001
预期:Agent 调用订单查询插件,返回订单状态

测试 2:不触发工具
用户:你们的产品怎么样?
预期:Agent 基于知识库回答,不调用工具

测试 3:工具返回错误
用户:帮我查一下订单 ORD999999999
预期:Agent 优雅处理错误,提示订单不存在

测试 4:参数提取
用户:我昨天买的那个东西到哪了?订单号是 ORD20240701001
预期:Agent 从长句中提取订单号,正确调用工具

第五章:工作流编排(复杂业务)(预计 2-4 小时,可选)

当业务逻辑涉及多个步骤、条件判断时,需要使用工作流应用。本章为进阶内容,如果当前场景简单可跳过。

5.1 何时需要工作流?

场景 是否需要工作流
单轮问答(基于知识库回答) ❌ 不需要,智能体应用即可
查询单一信息(如订单状态) ❌ 不需要
多步骤业务(查库存→查等级→算折扣→生成报价) ✅ 需要
条件分支(VIP 用户走快速通道,普通用户走标准流程) ✅ 需要
需要人工审批的环节 ✅ 需要

5.2 创建工作流应用

步骤 5.2.1:「应用管理」→「创建应用」→「工作流应用」

步骤 5.2.2 :命名:智能报价工作流

5.3 设计工作流节点

场景示例:用户询问「我想买产品A,我是金牌会员,能便宜多少?」

工作流设计:

复制代码
[开始] 
  → [大模型:提取参数] 
  → [插件:查库存] 
  → [插件:查用户等级] 
  → [大模型:计算折扣] 
  → [大模型:生成报价] 
  → [结束]
节点 1:开始节点
  • 输入参数user_query(字符串,用户原始问题)
节点 2:大模型节点(信息提取)
  • 模型通义千问-Turbo(轻量任务,节约成本)

  • Prompt

    复制代码
    从用户问题中提取以下信息,以 JSON 格式输出:
    - product_name: 产品名称
    - user_level: 用户等级(如金牌、银牌、普通),未提及则默认为"普通"
    
    用户问题:{{user_query}}
  • 输出extracted_info(JSON 对象)

节点 3:插件节点(查库存)
  • 插件:库存查询插件
  • 入参映射
    • product_nameextracted_info.product_name
  • 输出stock_info
节点 4:插件节点(查用户等级)
  • 插件:会员等级查询插件
  • 入参映射
    • user_id ← 从会话上下文中获取当前用户 ID
  • 输出user_level_info
节点 5:大模型节点(计算折扣)
  • 模型通义千问-Plus

  • Prompt

    复制代码
    根据以下信息计算折扣后价格:
    产品:{{stock_info.product_name}}
    原价:{{stock_info.price}}
    用户等级:{{user_level_info.level}}
    折扣规则:金牌 8 折,银牌 9 折,普通无折扣
    
    输出 JSON:{"original_price": xxx, "discount_rate": xxx, "final_price": xxx}
  • 输出price_calculation

节点 6:大模型节点(生成报价)
  • 模型通义千问-Plus

  • Prompt

    复制代码
    生成一份友好的报价回复:
    - 产品:{{stock_info.product_name}}
    - 库存状态:{{stock_info.stock_status}}
    - 原价:{{price_calculation.original_price}}
    - 会员折扣:{{price_calculation.discount_rate}}
    - 最终价格:{{price_calculation.final_price}}
    
    要求:语气亲切,突出会员权益,提醒库存有限
  • 输出final_response

节点 7:结束节点
  • 输出final_response

5.4 连接节点并测试

步骤 5.4.1:用鼠标拖拽连接各节点

📸 截图占位:工作流设计器界面,显示节点和连接线

步骤 5.4.2:点击「测试运行」

步骤 5.4.3:输入测试数据:

json 复制代码
{"user_query": "我想买产品A,我是金牌会员,能便宜多少?"}

步骤 5.4.4:观察每个节点的输入输出,排查问题


第六章:调试、优化与测试(预计 2-3 小时)

6.1 系统化的测试策略

不要随机测试,使用系统化的测试矩阵:

测试矩阵模板
测试 ID 类型 测试问题 预期结果 实际结果 状态
TC-001 知识库 产品A重量是多少? 基于知识库准确回答 待填写 待测试
TC-002 工具调用 查订单 ORD123 调用订单插件 待填写 待测试
TC-003 边界拒绝 你们卖火箭吗? 礼貌拒绝,不编造 待填写 待测试
TC-004 多轮对话 连续追问同一主题 上下文连贯 待填写 待测试
TC-005 敏感信息 帮我看看别人的订单 拒绝并提示权限 待填写 待测试
TC-006 情绪处理 我要投诉! 安抚并转人工 待填写 待测试
TC-007 知识库缺失 你们有产品Z吗? 明确告知无法回答 待填写 待测试
TC-008 工具错误 查订单 ORD999 优雅处理错误 待填写 待测试

6.2 右侧预览窗调试技巧

步骤 6.2.1:打开预览窗,输入测试问题

步骤 6.2.2:观察 Agent 的「思考过程」

百炼的预览窗通常会显示:

  • 是否触发了知识库检索
  • 检索召回的文档片段
  • 是否调用了工具及入参
  • 最终生成的回答

步骤 6.2.3:对比预期与实际结果

如果结果不符,按以下流程排查:

复制代码
回答错误?
  → 是知识库问题?
    → 召回的片段是否正确?
      → 否:回到第二章优化知识库
      → 是:优化 Prompt 的约束规则
  → 是工具问题?
    → 是否触发了工具?
      → 否:优化 Prompt 的工具触发条件
      → 是:检查工具入参和返回结果
  → 是模型问题?
    → 升级到更强的模型(Turbo → Plus → Max)

6.3 调优参数手册

6.3.1 知识库调优
问题 参数调整 操作路径
召回不足 降低相似度阈值 知识库配置 → 相似度阈值:0.75 → 0.65
召回过多噪音 提高相似度阈值 知识库配置 → 相似度阈值:0.75 → 0.85
上下文断裂 增大切片长度 切片策略 → 自定义切片 → 字符数:500 → 1000
语义不匹配 更换 Embedding 模型 重建索引 → 选择 gte-text-embedding
6.3.2 模型参数调优
问题 参数调整 说明
回答太发散 降低 Temperature 0.7 → 0.3,回答更确定
回答太死板 提高 Temperature 0.3 → 0.7,增加创造性
回答太长 降低 Max Tokens 2048 → 1024
回答不完整 提高 Max Tokens 2048 → 4096
6.3.3 Prompt 调优

原则:具体、明确、可验证

❌ 差的 Prompt:

复制代码
你是一个客服,回答用户的问题。

✅ 好的 Prompt:

复制代码
你是「XX科技」的智能客服助手,名叫「小智」。

核心能力:
1. 基于【知识库】回答产品咨询,严禁捏造数据
2. 调用「订单查询插件」查询订单状态
3. 无法回答时明确告知用户,并转交人工

约束规则:
- 必须基于知识库回答,无相关信息时告知"我暂时无法回答"
- 禁止推荐竞品
- 涉及价格时注明"以官网实时价格为准"

6.4 长期记忆测试

测试方法

复制代码
用户:我想买一台笔记本,主要用来写代码。
Agent:推荐产品A,适合开发场景,重量1.5kg...

用户:它支持外接显示器吗?(指代「它」= 产品A)
Agent:产品A支持外接最多2台4K显示器...

用户:那它的续航怎么样?(继续指代产品A)
Agent:产品A续航约12小时...

如果 Agent 能正确理解指代,说明长期记忆工作正常。


第七章:发布与多渠道接入(预计 1-2 小时)

7.1 正式发布

步骤 7.1.1:在 Agent 配置页面,点击右上角「发布」

步骤 7.1.2:在弹出面板中点击「确认发布」

步骤 7.1.3:系统生成以下信息:

  • 应用 ID:app-xxxxx
  • API 端点:https://dashscope.aliyuncs.com/...

7.2 渠道接入方案详解

7.2.1 官方网页版(最快,5 分钟)

适用场景:快速验证、内部试用、嵌入官网

步骤

  1. 「发布渠道」→「官方网页版」→「创建」
  2. 系统自动生成专属链接:https://xxx.alicloud.com/chat/xxx
  3. 可直接分享,或 iframe 嵌入企业官网

自定义选项

  • 页面标题
  • 欢迎语
  • 主题颜色(可匹配企业 VI)
7.2.2 钉钉机器人(内部办公)

适用场景:企业内部服务台、IT 运维、HR 问答

前置要求

  • 你是钉钉组织的管理员,或有开发者权限
  • 已创建钉钉应用(或准备创建)

步骤

  1. 「发布渠道」→「钉钉机器人」
  2. 登录 钉钉开发者后台
  3. 创建企业内部应用 → 获取 Client IDClient Secret
  4. 回到百炼,填写凭证
  5. 选择要接入的钉钉群
  6. 保存后,在群内 @机器人 即可触发 Agent

使用方式

复制代码
@小智 帮我查一下订单 ORD123456
@小智 产品A的保修期是多久?
7.2.3 微信公众号(对外客服)

适用场景:面向客户的智能客服、营销互动

前置要求

  • 已认证的服务号或订阅号
  • 公众号管理员扫码授权

步骤

  1. 「发布渠道」→「微信公众号」
  2. 点击「授权公众号」,管理员扫码
  3. 选择公众号
  4. 配置自动回复规则:
    • 收到消息时自动触发 Agent
    • 或仅对关键词触发
  5. 保存后,粉丝在公众号内留言即可触发 Agent

注意事项

  • 微信公众号有 5 秒响应超时限制,复杂查询可能超时
  • 建议配置「正在处理中」的提示语
  • 关注/取关事件也可配置自动回复
7.2.4 API 集成(自有系统)

适用场景:已有自研系统(APP、小程序、管理后台),需要深度集成

Python SDK 示例

python 复制代码
from openai import OpenAI
import os

# 初始化客户端(百炼全兼容 OpenAI 接口)
client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),  # 从环境变量读取,不要硬编码
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"
)

def ask_agent(question, user_id="anonymous"):
    """
    调用企业 Agent 回答用户问题
    """
    try:
        response = client.chat.completions.create(
            model="qwen-plus",  # 或你在百炼配置的 Agent 应用 ID
            messages=[
                {"role": "system", "content": "你是企业客服助手"},
                {"role": "user", "content": question}
            ],
            # 如果 Agent 配置了工具,需要开启 tool_choice
            tools=[{
                "type": "function",
                "function": {"name": "query_order", "description": "查询订单"}
            }],
            temperature=0.5,
            max_tokens=2048
        )
        
        return {
            "success": True,
            "answer": response.choices[0].message.content,
            "usage": {
                "prompt_tokens": response.usage.prompt_tokens,
                "completion_tokens": response.usage.completion_tokens,
                "total_tokens": response.usage.total_tokens
            }
        }
    except Exception as e:
        return {
            "success": False,
            "error": str(e)
        }

# 使用示例
if __name__ == "__main__":
    result = ask_agent("产品A的重量是多少?")
    if result["success"]:
        print(f"回答:{result['answer']}")
        print(f"Token 消耗:{result['usage']['total_tokens']}")
    else:
        print(f"错误:{result['error']}")

Java 示例(Spring AI Alibaba)

java 复制代码
import org.springframework.ai.chat.ChatClient;
import org.springframework.ai.chat.prompt.Prompt;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.*;

@RestController
@RequestMapping("/api/agent")
public class AgentController {
    
    @Autowired
    private ChatClient chatClient;
    
    @PostMapping("/chat")
    public String chat(@RequestBody ChatRequest request) {
        String response = chatClient.call(
            new Prompt("你是企业客服助手。用户问题:" + request.getQuestion())
        );
        return response;
    }
}

Node.js 示例

javascript 复制代码
const OpenAI = require('openai');

const client = new OpenAI({
    apiKey: process.env.DASHSCOPE_API_KEY,
    baseURL: 'https://dashscope.aliyuncs.com/compatible-mode/v1'
});

async function askAgent(question) {
    const response = await client.chat.completions.create({
        model: 'qwen-plus',
        messages: [
            { role: 'system', content: '你是企业客服助手' },
            { role: 'user', content: question }
        ]
    });
    return response.choices[0].message.content;
}

askAgent('产品A的重量是多少?').then(console.log);
7.2.5 魔笔低代码 UI(定制化界面)

适用场景:需要品牌化、可定制的交互界面,不想写前端代码

步骤

  1. 「发布渠道」→「魔笔分享渠道」→「立即查看」

  2. 进入魔笔 UI 设计器

  3. 点击「创建 UI」→ 选择「文本对话」模板

  4. 填写配置:

    • 应用名称:XX科技智能客服

    • API-KEY:你的百炼 API Key

    • 选择智能体:刚才发布的 Agent

    • 欢迎语标题:您好,我是小智

    • 欢迎语描述:我可以帮您解答产品问题、查询订单状态

    • 头像 URL:上传企业 Logo

    • 预设问题:

      复制代码
      1. 推荐一款适合办公的笔记本
      2. 产品A的保修期是多久?
      3. 如何查询我的订单?
  5. 点击「立即创建」

  6. 生成嵌入代码:

    html 复制代码
    <iframe 
      src="https://xxx.alicloud.com/embed/xxx" 
      width="400" 
      height="600"
      frameborder="0">
    </iframe>
  7. 将 iframe 嵌入到企业官网、OA 系统或 APP WebView 中


第八章:监控、运维与持续迭代(持续进行)

8.1 应用观测

步骤 8.1.1:进入百炼控制台「应用观测」或「监控」页面

核心指标监控

指标 健康阈值 异常处理
日调用次数 根据业务设定 突增 3 倍以上检查是否被攻击
成功率 > 95% 低于 95% 检查模型/工具状态
平均响应时间 < 3 秒 超过 5 秒检查模型选择或工具延迟
Token 日消耗 在预算内 超过预算 80% 触发告警
知识库命中率 > 70% 过低说明知识库覆盖不足

步骤 8.1.2:查看对话日志

日志包含:

  • 用户原始问题
  • Agent 最终回答
  • 知识库召回的文档片段(用于判断 RAG 质量)
  • 工具调用记录(工具名、入参、返回结果)
  • Token 消耗明细

8.2 设置告警规则

步骤 8.2.1:进入阿里云「云监控」控制台

步骤 8.2.2:创建告警规则

推荐告警配置

规则名称 条件 通知方式 级别
Token 预算告警 日消耗 > 预算 80% 短信 + 钉钉 警告
成功率告警 成功率 < 95%(持续 5 分钟) 短信 + 邮件 严重
响应时间告警 P99 延迟 > 5 秒 钉钉 警告
错误率告警 5xx 错误 > 1% 短信 + 电话 紧急
调用量突增 日调用量 > 上周同期 300% 钉钉 警告

8.3 持续迭代流程

建议每周进行一次迭代

周一:数据收集

  • 导出上周对话日志
  • 标记明显错误的回答(幻觉、信息错误、拒绝服务)

周二:根因分析

  • 是知识库问题?→ 补充/更新文档
  • 是 Prompt 问题?→ 优化约束规则
  • 是工具问题?→ 检查 API 稳定性
  • 是模型问题?→ 考虑升级模型

周三:优化实施

  • 更新知识库文档
  • 修改 Prompt
  • 调整模型参数

周四:A/B 测试

  • 百炼支持多版本对比
  • 同时运行旧版和新版
  • 对比回答质量、用户满意度

周五:发布新版

  • 确认新版效果优于旧版
  • 发布到生产环境
  • 保留旧版本 7 天(便于回滚)

8.4 版本管理策略

复制代码
Agent-v1.0(稳定版,当前生产环境)
Agent-v1.1(测试版,优化了售后话术)
Agent-v2.0(开发版,新增库存查询功能)

发布流程

  1. 在测试环境验证 v1.1
  2. 灰度发布:10% 流量 → 50% 流量 → 100% 流量
  3. 监控 24 小时,无异常后下线 v1.0

第九章:企业级安全与治理(贯穿全程)

9.1 权限与访问控制

9.1.1 RAM 子账号管理

步骤:阿里云控制台 → 「RAM 访问控制」→ 「用户」→ 「创建用户」

推荐权限分配

角色 权限范围 说明
Agent 管理员 百炼全部权限 负责整体架构和发布
Agent 开发者 百炼应用管理、知识库管理 负责 Prompt 调优和知识库维护
Agent 运营 百炼应用观测、日志查看 负责内容审核和数据分析
财务人员 费用管理、账单查看 负责成本控制和预算管理
只读审计 操作审计日志 合规审计人员
9.1.2 API Key 安全策略
策略 实施方法 重要性
环境分离 生产/测试/开发各用不同 Key ⭐⭐⭐ 必须
定期轮换 每 90 天更换一次 Key ⭐⭐⭐ 必须
IP 白名单 限制只有企业服务器 IP 可调用 ⭐⭐⭐ 必须
最小权限 每个 Key 只授予必要的权限 ⭐⭐⭐ 必须
密钥管理 使用阿里云 KMS 或 HashiCorp Vault ⭐⭐ 推荐
禁用硬编码 代码中通过环境变量读取 Key ⭐⭐⭐ 必须

9.2 数据安全

9.2.1 传输安全
  • 百炼 API 默认使用 HTTPS(TLS 1.2+)
  • 确保你的服务端也使用 HTTPS 调用百炼 API
9.2.2 存储安全
  • 知识库文档存储在阿里云 OSS,默认加密
  • 对话日志存储在阿里云数据库,支持加密
9.2.3 敏感数据保护

在系统提示词中增加数据保护约束:

markdown 复制代码
## 数据安全规则(必须遵守)
- 【强制】禁止在回复中输出用户的身份证号、手机号、银行卡号、密码等敏感信息。
- 【强制】用户查询他人订单时,必须拒绝并告知"您只能查询自己的订单信息"。
- 【强制】如果用户要求删除个人数据,记录请求并转交人工处理。
- 【强制】不要在回复中透露内部系统架构、API 地址、数据库结构等技术信息。

9.3 审计与合规

9.3.1 操作审计(ActionTrail)

步骤:阿里云控制台 → 「ActionTrail」→ 「创建跟踪」

记录以下操作:

  • 谁创建了 Agent
  • 谁修改了 Prompt
  • 谁发布了新版本
  • 谁删除了知识库
9.3.2 对话日志审计

导出方式

  1. 百炼控制台 → 「应用观测」→ 「日志导出」
  2. 导出到阿里云 SLS(日志服务)或 OSS
  3. 设置保留策略(建议 180 天)
9.3.3 合规要求
行业 特殊要求 实施方案
金融 等保三级、数据本地化 私有化部署 + 本地知识库
医疗 HIPAA/等效合规、患者隐私 数据脱敏 + 审计日志
教育 未成年人保护 内容过滤 + 人工审核
政务 国产化、信创 通义千问 + 阿里云政务云

第十章:成本估算与选型决策

10.1 成本构成

成本项 计费方式 单价参考 月成本(中等规模)
模型 Token 按输入+输出 Token Plus: ¥0.004/1K Tokens ¥200-800
Embedding 按 Token ¥0.001/1K Tokens ¥50-100
MCP 工具调用 按调用次数 基础: ¥0.01/次 ¥50-200
MCP 极速模式 按小时 ¥0.13/小时 ¥100-300
函数计算(可选) 按 CU ¥0.0001/CU ¥50-150
存储(NAS/ OSS) 按容量 ¥0.15/GB/月 ¥20-50
总计 - - ¥470-1600/月

10.2 降本策略

策略 方法 预期节省
模型分级 简单任务用 Turbo,复杂任务用 Plus/Max 30-50%
缓存命中 对常见问题预生成答案,缓存 1 小时 20-30%
知识库优化 减少召回片段数量,降低上下文长度 10-20%
工具懒加载 低频工具用基础模式,不用时释放 15-25%
批量处理 非实时场景使用批量 API 40-60%

10.3 企业规模选型建议

企业规模 日对话量 推荐方案 月成本 上线周期
初创/验证 < 100 百炼低代码 + 免费额度 ¥0-300 1-2 周
中小企业 100-1000 百炼 + 自定义插件 ¥300-1000 2-4 周
中大型企业 1000-10000 百炼 + 工作流 + 多 Agent ¥1000-5000 1-2 月
集团/超大规模 > 10000 瓴羊 AgentOne 企业方案 定制报价 3-6 月

附录 A:常见问题排查手册

A.1 知识库问题

Q1:上传文件后一直显示「导入中」

  • 检查文件大小是否超过 100MB
  • 检查文件格式是否支持
  • 等待 10 分钟后刷新,如仍卡住联系阿里云客服

Q2:知识库检索测试召回不到内容

  • 检查文档是否是文字版(非扫描件)
  • 降低相似度阈值到 0.6
  • 尝试更换 Embedding 模型
  • 检查文档中是否确实包含相关内容

Q3:召回的内容包含很多无关信息

  • 提高相似度阈值到 0.8-0.9
  • 减少召回数量到 3
  • 优化文档结构,删除干扰内容

A.2 Agent 配置问题

Q4:Agent 不调用工具

  • 检查工具是否已挂载到 Agent
  • 在 Prompt 中明确工具触发条件
  • 检查工具描述是否清晰
  • 测试工具是否可用

Q5:Agent 回答包含编造信息

  • 在 Prompt 中加「必须基于知识库」的强制约束
  • 降低 Temperature 到 0.3
  • 检查知识库是否覆盖了该问题

Q6:多轮对话上下文丢失

  • 开启「长期记忆」功能
  • 检查 Memory 配置是否正确
  • 确认对话历史保留轮数设置合理

A.3 发布与接入问题

Q7:API 调用返回 401

  • 检查 API Key 是否正确
  • 检查 Key 是否过期
  • 检查是否超出免费额度且账户欠费

Q8:钉钉机器人不响应

  • 检查 Client ID 和 Secret 是否正确
  • 确认机器人已加入目标群
  • 检查钉钉应用权限是否开通

Q9:微信公众号回复慢

  • 微信公众号有 5 秒超时限制
  • 复杂查询建议先回复「正在处理中」
  • 考虑使用异步消息队列

A.4 性能问题

Q10:响应时间超过 5 秒

  • 检查是否使用了 Max 模型(较慢)
  • 检查 MCP 工具是否使用基础模式(冷启动延迟)
  • 减少知识库召回片段数量
  • 检查网络连接质量

Q11:Token 消耗异常高

  • 检查知识库召回片段是否过长
  • 检查是否有循环调用
  • 检查 Max Tokens 设置是否过大
  • 使用更轻量的模型处理简单任务

附录 B:Prompt 模板大全

B.1 通用客服 Agent

markdown 复制代码
# 角色
你是「{{company_name}}」的智能客服助手,名叫「{{agent_name}}」。

## 核心能力
1. 基于【知识库】回答产品咨询
2. 调用「订单查询插件」查询订单状态
3. 无法回答时转交人工

## 约束规则
- 必须基于【知识库】回答,无相关信息时明确告知"我暂时无法回答"
- 禁止推荐竞品
- 涉及价格时注明"以官网实时价格为准"
- 禁止输出用户敏感信息

## 输出格式
- 亲切、口语化的中文
- 关键信息加粗
- 步骤类用 1.2.3. 编号

B.2 销售顾问 Agent

markdown 复制代码
# 角色
你是「{{company_name}}」的高级销售顾问,拥有 5 年行业经验。

## 核心能力
1. 根据客户需求推荐合适产品
2. 解释产品优势和竞品差异
3. 计算报价和优惠方案

## 约束规则
- 推荐必须基于【知识库】中的真实产品
- 不承诺无法兑现的优惠
- 尊重客户预算,不强行推销高端产品
- 主动询问客户使用场景,提供个性化建议

B.3 HR 助手 Agent

markdown 复制代码
# 角色
你是「{{company_name}}」的 HR 助手,负责解答员工关于考勤、福利、制度的咨询。

## 核心能力
1. 解答考勤、请假、报销流程
2. 解释福利政策(社保、公积金、商业保险)
3. 指引员工使用内部系统

## 约束规则
- 涉及个人薪资、绩效等敏感信息时,告知"请登录 HR 系统查看或联系 HR 专员"
- 政策解释以最新版制度为准
- 不提供法律建议,复杂劳动纠纷建议咨询专业律师

B.4 IT 运维 Agent

markdown 复制代码
# 角色
你是「{{company_name}}」的 IT 运维助手,负责处理内部技术问题。

## 核心能力
1. 解答常见 IT 问题(VPN、邮箱、打印机、软件安装)
2. 调用「工单系统」创建 IT 工单
3. 查询系统状态和网络状况

## 约束规则
- 涉及服务器配置、网络安全等敏感操作时,必须转交人工
- 不提供个人设备维修建议
- 系统故障时优先安抚用户,告知预计恢复时间

附录 C:API 参考速查

C.1 百炼兼容 OpenAI 接口

bash 复制代码
# 基础聊天
POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions

# 请求头
Authorization: Bearer {api_key}
Content-Type: application/json

# 请求体
{
  "model": "qwen-plus",
  "messages": [
    {"role": "system", "content": "你是助手"},
    {"role": "user", "content": "你好"}
  ],
  "temperature": 0.7,
  "max_tokens": 2048
}

C.2 常用模型 ID

模型 模型 ID 上下文长度
通义千问-Max qwen-max 32K
通义千问-Plus qwen-plus 128K
通义千问-Turbo qwen-turbo 128K
Embedding v3 text-embedding-v3 8K

C.3 错误码速查

错误码 含义 解决方案
401 认证失败 检查 API Key
429 请求过多 降低 QPS,或升级套餐
500 服务器错误 稍后重试,或联系客服
503 服务不可用 检查模型状态,切换备用模型

结语

恭喜你完成了这份手册的全部内容!至此,你已经:

✅ 开通了阿里云百炼服务

✅ 构建了企业级知识库

✅ 创建了具备工具调用能力的智能体

✅ 掌握了工作流编排方法

✅ 学会了多渠道发布

✅ 建立了监控运维体系

✅ 了解了企业级安全治理

AI Agent 的落地不是一蹴而就的,建议从最简单的场景开始(如内部 FAQ 助手),验证价值后再逐步扩展。记住:知识库的质量决定了 Agent 的上限,Prompt 的精度决定了 Agent 的下限,持续的迭代决定了 Agent 的生命力。

如果在实践过程中遇到问题,欢迎在评论区留言交流,我会持续更新这份手册。


作者 :AI 技术实践团队

更新日期 :2026-07-07

版本 :v1.0

声明 :本文基于阿里云百炼 2026 年 7 月版本撰写,产品功能持续迭代,具体以官方控制台为准。

"""

相关推荐
lh17931 小时前
数据产业服务分类(53)——分类设计——数据能力集成
java·人工智能·分类
十铭忘1 小时前
VideoMAE v2:使用双重掩码扩展视频掩码自编码器
人工智能
金色的暴发户1 小时前
一劳永逸解决Codex手机验证
前端·人工智能·开源
YOLO数据集集合1 小时前
无人机松材线虫病树监测:早期与晚期感染阶段目标检测数据集全解析10125期
人工智能·目标检测·无人机
天天进步20151 小时前
InfiniteTalk 源码解析 #12:二次开发路线:做一个可商用的长视频口播生成平台
人工智能
Elastic 中国社区官方博客1 小时前
谁来评判评判者?在 Elasticsearch Workflows 中使用 LLM-as-a-Judge
大数据·运维·人工智能·elasticsearch·搜索引擎·ai·全文检索
yqd6661 小时前
OpenCV
人工智能·opencv·计算机视觉
糖糖的AI心得2 小时前
AI重塑跨境运营效率:产品从精修到上架的全链路实战拆解
图像处理·人工智能·aigc
中微极客2 小时前
Gemini Omni Flash:对话式AI视频编辑新范式
人工智能·音视频·新人首发