本文主体是吕昭波老师在datawhale的宣讲。
辅以一些本人的看法，希望各位大佬一起交流指正。
标准化之后才能规模化
提炼自己的知识框架、利用好自己作为用户的差异点
案例：智能客服
需要数据RAG、LLM、工具插入MCP、ECS或GPU资源
安全性、治理、可观测性、如何基于私有化Coze/Dify开发？
对问题提炼模版化的解决方案从而实现标准化的工程化
1. 三大核心能力
- 规划 - 循环
重复性工作
- 工具使用 - 向外拓展
写代码等等
- 向量数据库 - 纵向知识挖掘
数据分析
根据需求提炼模版，从而进行组织
2. 六个资源纬度
- 数据
- 知识库获取
- 数据调优 - 数据清洗、数据补充增强
- 数据质量评估
- 数据使用
- 模型
- 模型选型
- 模型精调
- 模型评估
- 数据使用
- 工具
MCP
插件
API
- 算力
云端：aliyun等等
本地：GPU
- 场景
AI插入到应用中
- 提示词、上下文
3. 六个架构维度
更可控、可解释的卓越架构，从而可优化
-
开发
-
评估
API高可用
LLM Gateway
插件高可用
基础设施高可用
数据高可靠
- 部署
平台底座：本地环境、SaaS
应用交互：Copilot、嵌入到现有业务流
- 安全
生成内容安全检测
网络安全
使用权限隔离
算法备案
小程序，网站备案
-
观测
-
治理
4. 思维升级
通过架构画布进阶 Agentic 架构师
去找可复用的模版
那么面对需求就可以像编排工作流一样将复用模块进行串联
可以挑选三个不同的案例找共同点，那么就能跳出简单的工作流、agent的限制
QA
-
Q: 数据质量
A: 从认知上对其企业内部，技术上逐步迭代例如通过试点
-
Q: 定制化能力，是不是基本通过修改 prompt 实现？
A: 从场景、应用方式考虑
-
Q: 怎么控制AI思考，防止幻觉
A: 通过多Agent进行监督