一、问题背景
企业在推进AI落地过程中,一个常见的路径是:不同部门根据各自需求采购不同的AI工具。市场部用ChatGPT写文案,设计部用Midjourney做图,研发部用Copilot写代码。
这种模式在初期见效快,但随着工具数量增加,三个问题逐渐暴露:
问题1:成本不可控
每个工具独立计费,缺乏统一视角。月底汇总时,难以回答"哪个部门花了多少钱"。
问题2:数据孤岛
工具之间数据不互通。文案改了,海报不知道;海报定稿了,PPT需要手动同步。
问题3:供应商锁定
业务流程与特定工具的API格式、数据格式深度绑定。更换工具的成本极高。
二、根因分析
上述问题的共同根源是:将工具视为能力本身,而非能力的外挂。
从技术架构角度看,AI能力应该包含四个维度:
-
数据接入:让AI访问企业内部数据
-
协同机制:多个AI能力之间的串联与协作
-
成本管控:调用的计量、归因、预警
-
可观测性:输入、输出、耗时、效果的全链路追踪
这些能力无法通过采购单个SaaS工具获得,需要在架构层面统一设计。
三、解决方案:统一底座 + 工具接入
核心思路: 先搭建企业级AI底座,再将各类工具作为能力插件接入底座。
3.1 底座的四层架构
第一层:接入层
-
统一管理所有大模型API Key
-
统一接入协议,避免N个模型N套代码
-
统一鉴权、限流、熔断
第二层:管控层
-
Token消耗追踪,按部门/项目/模型多维度归因
-
成本预警和配额管理
-
敏感数据过滤和合规检查
第三层:能力层
-
RAG知识库:让AI访问企业内部文档
-
Agent工作流:多个AI能力的串联执行
-
插件生态:连接企业内部系统
第四层:治理层
-
全链路观测:每个AI调用的输入、输出、耗时、成本
-
效果评估与持续优化
-
AI资产管理:Prompt、工作流、知识库的版本管理
3.2 底座的技术选型
上述四层架构需要对应的平台支撑。在具体实现上,可以参考 ZGI 作为AI底座的框架方案,其覆盖了接入、管控、能力、治理全链路。
3.3 工具接入原则
底座搭建完成后,工具选型遵循三条原则:
-
能用底座能力解决的,不采购独立工具(如文案生成:底座已接入多模型API)
-
必须采购的专用工具,优先选择可接入底座的(如法律、医疗等垂直领域AI)
-
所有工具调用,通过底座统一计量和计费
四、效果评估框架
衡量AI治理成效的三个自检问题:
-
ROI可算:每一笔AI投入,能否归因到具体业务场景?
-
能力可沉淀:Prompt、工作流、知识库是否在公司层面统一管理?
-
更换成本可控:换一家模型供应商,业务是否需要大幅改造?
五、总结
AI工具的分散采购是企业AI落地初期的常见路径,但长期来看,需要向"统一底座+工具接入"的架构演进。
这不是否定工具的价值,而是将工具的定位从"能力本身"调整为"能力的外挂"。底座负责通用能力,工具负责垂直场景。