介绍
在前文免费使用满血版DeepSeek-R1的多种方案中已经对大语言模型(LLM)应用开发平台有了相关介绍了,如下:
以 Dify 为代表的生成式 AI 应用平台,具备以下显著特性,为 AI 应用开发带来了新的变革:
- 低代码 / 无代码开发:提供了极为直观的可视化界面,用户无需深入了解复杂的底层技术细节,只需通过简单的拖拽和配置操作,就能快速定义 Prompt、上下文、插件以及工作流。这一特性大大降低了开发门槛,使得非技术人员也能够参与到 AI 应用的构建和迭代过程中,加速了 AI 应用的开发进程。
- 多模型支持与灵活编排:支持 OpenAI、Claude、通义千问、讯飞星火等众多主流大语言模型,同时允许用户通过 API 集成自定义模型,充分满足了不同业务场景的多样化需求。通过模型编排(Agent Design)技术,用户可以将不同的智能体进行组合,将复杂任务进行分解并协同完成,有效突破了单一模型的能力边界。例如,在一个智能问答系统中,一个智能体负责解析用户输入的问题,另一个智能体根据问题生成回答内容,第三个智能体则对生成的回答进行优化,从而为用户提供更准确、更优质的答案。
- 模块化设计与丰富功能组件:采用了先进的模块化架构,提供了包括 RAG(检索增强生成)引擎、Agent 框架、工作流编排、模型管理等一系列丰富的功能组件,全面覆盖了从原型设计到生产部署的整个生命周期。其中,RAG 引擎支持 PDF、PPT、CSV 等多种常见文档格式的文本提取与索引,并且提供了高质量的向量检索模式和经济实惠的关键词索引模式,用户可以根据自身需求和成本预算进行选择,在保证准确性的同时,有效控制成本。
- 企业级功能与 LLMOps 支持:
-
- 知识库管理:支持将企业的私有数据进行集成,通过科学合理的分段策略和清洗规则对检索效果进行优化,确保 AI 在回答问题时能够基于准确、专业的知识,为企业提供可靠的智能服务。
- 监控与优化:提供了全面的应用性能监控、交互数据分析以及成本跟踪功能,能够根据生产过程中产生的数据,对应用进行持续的优化和改进,这完全符合 LLMOps 的核心理念,有助于企业不断提升 AI 应用的质量和效率。
- 灵活部署:支持本地化私有部署(如 Docker)和云端托管两种方式,企业可以根据自身对数据安全和合规性的要求,选择最适合的部署方案,确保数据的安全性和业务的合规运营。
- 广泛的应用场景:涵盖了智能客服、内容生成、代码辅助、知识问答等多种常见场景,支持快速构建 MVP(最小可行产品),也可以方便地集成到企业现有的业务系统中。例如,通过 Agent 工具调用外部 API(如 Google 搜索、Stable Diffusion),能够扩展 LLM 的能力,使其能够完成如联网检索、图像生成等复杂任务,为用户提供更强大、更全面的服务。
Dify:dify.ai/zh
作为大语言模型应用开发平台的典型代表,具备上述强大的功能特性。
Github:github.com/langgenius/...
除了dify
之外还有:扣子:www.coze.cn/home、硅基流动:cloud.siliconflow.cn/models、无问芯穹:cloud.infini-ai.com/aistudio/da...、阿里云百炼:bailian.console.aliyun.com/、支付宝百宝箱:tbox.alipay.com,等等等。
体验一下
与coze
相比dify
内置的模版并不多,但是dify
使用起来体验很棒,本篇就先跳过coze
只讨论dify
的使用体验。
这里设置了一个工作流,如下图
先经过问题分类,目前设置了4种:反欺诈、地理编码查询、风控系统、其他问题,
反欺诈和风控系统设置了知识库检索,使用了我上传的两个文档,然后再经过LLM
输出;
另外的地理信息配置的是http
节点,配置项非常丰富,可以自己体验一下,更重要的整个流程所有变量都可以引用,任意编排。
输入"风控系统介绍",其工作流及每一步的信息都是非常清晰的。
输入:"反欺诈指标计算方法",如图工作流也是很清晰的。
当然这只是"问题分类+知识库+聊天机器人"的应用,不同于之前AI
推出的个人智能体并发布,如果深度挖掘,还有很多很多可能性。
如:具体模型的参数细调,一般人能调整这几个参数也不错了😂
如:知识库的模型和检索设置等等😆
小结
同志任需努力
将AI技术栈类比云计算分层模型
Iaas(Infrastructure as a server,基础设施即服务):
如同电力系统中的发电厂,大语言模型(如GPT-4、Claude、通义千问)提供最基础的"智能能源"。它们如同GPU集群上的"算力电网",开发者通过API调取原始推理能力,但需自行处理数据清洗、提示工程、上下文管理等复杂环节。例如直接调用OpenAI API时,开发者需从零搭建完整应用架构。
Paas(Platform as a Server,平台即服务):
Dify如同智能时代的"AI发电站调度中心",将分散的大模型能力转化为标准化开发平台。它提供可视化编排工具(如RAG引擎、Agent框架)、预置模板和持续优化系统(LLMOps),让开发者像组装乐高积木般快速构建AI应用。就像通过Kubernetes管理云资源,Dify实现了大模型的动态调度(如成本/性能最优模型选择)和扩展集成(如插件市场),使企业无需从变压器(基础模型)开始搭建整个电力系统(应用生态)。
Saas(Software as a Server,软件即服务):
基于Dify构建的AI应用如同即插即用的智能家电,例如法律合同助手、电商客服机器人、营销文案生成器等。这些"智能终端"直接面向业务场景,用户无需感知底层是GPT-4还是Claude驱动,就像使用电饭煲时无需了解其电力来自火电还是风电。典型如通过Dify Workflow在30分钟搭建的智能招聘系统,集成了简历解析(模型)、人才库匹配(RAG)、面试题生成(编排)等完整功能。