Surging AI Agent:.NET 生态原生智能微服务引擎,让大模型与业务微服务融为一体

一、概述

传统.NET 项目中,AI 大模型往往作为外部服务调用,业务微服务与大模型割裂,面临接口调试复杂、数据外传、部署链路冗长、多语言运维成本高等一系列难题。Surging AI Agent基于 Surging 分布式微服务引擎原生打造,把本地私有化大模型、向量 RAG 检索、微服务业务能力、智能 Agent 编排统一在一套.NET 技术栈,实现 AI 能力和业务微服务一体化开发、运行、部署、运维。

🚀终端自然语言驱动,engine‑cli 开启智能开发时代

Surging 通过engine‑cli命令行工具,将 AI 智能体深度嵌入研发工作流。开发者不用记忆复杂指令,直接使用自然语言和终端对话。

  • 提问框架原理,Agent 直接给出 Surging 架构讲解;
  • 输入自然语言业务需求,智能体自动解析意图,自动生成完整微服务模块代码;
  • 自动完成项目编译、模块输出、服务注册,一键产出可运行的业务 dll 模块,开箱即可启动微服务实例、自动生成 Swagger 接口文档。
    从截图演示可见,只需要简单描述:生成订单中心微服务模块,生成商品、用户、订单明细全部业务模块,Agent 自动拆解子任务,输出完整模块组件,编译生成业务程序集,直接交付可运行微服务。同时支持查询服务列表、查看接口路由,实时掌握集群微服务状态。

🧠 私有化本地大模型一键部署,数据不出内网

依托 LLamaSharp 原生 C# 推理能力,engine‑cli 内置模型管理能力,一行命令即可拉取、管理 GGUF 格式开源大模型,完全离线私有化运行,业务敏感数据无需对外传输。

复制代码
engine‑cli install model ‑s ‑t llama ‑‑limit 10

支持 Meta‑Llama‑3.1‑8B 等主流开源大模型,支持多种量化版本,普通开发机器即可运行;支持 CPU 纯内存运行,也可 GPU 加速推理,灵活适配开发、生产环境硬件条件。

📚 内置向量模型,开箱即用 RAG 知识库体系

除大语言模型外,CLI 工具同样支持一键下载 BGE‑small 向量 Embedding 模型,快速搭建 RAG 向量知识库,支持文档解析、向量化入库、相似度检索,用于框架文档问答、业务知识库智能检索场景。

复制代码
engine‑cli install model ‑t bge‑small ‑e ‑‑limit 10

不需要引入 Python 环境,全部在.NET 栈完成向量计算与检索;支持精细化文档分层,提升检索准确度,为 Agent 提供可靠的领域知识库支撑,缓解大模型幻觉问题。

⚡AI Agent 无缝调用业务微服务能力

Surging AI Agent 最大的优势:Agent 智能体可以直接调用现有微服务接口能力
Agent 不需要额外写大量适配胶水代码,直接复用 Surging 引擎的 HTTP、WebSocket、GRPC 通信协议,访问已注册微服务路由接口。

  • 查询用户微服务列表,读取业务接口元数据;
  • 调用订单、日志等业务服务完成数据查询;
  • Agent 结合大模型推理 + 业务接口返回真实业务数据,完成智能问答、业务分析。
    微服务启动后自动输出 Swagger 文档,Agent 能够感知全部对外接口,把 AI 智能能力注入业务系统,打通 "大模型思考" 到 "业务系统执行" 的完整闭环。

✨核心亮点总结

  1. 全栈.NET 原生:大模型推理、向量检索、Agent 编排、微服务业务全部 C# 实现,告别多语言混合项目。
  2. 私有化离线部署:本地运行 LLM+BGE 向量模型,业务数据不对外流出,满足企业内网安全要求。
  3. 自然语言驱动开发:engine‑cli Agent,对话式生成微服务模块,自动编译输出业务组件,大幅提升开发效率。
  4. Agent 直接调用微服务:复用现有 RPC、HTTP、GRPC 能力,业务接口直接作为 Agent 工具,无需复杂适配。
  5. 统一运维管控:AI 推理服务与业务微服务由 Surging 服务管理器统一管控,统一端口、注册发现、日志监控。
  6. 面向未来扩展:架构原生支持多模态模型扩展,后续可接入 LLaVA 等多模态模型,实现图片文档识别生成代码等高级能力。

结尾

现在测试研发多模态模型,整个Agent 是组件化开发,后续会接入到我研发的云驿平台。我还购买了com 域名, 我是要准备干票大的,让你们看看surging的真正威力。

相关推荐
fanly1122 天前
Surging AI Agent:基于.NET 生态一站式本地大模型 + 向量检索微服务解决方案
微服务·.net core·microservice
fanly112 个月前
Surging AI Agent 完整产品介绍
微服务·microservice
fanly113 个月前
.NET如何实现向量语义分析
微服务·ai·surging
fanly114 个月前
利用surging 网络组件重构插件开发
微服务·ai·microservice
fanly114 个月前
surging 的Agent插件研发全流程:从定义到落地
微服务·ai·surging
fanly114 个月前
AI 赋能微服务工程化:Surging Engine-CLI 的插件化 Agent 架构革新
微服务·surging
fanly115 个月前
surging 发布命令行工具
微服务·surging
猿小羽7 个月前
深入理解 Microservice Control Proxy(MCP) 的 AI 实战指南
微服务·ai·推荐系统·service mesh·microservice·mcp·ai 实战
fanly119 个月前
在抖音直播推广开源作品的可行性?
微服务·netty·.net core·microservice