摘要:
本文系统梳理了大模型知识,以及与Spring AI的集成方案,涵盖本地部署、云服务、API调用三种模式的技术选型对比。通过DeepSeek官方API示例详解Spring AI的四种开发范式(纯Prompt/Agent/RAG/微调),并提供架构决策矩阵和性能优化技巧。
一、大模型概念
1**、**基本概念
大模型(Large Language Model)是指参数量巨大(通常超过10亿)、基于Transformer架构、通过海量数据训练的深度学习模型,具有强大的语言理解和生成能力。
**2、**关系图

关系说明:
- ****AI(人工智能)是最顶层的概念
- 大模型是AI的一个子领域,特指基于Transformer架构的大规模语言模型
- GPT(Generative Pre-trained Transformer)是OpenAI开发的大模型系列
- DeepSeek是国产的大模型系列,与GPT属于同级概念
- 最下层是各系列的具体版本
二 、大模型 部署 模式
|---------------|-----------------------|--------------------|---------------------|
| 维度 | 本地部署 | 云服务部署 | 开放API调用 |
| 典型场景 | 高安全性/持续高并发需求 | 弹性需求/快速上线 | 低频调用/快速验证 |
| 数据控制权 | 完全自主 | 云厂商托管(部分可控) | 数据需上传至第三方 |
| 初始成本 | 极高(百万级硬件投入) | 中等(按需租用云资源) | 极低(仅API调用费) |
| 长期成本 | 低(3年以上摊销优势) | 中高(持续计费) | 高(调用量越大成本越高) |
| 运维复杂度 | 高(需专业团队) | 中(云平台部分托管) | 无(免运维) |
| 模型定制能力 | 支持全参数微调 | 部分支持(如LoRA微调) | 不支持 |
| 延迟表现 | 稳定(局域网内低延迟) | 依赖云服务商网络质量 | 受公网波动影响 |
| 代表方案 | LLaMA-3/DeepSeek本地化部署 | AWS Bedrock/百度文心千帆 | 通义千问API/GPT-4 Turbo |
一句话总结选择建议:
- 要安全 → 本地部署
- 要灵活 → 云服务
- **要便宜(低频)** → 开放API
三 、大模型 调用
下面是 DeepSeek官网给的API调用示例代码:
python
from openai import OpenAI
# 初始化OpenAI客户端
client = OpenAI(api_key="<DeepSeek API Key>", base_url="https://api.deepseek.com")
# 通过http调用大模型
response = client.chat.completions.create(
model="deepseek-chat",
messages=[
{"role": "system", "content": "You are a helpful assistant"},
{"role": "user", "content": "Hello"},
],
stream=False
)
# 打印结果
print(response.choices[0].message.content)
该实现通过OpenAI兼容接口调用deepseek-chat模型,包含系统提示词设置和温度参数调节
四 、大模型 应用
大模型应用指基于大规模预训练模型 (如GPT、BERT、ViT等)开发的智能化解决方案,通过海量数据训练获得泛化能力,并适配具体场景需求。其核心特点包括:
- 参数规模大 :通常包含数十亿至万亿级参数
- 多任务泛化 :同一模型可处理文本、图像、语音等跨模态任务
- 微调适配:通过提示工程(Prompt Engineering)或领域数据微调快速落地
大模型应用场景如下:
|--------------|-------------|-----------------------------------------|
| 技术维度 | 应用场景 | 典型案例 |
| 文本分析 | 金融舆情监控 | 实时分析新闻/社交媒体的企业负面情绪(如Bloomberg Terminal) |
| 文本分析 | 法律合同审查 | 自动识别条款漏洞(如ROSS Intelligence) |
| 文本分析 | 科研文献挖掘 | 跨论文关联创新点(如Scite.ai) |
| 多模态 | 医疗影像报告生成 | CT扫描图→结构化诊断报告(如联影智能uAI) |
| 多模态 | 工业质检增强 | X光+可见光融合检测电池缺陷(如宁德时代) |
| 多模态 | 教育AR互动 | 扫描课本插图→3D模型演示(如百度AR课堂) |
| 机器人应用 | 仓储分拣机器人 | 语音指令"优先处理红色包裹"→动作执行(如极智嘉机器人) |
| 机器人应用 | 手术辅助机械臂 | 根据术中超声图像自动调整切除范围(如达芬奇手术机器人) |
| 机器人应用 | 家庭服务机器人 | 理解"把可乐放冰箱第二层"的复杂指令 |
| 智能体 | 虚拟数字员工 | 银行年报数据→自动生成PPT+讲解视频(如度小满) |
| 智能体 | 游戏NPC | 基于玩家行为动态生成剧情分支(如《逆水寒》GPT-NPC) |
| 智能体 | 编程助手 | 自然语言描述→生成可运行代码(如GitHub Copilot) |
| 自动驾驶 | 复杂场景决策 | 识别"交警手势"并生成避让路径(如Waymo) |
| 自动驾驶 | 乘客交互系统 | 多模态理解"空调太冷+手指调温动作"(如小鹏XNGP) |
| 自动驾驶 | 仿真测试 | 自动生成极端天气测试场景(如CARLA仿真平台) |
五、AI应用开发 的 架构
1. 纯Prompt问答架构
**定义:**通过自然语言指令直接调用大模型完成任务的零样本(zero-shot)交互模式。
特征:
- 无代码侵入性
- 响应速度最快(200-500ms)
- 输出结果不可控性强

应用场景:
- 客服自动回复(简单咨询)
- 内容生成(社交媒体文案)
- 快速知识问答(常识类问题)
2. Agent+Function Calling架构
定义:大模型作为决策中枢,动态调用工具/API的智能体系统
特征:
- 具备工具使用能力
- 支持多轮复杂任务
- 需预定义工具描述(OpenAI格式)
函数认知的来源
- ****预训练知识:基础模型通过代码数据训练获得通用API调用模式理解(如HTTP请求格式)
- 工具描述注入:调用前需向模型提供工具说明书(OpenAI格式示例):
tools =` `[{`
`"name":` `"weather_api",`
`"description":` `"查询指定城市未来天气",`
`"parameters":` `{`
`"type":` `"object",`
`"properties":` `{`
`"city":` `{"type":` `"string",` `"description":` `"城市名称"},`
`"date":` `{"type":` `"string",` `"format":` `"date"}`
`}`
`}`
`}]`
`
应用场景:
- 智能旅行规划
- 跨系统办公自动化
- 金融数据实时分析
3. RAG架构(检索增强生成)
定义:结合外部知识库检索与大模型生成的混合架构
特征:
- 知识可实时更新
- 回答准确性显著提升
- 需向量数据库支持

角色职责说明
|------|-------------|-----------------|
| 角色 | 职责 | 典型组件示例 |
| 用户 | 发起自然语言请求 | 终端用户/API调用方 |
| AI应用 | 路由请求+组装上下文 | FastAPI/Flask应用 |
| 大模型 | 内容生成/决策制定 | GPT-4/DeepSeek |
| 知识库 | 存储&检索结构化数据 | Elasticsearch |
应用场景:
- 企业知识库问答
- 法律条文查询
- 医疗诊断支持系统
4. Fine-tuning架构
定义:通过领域数据微调基础模型参数的深度定制方案
特征:
- 训练成本高(GPU小时计费)
- 领域适应性强
应用场景:
- 专业术语翻译(如法律文书)
- 行业报告生成(金融/能源)
- 方言语音识别
5. 架构对比矩阵
|----------------|-------|-------|-------|
| 架构类型 | 开发成本 | 知识时效性 | 适合场景 |
| 纯Prompt | ★☆☆☆☆ | 依赖预训练 | 简单问答 |
| Agent+Function | ★★★☆☆ | 实时 | 复杂流程 |
| RAG | ★★☆☆☆ | 可更新 | 知识密集型 |
| Fine-tuning | ★★★★★ | 训练时固化 | 专业领域 |
技术选型建议:
- 验证阶段:从纯Prompt开始
- 数据敏感场景:优先RAG
- 流程自动化:选择Agent
- 长期专业需求:考虑微调
六、spring AI 开发 指南
1. Spring AI核心概念
- 定位:Spring生态对大模型能力的标准化集成方案
- 核心组件:
- AiClient:统一接口(支持OpenAI/Azure/Bedrock等)
- PromptTemplate:动态提示词模板
- AiResponse:标准化响应封装
- 架构优势:

注意:Spring AI支持DeepSeek,但架构图中未体现,是由于DeepSeek应归类于OpenAI分支下(因其采用OpenAI兼容接口)。
2. 快速集成示例
<dependency>`
`<groupId>org.springframework.ai</groupId>`
`<artifactId>spring-ai-openai-spring-boot-starter</artifactId>`
`<version>1.0.0</version>`
`</dependency>
spring:`
` ai:`
` openai:`
` api-key: ${OPENAI_KEY}`
` base-url: https://api.deepseek.com`
` chat:`
` model: deepseek-chat`
` temperature: 0.7`
`
3. 四种开发模式实现
3.1 纯Prompt模式
java
@RestController
public class ChatController {
@Autowired
private AiClient aiClient;
@GetMapping("/ask")
public String ask(@RequestParam String question) {
Prompt prompt = new Prompt(question);
return aiClient.generate(prompt).getGeneration().getText();
}
}
3.2 Function Calling模式
java
@Bean
public FunctionCallback weatherFunction() {
return new FunctionCallback(
"weather_api", // 函数名称
"""
{
"type": "object",
"properties": {
"city": {"type": "string"} // 定义输入参数(大模型生成)
}
}
"""
) {
@Override
public Object apply(Object input) {
// 解析 input(JSON 格式),调用真实天气 API
String city = ((Map<String, String>) input).get("city");
return fetchWeatherFromAPI(city); // 返回天气数据
}
};
}
3.3 RAG集成方案
java
@Bean
public VectorStore vectorStore() {
return new PineconeVectorStore(
pineconeClient, // 连接 Pinecone 云服务
"knowledge-index" // 向量索引名称
);
}
@Bean
public Retriever retriever() {
return new VectorStoreRetriever(vectorStore(), 3); // 返回 Top-3 相似结果
}
3.4 微调适配方案
java
@Bean
public FineTuningClient fineTuningClient() {
return new OpenAiFineTuningClient(openAiApi); // 创建 OpenAI 微调客户端
}
- 核心用途:允许你上传自定义数据集,对 OpenAI 的基础模型(如 GPT-3.5-turbo)进行微调,生成专属领域的定制模型。
4. 架构对比选择
|---------|-----------------------|--------------|
| 需求场景 | Spring AI方案 | 代码示例片段 |
| 快速原型开发 | @EnableAiClients | 自动注入AiClient |
| 复杂业务流程 | AiFunctionRegistry | 动态工具注册 |
| 知识密集型问答 | VectorStoreRetriever | 混合检索+生成 |
| 领域专业术语 | FineTuningJobLauncher | 提交微调任务 |
展望趋势
随着Spring AI对国产大模型支持度提升,DeepSeek等本土方案将更深度融入Java开发生态。