先定核心定位:你不用学 Python 算法、不用训练模型、不用深度学习 只做:Java 对接大模型、业务系统集成 AI、RAG 知识库、企业智能问答、Agent 自动化完全复用你的 SpringBoot / 微服务 / 数据库 / 部署 老底子,上手极快。
一、先搞懂 3 个核心基础(1 天搞定)
- 大模型基础概念
- 公有模型:文心一言、通义千问、DeepSeek、豆包、GPT
- 私有部署模型:本地 / 内网部署,企业刚需(政企、信创、内网保密项目必用)
- 提示词 (Prompt):控制大模型输出规则、格式、语气
- 核心业务组件(找工作必写)
- RAG 检索增强生成:企业文档、合同、手册、知识库问答(岗位最多)
- Function Calling:大模型调用你的 Java 接口,实现查数据、下单、审批
- AI Agent:自动拆解任务、链式执行复杂业务流程
- Java 专属生态 不用硬啃 Python 框架,直接用 Java 栈:
Spring AI、LangChain4j、Milvus向量库
二、技术栈清单(精简版,只学刚需)
1. 必备核心框架
- Spring AI (首选)Spring 官方出品,和 SpringBoot 无缝整合,Java 程序员第一选择,配置简单、上手最快。
- LangChain4jJava 版 Langchain,做复杂 RAG、Agent、链式任务更强,面试高频。
2. 中间件 & 工具
- 向量数据库:Milvus(轻量好部署,中小企业通用)
- 文档解析:解析 Word/PDF/Excel,用来做企业知识库
- 容器:Docker(你本来就会,直接用来部署模型 + 向量库)
3. 模型选择(入门免费够用)
- 线上调用:各大厂商开放 API(免费额度,开发测试足够)
- 本地离线:Ollama(一键部署开源大模型,无门槛、免费、适合内网项目)
三、循序渐进入门步骤(按顺序来,7 天入门、30 天可做完整项目)
第 1 阶段:环境搭建 + 简单调用大模型(1~3 天)
- 新建 SpringBoot 项目,整合 Spring AI
- 接入任意大模型 API(DeepSeek / 通义千问,申请免费 key)
- 实现第一个接口:
- 普通对话问答
- 自定义 Prompt,限制输出 JSON 格式(对接业务必备)
你原有 Java 接口、yml 配置、依赖管理经验,这一步几乎零难度。
第 2 阶段:核心刚需 RAG 知识库开发(4~10 天,求职核心)
企业最多的需求:上传内部文档 → 向量化存储 → 用户提问→检索文档 + 大模型回答流程:
- 上传 PDF/Word 文档
- 文档拆分切块
- 文本向量化,存入 Milvus 向量库
- 用户提问→相似度检索相关文档片段
- 把「检索内容 + 问题」发给大模型,生成精准回答
学完直接拥有可写进简历的完整项目,大专学历完全适配,重工程、不看学历。
第 3 阶段:进阶能力(10~30 天,提升薪资)
- Function Calling大模型调用你写的 Java 接口,例如:AI 查询订单、AI 查询库存、AI 生成报表
- 简单 Agent任务拆解、多步骤自动执行,比如:自动整理日志、自动生成周报
- 本地私有化部署用 Ollama 部署开源大模型,实现内网无外网 AI 功能,贴合信创、政企项目需求
四、最简代码实操示例(Spring AI 快速调用)
- 引入依赖
xml
xml
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-openai-spring-boot-starter</artifactId>
</dependency>
- 配置文件
yaml
yaml
spring:
ai:
openai:
api-key: 你的key
base-url: 模型地址
- 直接注入使用
java
运行
typescript
@Autowired
private ChatClient chatClient;
public String chat(String question){
return chatClient.prompt(question).call().content();
}
几分钟就能跑通第一个 AI 接口,体感极强。