零基础搞定Spring AI 调用本地大模型

1. 前置条件

在开始之前,请确保你满足以下条件:

  1. JDK 环境

    • 必须使用 JDK 17 或以上(Spring Boot 3.x 要求)
    • 推荐使用 JDK 21(长期支持 LTS)
  2. Ollama 安装

    • macOS 用户(本教程示例默认)

      sql 复制代码
      brew install ollama
      brew services start ollama
    • Windows 用户

      访问 Ollama 官网 下载并安装,启动服务即可。


2. 安装 Ollama & 下载本地千问模型(也可选择其他开源模型)

bash 复制代码
# 安装 Ollama(macOS 示例)
brew install ollama

# 启动 Ollama 服务
brew services start ollama

# 下载通义千问本地模型
ollama pull qwen3:1.7b

# 查看本地模型列表
ollama list

# 查看模型详情
ollama show qwen3:1.7b

3. Ollama 常用命令

bash 复制代码
brew services list            # 查看服务状态
brew services start ollama    # 启动服务
brew services restart ollama  # 重启服务
brew services stop ollama     # 停止服务
ollama ps                     # 查看运行中的模型实例
ollama rm qwen3:1.7b          # 删除模型
ollama run qwen3:1.7b         # 运行模型
/bye 或 Ctrl+C                # 停止运行模型

4. 添加应用配置

application.properties(本地 Ollama 示例)

ini 复制代码
# 本地 Ollama 配置
spring.ai.ollama.base-url=http://localhost:11434
spring.ai.ollama.chat.options.model=qwen3:1.7b
spring.ai.ollama.chat.options.temperature=0.7

Maven 依赖

  • 调用本地大模型(Ollama) → Spring AI 官方依赖

    xml 复制代码
    ```
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-starter-model-ollama</artifactId>
        <version>1.0.1</version>
    </dependency>
    ```

5. 编写控制器代码

typescript 复制代码
@RestController
@RequestMapping("/api/chat")
public class ChatController {
    private final ChatClient chatClient;

    public ChatController(ChatClient.Builder chatClientBuilder) {
        this.chatClient = chatClientBuilder.build();
    }

    // GET 请求测试
    @GetMapping
    public String chatGet(@RequestParam(required = false, defaultValue = "你好") String message) {
        return processChat(message);
    }

    // POST 请求
    @PostMapping
    public String chatPost(@RequestBody Map<String, String> request) {
        String message = request.getOrDefault("message", "你好");
        return processChat(message);
    }

    private String processChat(String userMessage) {
        String prompt = "你是一个AI助手,请根据用户的问题返回结果";
        return chatClient.prompt(prompt)
                .user(userMessage)
                .call()
                .content();
    }
}

6. 测试接口

浏览器 GET 请求

bash 复制代码
http://localhost:8080/api/chat?message=你是谁?

Postman POST 请求

bash 复制代码
POST http://localhost:8080/api/chat
Body:
{
    "message": "介绍一下你自己"
}
相关推荐
工藤学编程4 小时前
【AI编程工具】快速搭建图书管理系统
ai编程
原住民的自修室5 小时前
对话Michael Truell:23岁创立Cursor,与Github Copilot竞争
ai编程·cursor
ITZHIHONH8 小时前
FastGPT源码解析 Agent知识库管理维护使用详解
开源·ai编程
一只韩非子9 小时前
Spring AI Alibaba 快速上手教程:10 分钟接入大模型
java·后端·ai编程
文心快码 Baidu Comate9 小时前
AI界的“超能力”MCP,到底是个啥?
人工智能·程序员·ai编程·文心快码·comate zulu
用户4099322502129 小时前
如何在 FastAPI 中巧妙覆盖依赖注入并拦截第三方服务调用?
后端·ai编程·trae
CoderJia程序员甲11 小时前
GitHub 热榜项目 - 日榜(2025-09-05)
ai·开源·github·ai编程·github热榜
新手村领路人11 小时前
QT6 配置 Copilot插件
qt·ai编程
孟健21 小时前
Claude 官方封禁中国用户!我寻找了最强替代方案,效果竟然这么好?
ai编程
文心快码BaiduComate1 天前
文心快码已支持Kimi-K2-0905模型
llm·ai编程