零基础搞定Spring AI 调用本地大模型

1. 前置条件

在开始之前,请确保你满足以下条件:

  1. JDK 环境

    • 必须使用 JDK 17 或以上(Spring Boot 3.x 要求)
    • 推荐使用 JDK 21(长期支持 LTS)
  2. Ollama 安装

    • macOS 用户(本教程示例默认)

      sql 复制代码
      brew install ollama
      brew services start ollama
    • Windows 用户

      访问 Ollama 官网 下载并安装,启动服务即可。


2. 安装 Ollama & 下载本地千问模型(也可选择其他开源模型)

bash 复制代码
# 安装 Ollama(macOS 示例)
brew install ollama

# 启动 Ollama 服务
brew services start ollama

# 下载通义千问本地模型
ollama pull qwen3:1.7b

# 查看本地模型列表
ollama list

# 查看模型详情
ollama show qwen3:1.7b

3. Ollama 常用命令

bash 复制代码
brew services list            # 查看服务状态
brew services start ollama    # 启动服务
brew services restart ollama  # 重启服务
brew services stop ollama     # 停止服务
ollama ps                     # 查看运行中的模型实例
ollama rm qwen3:1.7b          # 删除模型
ollama run qwen3:1.7b         # 运行模型
/bye 或 Ctrl+C                # 停止运行模型

4. 添加应用配置

application.properties(本地 Ollama 示例)

ini 复制代码
# 本地 Ollama 配置
spring.ai.ollama.base-url=http://localhost:11434
spring.ai.ollama.chat.options.model=qwen3:1.7b
spring.ai.ollama.chat.options.temperature=0.7

Maven 依赖

  • 调用本地大模型(Ollama) → Spring AI 官方依赖

    xml 复制代码
    ```
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-starter-model-ollama</artifactId>
        <version>1.0.1</version>
    </dependency>
    ```

5. 编写控制器代码

typescript 复制代码
@RestController
@RequestMapping("/api/chat")
public class ChatController {
    private final ChatClient chatClient;

    public ChatController(ChatClient.Builder chatClientBuilder) {
        this.chatClient = chatClientBuilder.build();
    }

    // GET 请求测试
    @GetMapping
    public String chatGet(@RequestParam(required = false, defaultValue = "你好") String message) {
        return processChat(message);
    }

    // POST 请求
    @PostMapping
    public String chatPost(@RequestBody Map<String, String> request) {
        String message = request.getOrDefault("message", "你好");
        return processChat(message);
    }

    private String processChat(String userMessage) {
        String prompt = "你是一个AI助手,请根据用户的问题返回结果";
        return chatClient.prompt(prompt)
                .user(userMessage)
                .call()
                .content();
    }
}

6. 测试接口

浏览器 GET 请求

bash 复制代码
http://localhost:8080/api/chat?message=你是谁?

Postman POST 请求

bash 复制代码
POST http://localhost:8080/api/chat
Body:
{
    "message": "介绍一下你自己"
}
相关推荐
飞哥数智坊4 小时前
打造我的 AI 开发团队(二):bmad,开箱即用的敏捷开发智能体
人工智能·ai编程
RainbowSea7 小时前
4. ChatClient 的初始,快速使用上手
java·spring·ai编程
RainbowSea7 小时前
3. Ollama 安装,流式输出,多模态,思考模型
java·spring·ai编程
coder_pig9 小时前
Claude Code + Holopix AI | 轻松复刻 "虚假广告"-🧟‍♀️射击小游戏
aigc·ai编程·claude
AI分享官9 小时前
低代码平台+MonkeyCode混合开发:3天上线一个App的野路子实操
github·ai编程
coder_pig9 小时前
玩转 Claude Code CLI | 1、安装配置 & 基本使用
aigc·ai编程·claude
子昕12 小时前
深度解析Claude Code Hooks:从原理到实战,打造你的AI编程自动化流水线
ai编程
信码由缰17 小时前
构建复合AI系统以实现可扩展工作流
ai编程
六月的可乐17 小时前
探索AI在线前端html编辑器IDE
前端·html·ai编程
overstarry18 小时前
将 MCP Server 提交到 MCP Registry
ai编程·mcp