Ollama 安装 DeepSeek 与 Spring Boot 集成指南

Ollama 是一个强大的工具,用于运行和部署各种大型语言模型(LLM)。Spring Boot 是一个流行的 Java 框架,用于快速开发基于 Spring 的应用。本指南将向你展示如何在 Windows 系统上安装 Ollama,并使用 Spring Boot 集成 Ollama 以实现简单的聊天功能。

安装 Ollama

前往 Ollama 官方下载页面 下载适合 Windows 系统的版本。安装过程中只需按照默认选项进行即可,Ollama 的默认端口为 11434。

安装完成后,点击 查看模型列表 并下载所需的模型,以 deepseek-r1:1.5b 模型为例:

shell 复制代码
# 安装 deepseek-r1:1.5b 模型
ollama run deepseek-r1:1.5b

你可以使用以下命令查看已安装的模型:

shell 复制代码
# 查看已安装的模型列表
ollama list

安装完成后,你可以通过控制台(我这里使用的windows)与模型进行简单对话。如下图所示:

springboot集成

在你的 Spring Boot 项目中添加以下依赖:

xml 复制代码
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-ollama-spring-boot-starter</artifactId>
    <version>0.8.1</version>
</dependency>

application.yml 配置文件中添加以下内容:

yaml 复制代码
spring:
  ai:
    ollama:
      base-url: http://localhost:11434 # Ollama 服务器地址
      chat:
        model: deepseek-r1:1.5b # 使用的模型名称
        enabled: true

接下来,你可以创建一个简单的测试控制器来调用 Ollama 模型:

java 复制代码
@RequestMapping("/chat")
@RestController
public class TestController {

    private final ChatClient chatClient;

    public TestController(ChatClient.Builder chatClient) {
        this.chatClient = chatClient.build();
    

    @PostMapping
    public Flux<String> chat(@RequestParam String message) {
        try {
            return chatClient.prompt(message).stream().content();
        } catch (Exception e) {
            throw new RuntimeException(e);
        }
    }
}
相关推荐
fouryears_234171 小时前
适配器模式——以springboot为例
java·spring boot·适配器模式
汽车功能安全啊2 小时前
利用对称算法及非对称算法实现安全启动
java·开发语言·安全
paopaokaka_luck3 小时前
基于Spring Boot+Vue的吉他社团系统设计和实现(协同过滤算法)
java·vue.js·spring boot·后端·spring
Flobby5293 小时前
Go语言新手村:轻松理解变量、常量和枚举用法
开发语言·后端·golang
摸鱼仙人~4 小时前
Spring Boot中的this::语法糖详解
windows·spring boot·python
Warren984 小时前
Java Stream流的使用
java·开发语言·windows·spring boot·后端·python·硬件工程
程序视点5 小时前
IObit Uninstaller Pro专业卸载,免激活版本,卸载清理注册表,彻底告别软件残留
前端·windows·后端
xidianhuihui5 小时前
go install报错: should be v0 or v1, not v2问题解决
开发语言·后端·golang
架构师沉默5 小时前
Java优雅使用Spring Boot+MQTT推送与订阅
java·开发语言·spring boot
tuokuac5 小时前
MyBatis 与 Spring Boot版本匹配问题
java·spring boot·mybatis