Spring AI Alibaba零基础速成(2) ---- Ollama安装与使用

Ollama类似于docker,Ollama = 本地跑大模型的「Docker」,让你在家电脑上一键跑 Qwen、Llama、DeepSeek 等开源大模型,不上云、隐私可控。

1. 安装Ollama

下载链接:Release v0.24.0 · ollama/ollama · GitHub

往下找到这个下载即可,把下载好的文件移动到你想安装到的目录里:

在此目录打开cdm窗口,输入命令:OllamaSetup.exe /DIR="你要安装的目录"

后续出现安装界面跟着提示点击即可。安装之后再设置一下大模型的安装路径:

把这个目录下文件复制到新设置的目录:

C:\Users\你的用户名\.ollama

2. 调用Ollama中的大模型

导入依赖:

XML 复制代码
        <dependency>
            <groupId>org.springframework.ai</groupId>
            <artifactId>spring-ai-starter-model-ollama</artifactId>
        </dependency>

修改配置:

ollama默认端口是11434

使用方法和之前使用远程大模型一致:

java 复制代码
@RestController
public class OllamaController {
    @Resource(name = "ollamaChatModel")
    ChatModel chatModel;
    @GetMapping("/hello/call")
    public String call(@RequestParam(name = "msg", defaultValue = "你是谁") String msg) {
        String result = chatModel.call(msg);
        return result;
    }

    @GetMapping("/hello/stream")
    public Flux<String> stream(@RequestParam(name = "msg", defaultValue = "你是谁") String msg) {
        return chatModel.stream(msg);
    }
}
相关推荐
学长毕设35 分钟前
基于SpringBoot的儿童慈善捐赠管理系统-附源码
java·spring boot·后端
慧一居士44 分钟前
@RestControllerAdvice 的注解作用和使用
java
皮皮林5511 小时前
GitHub Copilot:你可以暂时不用,但别不知道它有多强
后端
学长毕设2 小时前
基于SpringBoot非遗文化展示与传播平台设计与实现-附源码
java·spring boot·后端
杨凯凡3 小时前
Spring Boot SSE 上线后不实时、频繁断线?Nginx 缓冲、心跳与连接回收实战
spring boot·后端·nginx
锋行天下3 小时前
langgraph 全栈项目(三)
前端·人工智能·后端
金銀銅鐵3 小时前
用 Swing 重做操作数栈演示
java·jvm·后端
琳少_3 小时前
java程序开发笔记
java·开发语言·数据库·笔记
锋行天下4 小时前
langgraph 全栈项目(二)
前端·人工智能·后端
七夜zippoe4 小时前
Agent 告警设计:分级告警、智能降噪与值班排班
开发语言·ai·agent·告警·智能降噪·值班排班