大模型应用开发-SpringAI框架

1.DeepSeek官方给出的API调用大模型代码

python 复制代码
from openai import OpenAI

# 1.初始化OpenAI客户端
client = OpenAI(api_key="<DeepSeek API Key>", base_url="https://api.deepseek.com")

# 2.发送http请求到大模型
response = client.chat.completions.create(
    model="deepseek-r1",
    messages=[
        {"role": "system", "content": "你是一个热心的AI助手,你的名字叫小团团"},
        {"role": "user", "content": "你好,你是谁?"},
    ],
    stream=False
)

# 3.打印返回结果
print(response.choices[0].message.content)

2.大模型应用开发过程

3.SpringAI对话机器人入门

①引入 Maven 依赖 → ②yml 配置模型地址与模型名 →③写 @Bean 配置 ChatClient 客户端,调用对话(普通阻塞调用 / Flux 流式输出)

pom.xml 引入依赖

html 复制代码
<dependencyManagement>
    <dependencies>
        <dependency>
            <groupId>org.springframework.ai</groupId>
            <artifactId>spring‑ai‑bom</artifactId>
            <version>${spring‑ai.version}</version>
            <type>pom</type>
            <scope>import</scope>
        </dependency>
    </dependencies>
</dependencyManagement>

Ollama 的 starter 启动依赖

html 复制代码
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring‑ai‑ollama‑spring‑boot‑starter</artifactId>
</dependency>

application.yml(配置模型)

java 复制代码
spring:
  ai:
    ollama:
      base‑url: http://localhost:11434
      chat:
        model: deepseek‑r1:7b

解释:

  1. base‑url:本地 Ollama 后台服务地址,默认端口就是 11434;如果 ollama 部署别的机器就改成对应 ip。
  2. model:指定使用本地已经下载好的大模型名字;注意模型名字必须和 ollama pull 下载的完全一致。
java 复制代码
spring:
  ai:
    openai:
      base‑url: https://dashscope.aliyuncs.com/compatible‑mode
      api‑key: ${OPENAI_API_KEY}
      chat:
        options:
          model: qwen‑max
          temperature: 0.8

配置 ChatClient 客户端 + 调用(Java 代码)

@Bean 生成 ChatClient 对象

java 复制代码
@Configuration
public class AiConfig {

    @Bean
    public ChatClient chatClient(OllamaChatModel model){
        return ChatClient.builder(model)
                // defaultSystem:全局系统提示词,设定AI角色(人设)
                .defaultSystem("你是可爱的助手,名字叫小团团")
                .build();
    }
}

解释关键点:

  1. OllamaChatModel:由 starter 自动创建,直接作为方法入参注入进来。
  2. ChatClient.builder(model) 使用构造器模式构建客户端实例。
  3. defaultSystem():全局系统提示词,设置 AI 助手的身份人设;后面每一次对话默认都会带上这条角色指令。

① call () 普通阻塞调用(一次性返回全部回答字符串)在controller里面

java 复制代码
// user("你是谁?") 用户提问;call()阻塞等待全部结果返回;content拿到回答文本
String content = chatClient.prompt()
        .user("你是谁?")
        .call()
        .content();

阻塞式;等大模型完整生成完所有文字之后一次性返回结果;前端看到的是一下子整段回复。

② stream () 流式输出(Flux<String>,打字机效果,一段一段返回)

java 复制代码
import reactor.core.publisher.Flux;

Flux<String> content = chatClient.prompt()
        .user("你是谁?")
        .stream()
        .content();

4.会话日志

java 复制代码
    @Bean
    public ChatClient chatClient(AlibabaOpenAiChatModel model, ChatMemory chatMemory) {
        return ChatClient
                .builder(model)//绑定大模型model 
                .defaultSystem("你是一个热心、可爱的智能助手,你的名字叫小团团,请以小团团的身份和语气回答问题。")
                .defaultAdvisors(//拦截器
                        new SimpleLoggerAdvisor(),//日志打印
                        new MessageChatMemoryAdvisor(chatMemory)//会话记忆
                )
                .build();
    }

日志配置

bash 复制代码
logging:
  level:
    org.springframework.ai: debug
    com.itheima.ai: debug
  • 发给通义模型完整 Prompt(包含 system 角色词 + chatMemory 拼接的历史上下文)
  • 大模型返回原始 JSON 响应内容。

5.会话记忆

相关推荐
武昌库里写JAVA4 小时前
SpringBoot+Vue 项目介绍
java·javascript·git·sql·ai
VIP_CQCRE4 小时前
GPT Image 2.6 商品图换背景后悬浮?接触阴影、透明区域与反射验收
图像处理·人工智能·ai·电商
七夜zippoe8 小时前
Agent 告警设计:分级告警、智能降噪与值班排班
开发语言·ai·agent·告警·智能降噪·值班排班
wflynn13 小时前
AI 产品 ChatPRD 遭遇 token 欺诈,滥用者用免费试用构建游戏地图
ai·技术
陈如水15 小时前
Spring AI Alibaba 在多 Agent 场景下的实践
java·人工智能·spring
Resean022318 小时前
Spring 源码分析(六)循环依赖与三级缓存
java·spring·缓存
万里侯21 小时前
日志聚类之后别把 noise 扔掉:降噪应该改变视图,不抹掉证据
人工智能·微服务·ai·容器·k8s
澹锦汐21 小时前
纯前端秋日银杏与枫叶落叶色板智能聚类器:基于 K-Means 色彩量化与直方图自动配方提取
前端·人工智能·ai·语言模型·vue·react·k-means
最强小杰1 天前
某 OpenAI 兼容网关上的 `kimi-k3.1-pro`:Cline、Zed 接入与 SSE 排错示例
java·服务器·网络·ai
Maynor9961 天前
Trymodel 使用介绍:一个平台同时用 Claude、GPT、Gemini 和 Grok
人工智能·gpt·ai·程序员·教程·claude·语音