Spring-AI 多模型接入实战:本地 deepseek + 阿里云百炼 + 硅基流动

1. 引言

在当今AI应用开发中,多模型接入已成为企业级应用的标配需求。Spring-AI作为Spring生态中的AI集成框架,为开发者提供了统一、便捷的AI模型接入方案。本文将详细介绍如何使用Spring-AI同时接入三种不同类型的AI模型:本地部署的deepseek模型、阿里云百炼平台以及硅基流动(Silicon Flow)服务,实现灵活的多模型调用策略。

2. 环境准备

​​JDK​​:17 及以上版本

​​构建工具​​:Maven 3.6+ 或 Gradle

​​Spring Boot​​:3.4+(建议选用最新稳定版本)

3. 本地 deepseek 模型接入

3.1 本地模型部署启动

首先在本地部署deepseek模型服务(以Ollama为例):

bash 复制代码
# 拉取deepseek模型(已经安装了的不用管)
ollama run deepseek-r1:1.5b

# 启动模型服务
ollama serve

3.2 项目依赖

首先创建一个Spring Boot项目,添加以下核心依赖:

xml 复制代码
<properties>
    <java.version>17</java.version>
    <spring-ai.version>1.0.0-M6</spring-ai.version>
</properties>

<dependencies>
    <dependency>
         <groupId>org.springframework.boot</groupId>
         <artifactId>spring-boot-starter-web</artifactId>
    </dependency>
    
    <!--Ollama 是一个开源的大型语言模型服务工具,旨在帮助用户快速在本地运行大模型。-->
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-ollama-spring-boot-starter</artifactId>
    </dependency>
    
</dependencies>

<dependencyManagement>
    <dependencies>
        <dependency>
            <groupId>org.springframework.ai</groupId>
            <artifactId>spring-ai-bom</artifactId>
            <version>${spring-ai.version}</version>
            <type>pom</type>
            <scope>import</scope>
        </dependency>
    </dependencies>
</dependencyManagement>

3.3 配置文件

在application.yml中配置多模型接入参数:

yaml 复制代码
spring:
  ai:
    ollama:
      base-url: http://localhost:11434
      chat:
        model: deepseek-r1:1.5b

3.4 Spring-AI 接口

java 复制代码
@RestController
@RequestMapping("/api")
public class ChatController {

    private final ChatClient chatClient;

    public ChatController(ChatClient.Builder chatClientBuilder) {
        this.chatClient = chatClientBuilder.build();
    }

    @GetMapping("/chat")
    public String chat(@RequestParam(value = "input") String input) {
        return chatClient.prompt()
                .user(input)
                .call()
                .content();
    }

    @GetMapping(value = "/stream", produces = MediaType.TEXT_EVENT_STREAM_VALUE + ";charset=UTF-8")
    public ResponseEntity<Flux<String>> streamChat(@RequestParam String message) {
        Flux<String> content = chatClient.prompt()
                .user(message)
                .stream()
                .content();
        return ResponseEntity.ok()
                .contentType(MediaType.TEXT_EVENT_STREAM)
                .body(content);
    }
}

3.5 接口测试

4. 硅基流动接入

4.1 项目依赖、配置

xml 复制代码
<dependency>
	<groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-openai</artifactId>
    <version>1.0.0</version>
</dependency>

<!--spring-ai-starter-model-openai 导不进去加入下面这个依赖-->
<repositories>
     <repository>
         <id>spring-milestones</id>
         <name>Spring Milestones</name>
         <url>https://repo.spring.io/milestone</url>
         <snapshots>
             <enabled>false</enabled>
         </snapshots>
     </repository>
     <repository>
         <id>spring-snapshots</id>
         <name>Spring Snapshots</name>
         <url>https://repo.spring.io/snapshot</url>
         <snapshots>
             <enabled>false</enabled>
         </snapshots>
     </repository>
 </repositories>
yaml 复制代码
spring:
  ai:
    openai:
      api-key: your-key
      base-url: https://api.siliconflow.cn
      chat:
        options:
          model: deepseek-ai/DeepSeek-V3.2

4.2 接口测试

5. 阿里云百炼接入

官方文档:https://java2ai.com/docs/overview

5.1 项目依赖、配置

xml 复制代码
<!-- Spring AI Alibaba Agent Framework -->
<dependency>
    <groupId>com.alibaba.cloud.ai</groupId>
    <artifactId>spring-ai-alibaba-agent-framework</artifactId>
    <version>1.1.2.0</version>
</dependency>

<!-- DashScope ChatModel 支持(如果使用其他模型,请跳转 Spring AI 文档选择对应的 starter) -->
<dependency>
    <groupId>com.alibaba.cloud.ai</groupId>
    <artifactId>spring-ai-alibaba-starter-dashscope</artifactId>
    <version>1.1.2.0</version>
</dependency>
yaml 复制代码
spring:
  ai:
    dashscope:
      api-key: sk-
      chat:
        options:
          model: qwen3.7-max

4.2 接口测试

相关推荐
MarkHD4 分钟前
超分辨率与图像放大:从ESRGAN的纹理重建到UltimateSDUpscale的4K分块实战
人工智能·深度学习·计算机视觉
武子康13 分钟前
H3-World 的动作没按时发生,先检查时间线变成了什么
人工智能·后端·agent
jimmyleeee14 分钟前
Agent安全之五:当语言变成执行------深入理解Unexpected Code Execution (ASI05)
人工智能·安全
谁在黄金彼岸26 分钟前
Ollama 还是 LM Studio:在 24GB 的 M6 Mac 上,我把 Ollama 卸载了
人工智能
方方洛28 分钟前
ray教程-18-性能调优与反模式
人工智能·分布式·机器学习
人工智能培训29 分钟前
知识图谱:结构化表达实体与关系的知识组织技术
大数据·人工智能·算法·重构·生活·知识图谱
GIS数据转换器40 分钟前
基于CIM的城市智慧供热监管服务平台
java·大数据·开发语言·人工智能·后端·物联网·struts
专注仿真40 分钟前
动态规划算法详解
人工智能·python·大模型训练·控制算法
xingyuzhisuan43 分钟前
不止文生图:StarverseAI 商业视觉解锁视频、展台全场景创作
人工智能
编程见习者1 小时前
AI应用开发之LangGraph解析
人工智能·知识图谱