Spring-AI 多模型接入实战:本地 deepseek + 阿里云百炼 + 硅基流动

1. 引言

在当今AI应用开发中,多模型接入已成为企业级应用的标配需求。Spring-AI作为Spring生态中的AI集成框架,为开发者提供了统一、便捷的AI模型接入方案。本文将详细介绍如何使用Spring-AI同时接入三种不同类型的AI模型:本地部署的deepseek模型、阿里云百炼平台以及硅基流动(Silicon Flow)服务,实现灵活的多模型调用策略。

2. 环境准备

​​JDK​​:17 及以上版本

​​构建工具​​:Maven 3.6+ 或 Gradle

​​Spring Boot​​:3.4+(建议选用最新稳定版本)

3. 本地 deepseek 模型接入

3.1 本地模型部署启动

首先在本地部署deepseek模型服务(以Ollama为例):

bash 复制代码
# 拉取deepseek模型(已经安装了的不用管)
ollama run deepseek-r1:1.5b

# 启动模型服务
ollama serve

3.2 项目依赖

首先创建一个Spring Boot项目,添加以下核心依赖:

xml 复制代码
<properties>
    <java.version>17</java.version>
    <spring-ai.version>1.0.0-M6</spring-ai.version>
</properties>

<dependencies>
    <dependency>
         <groupId>org.springframework.boot</groupId>
         <artifactId>spring-boot-starter-web</artifactId>
    </dependency>
    
    <!--Ollama 是一个开源的大型语言模型服务工具,旨在帮助用户快速在本地运行大模型。-->
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-ollama-spring-boot-starter</artifactId>
    </dependency>
    
</dependencies>

<dependencyManagement>
    <dependencies>
        <dependency>
            <groupId>org.springframework.ai</groupId>
            <artifactId>spring-ai-bom</artifactId>
            <version>${spring-ai.version}</version>
            <type>pom</type>
            <scope>import</scope>
        </dependency>
    </dependencies>
</dependencyManagement>

3.3 配置文件

application.yml中配置多模型接入参数:

yaml 复制代码
spring:
  ai:
    ollama:
      base-url: http://localhost:11434
      chat:
        model: deepseek-r1:1.5b

3.4 Spring-AI 接口

java 复制代码
@RestController
@RequestMapping("/api")
public class ChatController {

    private final ChatClient chatClient;

    public ChatController(ChatClient.Builder chatClientBuilder) {
        this.chatClient = chatClientBuilder.build();
    }

    @GetMapping("/chat")
    public String chat(@RequestParam(value = "input") String input) {
        return chatClient.prompt()
                .user(input)
                .call()
                .content();
    }

    @GetMapping(value = "/stream", produces = MediaType.TEXT_EVENT_STREAM_VALUE + ";charset=UTF-8")
    public ResponseEntity<Flux<String>> streamChat(@RequestParam String message) {
        Flux<String> content = chatClient.prompt()
                .user(message)
                .stream()
                .content();
        return ResponseEntity.ok()
                .contentType(MediaType.TEXT_EVENT_STREAM)
                .body(content);
    }
}

3.5 接口测试

4. 硅基流动接入

4.1 项目依赖、配置

xml 复制代码
<dependency>
	<groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-openai</artifactId>
    <version>1.0.0</version>
</dependency>

<!--spring-ai-starter-model-openai 导不进去加入下面这个依赖-->
<repositories>
     <repository>
         <id>spring-milestones</id>
         <name>Spring Milestones</name>
         <url>https://repo.spring.io/milestone</url>
         <snapshots>
             <enabled>false</enabled>
         </snapshots>
     </repository>
     <repository>
         <id>spring-snapshots</id>
         <name>Spring Snapshots</name>
         <url>https://repo.spring.io/snapshot</url>
         <snapshots>
             <enabled>false</enabled>
         </snapshots>
     </repository>
 </repositories>
yaml 复制代码
spring:
  ai:
    openai:
      api-key: your-key
      base-url: https://api.siliconflow.cn
      chat:
        options:
          model: deepseek-ai/DeepSeek-V3.2

4.2 接口测试

5. 阿里云百炼接入

官方文档:https://java2ai.com/docs/overview

5.1 项目依赖、配置

xml 复制代码
<!-- Spring AI Alibaba Agent Framework -->
<dependency>
    <groupId>com.alibaba.cloud.ai</groupId>
    <artifactId>spring-ai-alibaba-agent-framework</artifactId>
    <version>1.1.2.0</version>
</dependency>

<!-- DashScope ChatModel 支持(如果使用其他模型,请跳转 Spring AI 文档选择对应的 starter) -->
<dependency>
    <groupId>com.alibaba.cloud.ai</groupId>
    <artifactId>spring-ai-alibaba-starter-dashscope</artifactId>
    <version>1.1.2.0</version>
</dependency>
yaml 复制代码
spring:
  ai:
    dashscope:
      api-key: sk-
      chat:
        options:
          model: qwen3.7-max

4.2 接口测试

相关推荐
IT_陈寒16 分钟前
Vite的热更新突然不香了,排查三小时差点砸键盘
前端·人工智能·后端
阿里云大数据AI技术2 小时前
构建高转化海外电商搜索:阿里云OpenSearch行业算法版的全链路智能优化策略实战
人工智能·搜索引擎
Awu12272 小时前
⚡从零开发 Agent CLI(五)实现一个可治理、可扩展的工具系统
前端·人工智能·claude
字节跳动视频云技术团队2 小时前
让 Agent 成为音视频工作台:AI MediaKit CLI + Skill 发布
人工智能·音视频开发
魏祖潇3 小时前
framework 整合实战——DDD/TDD/SDD 三件套在 framework 仓的真实落地
人工智能·后端
Token炼金师3 小时前
去噪扩散:从随机噪声到高保真图像的数学之路
人工智能·aigc
这个DBA有点耶3 小时前
AI写的SQL跑崩了生产库,这锅谁背?
数据库·人工智能·程序员
阿里云大数据AI技术4 小时前
阿里云 EMR AI 助手正式发布:从问答工具到全栈智能运维助手
运维·人工智能
Larcher4 小时前
从零搭建 MCP 服务——让 AI 拥有无限扩展能力
人工智能·程序员
zzzzzz3105 小时前
你的 AI 写的 React 烂透了?这个 8000+ Star 的开源工具能揪出 90% 的「Agent 屎山」
人工智能