SpringAI 她来了,真的来了

写在前面

自从ChatGPT火了之后,各种产品都在不停的拥抱AI,在各自场景中接入AI,国内外各种大模型层出不穷。

好像有点扯远了,言归正传,今天我们要说的是SpringAI,大家在逛Spring 官网(spring.io/) 应该发现了,在官网中多了SpringAI 模块

一、SpringAI 简介

我们来看看官网是怎么介绍的

Spring AI is an application framework for AI engineering. Its goal is to apply to the AI domain Spring ecosystem design principles such as portability and modular design and promote using POJOs as the building blocks of an application to the AI domain.

Portable API support across AI providers for Chat, text-to-image, and Embedding models. Both synchronous and stream API options are supported. Dropping down to access model-specific features is also supported.

上面翻译过来就是

Spring AI是一个面向AI工程的应用框架。其目标是将可移植性和模块化设计等设计原则应用于AI领域的Spring生态系统,并将POJO作为应用程序的构建块推广到AI领域。

跨AI提供商的便携API支持聊天、文本到图像和嵌入模型。同时支持同步和流API选项。还支持各种定制的功能。

总的来说就是:Spring出了一个AI框架,帮助我们快速调用AI,从而实现各种功能场景。

在之前的文章中我们有说过Java怎么调用OpenAI, 传送门 👉Java程序接入ChatGPT 👈

今天我们就来看看怎么使用Spring 自己提供的框架调用AI

二、各种模型

这里列举出了支持的各种厂商的各种模型接入,有我们熟悉的Amazon、Google 等模型,但目前还不支持国内的任何一种模型

2.1 Chat Models 聊天模型

2.2 Text-to-image Models 文生图模型

2.3 Transcription (audio to text) Models 音频文本互转模型

2.4 Embedding Models 嵌入模型

三、接入准备

我们这里以接入OpenAI 为例,看看需要做哪些准备

① 首先我们得能魔法上网

② 注册过OpenAI账号,并创建了API keys

还不知道怎么注册的可以翻一翻之前的文章, 传送门 👉 如何注册OpenAI 👈

注: 之前我们注册生成的API keys 可能过期了,有可能需要重新创建一个

要想接下来调用成功,上面两步缺一不可

四、创建springboot项目

① Spring Initializr 创建项目

注:

② 选择支持模块

如果上面一步选择正确的话,这一步我们会看到一个AI模块,这里选择OpenAI 模型和Spring Web即可,

如果这一步没看到AI模块的,请return到上一步

五、所需依赖

按照上面添加模块之后,idea会默认给我们添加如下依赖,当然了也还用到其他依赖,这里就不都贴出来了

xml 复制代码
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
</dependency>

如果你用的是Gradle 构建工具,那就是

xml 复制代码
dependencies {
    implementation 'org.springframework.ai:spring-ai-openai-spring-boot-starter'
}

注:

添加依赖之后,如果我们项目配置的是阿里云镜像的话,需要修改成如下仓库地址,否则依赖下载不下来

xml 复制代码
<repositories>
    <repository>
        <id>spring-milestones</id>
        <name>Spring Milestones</name>
        <url>https://repo.spring.io/milestone</url>
        <snapshots>
            <enabled>false</enabled>
        </snapshots>
    </repository>
</repositories>

六、修改配置文件

application.properties 或者application.yml配置文件

properties 复制代码
spring.ai.openai.api-key=前面步骤创建的apikey
spring.ai.openai.chat.options.model=gpt-3.5-turbo
spring.ai.openai.chat.options.temperature=0.7

或者

yml 复制代码
spring:
  ai:
    openai:
      api-key: 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
      chat:
        options:
          model: gpt-3.5-turbo
          temperature: 0.7
  • api-key : 前面步骤创建的apikey
  • chat.options.model: gpt模型 ,上面我们配置的是3.5 模型
  • chat.options.temperature:Spring AI与PT模型交互时,特别是在聊天或文本生成场景下,模型生成文本时的随机性程度为0.7

七、代码编写

这里我们只是简单测试一下,所以代码都写在了controller 层里

java 复制代码
@RestController
public class ChatController {
    private final OpenAiChatClient chatClient;

    @Autowired
    public ChatController(OpenAiChatClient chatClient) {
        this.chatClient = chatClient;
    }

    @GetMapping("/ai/generate")
    public Map  generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        return Map.of("generation", chatClient.call(message));

    }

    @GetMapping("/ai/generateStream")
    public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        Prompt prompt = new Prompt(new UserMessage(message));
        return chatClient.stream(prompt);
    }
}

代码解释:上面代码提供了generate和generateStream 两个方法接收前端传来的参数message,然后将message作为prompt (如果你还不知道prompt可以去百度一下)去调用封装好的大模型,并将大模型的结果返回去。

八、Spring AI函数调用流程

九、其他模型调用

上面例子中我们只是列举出OpenAI 模型调用方式,其他模型大家可以参考官方文档,文档写的也非常详细

假设我们想使用亚马逊的大模型,可以到docs.spring.io/spring-ai/r... 查看文档

本期内容到这儿就结束了,希望对你有所帮助

我们下期再见 (●'◡'●)

相关推荐
程序猿DD3 小时前
OctaFuse 2.20.0:MCP 用业务账号直接登录授权,请求日志合并工具调用
后端
特立独行的猫A4 小时前
别再用 nohup 了:让应用在后台常驻的正确姿势与 systemd 服务详解
java·后端·python
一起_java5 小时前
技术文章-基于Dify-Agent的智能问答系统设计与实现
java·spring boot·后端·agent·dify
码事漫谈6 小时前
2027年火的很可能是AI工作台
后端
starzy199010 小时前
深入理解Scala隐式函数:自动类型转换
开发语言·后端·scala
IT_陈寒10 小时前
Redis那个过期删除策略,差点让我线上崩了
前端·人工智能·后端
ServBay10 小时前
Cursor披露恶意扩展,怎么守住本地 API Key
后端·ai编程·cursor
AndreaYYmm11 小时前
多台设备共享一个 NFS,怎么保证压力测试不同时跑?一把互斥锁的设计与最简验证
后端
心之语歌11 小时前
uni-app uts原生插件开发:uts 与 Kotlin 交互踩坑实录(附解决方案)
前端·后端