SpringAI 她来了,真的来了

写在前面

自从ChatGPT火了之后,各种产品都在不停的拥抱AI,在各自场景中接入AI,国内外各种大模型层出不穷。

好像有点扯远了,言归正传,今天我们要说的是SpringAI,大家在逛Spring 官网(https://spring.io/)应该发现了,在官网中多了

SpringAI 模块

一、SpringAI 简介

我们来看看官网是怎么介绍的

Spring AI is an application framework for AI engineering. Its goal is to apply to the AI domain Spring ecosystem design principles such as portability and modular design and promote using POJOs as the building blocks of an application to the AI domain.

Portable API support across AI providers for Chat, text-to-image, and Embedding models. Both synchronous and stream API options are supported. Dropping down to access model-specific features is also supported.

上面翻译过来就是

Spring AI是一个面向AI工程的应用框架。其目标是将可移植性和模块化设计等设计原则应用于AI领域的Spring生态系统,并将POJO作为应用程序的构建块推广到AI领域。

跨AI提供商的便携API支持聊天、文本到图像和嵌入模型。同时支持同步和流API选项。还支持各种定制的功能。

总的来说就是:Spring出了一个AI框架,帮助我们快速调用AI,从而实现各种功能场景。

在之前的文章中我们有说过Java怎么调用OpenAI,
传送门 👉Java程序接入ChatGPT

今天我们就来看看怎么使用Spring 自己提供的框架调用AI

二、各种模型

这里列举出了支持的各种厂商的各种模型接入,有我们熟悉的Amazon、Google 等模型,但目前还不支持国内的任何一种模型

2.1 Chat Models 聊天模型
2.2 Text-to-image Models 文生图模型
2.3 Transcription (audio to text) Models 音频文本互转模型
2.4 Embedding Models 嵌入模型

三、接入准备

我们这里以接入OpenAI 为例,看看需要做哪些准备

① 首先我们得能魔法上网

② 注册过OpenAI账号,并创建了API keys

还不知道怎么注册的可以翻一翻之前的文章,
传送门 👉 如何注册OpenAI 👈

注: 之前我们注册生成的API keys 可能过期了,有可能需要重新创建一个

要想接下来调用成功,上面两步缺一不可

四、创建springboot项目

Spring Initializr 创建项目

注:

② 选择支持模块

如果上面一步选择正确的话,这一步我们会看到一个AI模块,这里选择OpenAI 模型和Spring Web即可,

如果这一步没看到AI模块的,请return到上一步

五、所需依赖

按照上面添加模块之后,idea会默认给我们添加如下依赖,当然了也还用到其他依赖,这里就不都贴出来了

xml 复制代码
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
</dependency>

如果你用的是Gradle 构建工具,那就是

xml 复制代码
dependencies {
    implementation 'org.springframework.ai:spring-ai-openai-spring-boot-starter'
}

注:

添加依赖之后,如果我们项目配置的是阿里云镜像的话,需要修改成如下仓库地址,否则依赖下载不下来

xml 复制代码
<repositories>
    <repository>
        <id>spring-milestones</id>
        <name>Spring Milestones</name>
        <url>https://repo.spring.io/milestone</url>
        <snapshots>
            <enabled>false</enabled>
        </snapshots>
    </repository>
</repositories>

六、修改配置文件

application.properties 或者application.yml配置文件

properties 复制代码
spring.ai.openai.api-key=前面步骤创建的apikey
spring.ai.openai.chat.options.model=gpt-3.5-turbo
spring.ai.openai.chat.options.temperature=0.7

或者

yml 复制代码
spring:
  ai:
    openai:
      api-key: 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
      chat:
        options:
          model: gpt-3.5-turbo
          temperature: 0.7
  • api-key : 前面步骤创建的apikey
  • chat.options.model: gpt模型 ,上面我们配置的是3.5 模型
  • chat.options.temperature:Spring AI与PT模型交互时,特别是在聊天或文本生成场景下,模型生成文本时的随机性程度为0.7

七、代码编写

这里我们只是简单测试一下,所以代码都写在了controller 层里

java 复制代码
@RestController
public class ChatController {
    private final OpenAiChatClient chatClient;

    @Autowired
    public ChatController(OpenAiChatClient chatClient) {
        this.chatClient = chatClient;
    }

    @GetMapping("/ai/generate")
    public Map  generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        return Map.of("generation", chatClient.call(message));

    }

    @GetMapping("/ai/generateStream")
    public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        Prompt prompt = new Prompt(new UserMessage(message));
        return chatClient.stream(prompt);
    }
}

代码解释:上面代码提供了generategenerateStream 两个方法接收前端传来的参数message,然后将message作为prompt (如果你还不知道prompt可以去百度一下)去调用封装好的大模型,并将大模型的结果返回去。

八、Spring AI函数调用流程

九、其他模型调用

上面例子中我们只是列举出OpenAI 模型调用方式,其他模型大家可以参考官方文档,文档写的也非常详细

假设我们想使用亚马逊的大模型,可以到https://docs.spring.io/spring-ai/reference/api/bedrock-chat.html 查看文档

本期内容到这儿就结束了,希望对你有所帮助

我们下期再见 (●'◡'●)

相关推荐
敲代码的小王!2 小时前
MD5加密算法和BCrypt密码加密算法
java·算法·安全
罗政7 小时前
冒险岛079 V8 整合版源码搭建教程+IDEA启动
java·ide·intellij-idea
架构默片7 小时前
【JAVA工程师从0开始学AI】,第五步:Python类的“七十二变“——当Java的铠甲遇见Python的液态金属
java·开发语言·python
陈敬雷-充电了么-CEO兼CTO8 小时前
DeepSeek核心算法解析:如何打造比肩ChatGPT的国产大模型
人工智能·神经网络·自然语言处理·chatgpt·大模型·aigc·deepseek
不只会拍照的程序猿8 小时前
从插入排序到希尔排序
java·开发语言·数据结构·算法·排序算法
我荔枝呢!9 小时前
Java中的hashCode和equals方法之间有什么联系
java·开发语言·equals·hashcode
望未来无悔9 小时前
系统学习算法:专题十一 floodfill算法
java·算法
黑客老李9 小时前
新手小白如何挖掘cnvd通用漏洞之存储xss漏洞(利用xss钓鱼)
java·运维·服务器·前端·xss
不良人天码星9 小时前
Redis的简单使用
java·spring boot·redis·mybatis
面向未来_10 小时前
JAVA Kotlin Androd 使用String.format()格式化日期
java·开发语言·kotlin