springAI +openAI 接入阿里云百炼大模型-通义千问

我们已经完成

1、本地模型搭建 DeepSeek-R1 本地部署 - 十分钟搞定

2、spring ai 调本地大模型SpringAI + DeepSeek本地大模型应用开发-聊天机器人

我们发现,本地模型受限于本地服务器配置,调用起来响应很慢体验并不好,那么各大厂出了那么多酷炫的大模型我们为啥不用起来呢,lets do it

本文介绍一下spring ai访问阿里百炼大模型,依旧5分钟搞定

1. 申请apiKey
2. 引pom依赖
3. yml模型配置
4. 使用模型工具

1. 申请apiKey

使用人家的模型得有访问凭证,就跟调任何三方开放平台API一样,直接去
大模型服务平台百炼控制台创建一个就行了

2. 引pom依赖

各大模型默认支持open AI的规范,spring ai 已经帮我们封装好了,引就完事了

复制代码
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
</dependency>

3. 配置yml模型地址

跟使用本地ollama一样,我们要配置上模型信息,供spring启动时读取配置文件完成自动装配

模型广场里有好多模型,随便玩就行了,模型名称配对了就行

4. 使用模型工具

上面pom依赖添加完,刷新maven依赖,openai模型相关内容就拉到本地仓库了,开用就完事了,老样子:

  • 定义一个聊天客户端bean

  • 将openai模型初始化进去

  • 指定系统角色,这个随意,不指定就是模型默认系统角色

  • chatMemory会话记忆先不用管

    复制代码
      @Bean
      public ChatClient openAiClient(OpenAiChatModel model,ChatMemory chatMemory) {
          return ChatClient
                  .builder(model)
                  .defaultSystem("你是一只功夫熊猫,请以功夫熊猫的身份回答问题")
                  .defaultAdvisors(
                          new MessageChatMemoryAdvisor(chatMemory)
                  )
                  .build();
      }
controller 不变
复制代码
    @Resource
    private ChatClient openAiClient;
    
    @RequestMapping(value = "/chat",produces = "text/html;charset=utf-8")
    public Flux<String>  chat(String prompt,String chatId) {
        return openAiClient.prompt()
                .user(prompt)
                .advisors(advisorSpec -> advisorSpec.param(AbstractChatMemoryAdvisor.CHAT_MEMORY_CONVERSATION_ID_KEY,chatId))
                .stream()
                .content();

    }

开始对话吧,页面源码在上一篇SpringAI + DeepSeek本地大模型应用开发-聊天机器人,啥也不用动,直接运行

还得是大厂模型啊,丝滑~

接下来我们介绍大模型+传统应用的开发,怎么让大模型调本地项目接口呢。。。

相关推荐
武子康1 小时前
调查研究-168 MiroFish 本地化部署分析:主仓库、Zep Cloud、离线 Fork 与真正可控的多智能体沙盘
人工智能·aigc·openai
七牛开发者2 小时前
Skills 是什么?Claude 官方教你做一个好用的 Skill
aigc·openai·claude
七牛开发者2 小时前
AI Agent 的 4 个工程关键词:Prompt、Context、Loop、Harness 到底是什么?
aigc·openai·agent
猫头_5 小时前
跨 AI IDE 的协作痛点:用了五六个 AI 编辑器,提示词(Skills)该怎么统一管理?
openai·ai编程·cursor
Nturmoils10 小时前
把 GitNexus 接进 Codex:安装、索引、Web UI 和项目分析实操
openai·claude
米小虾1 天前
"Chat is dead":OpenAI 正在杀死的不是聊天,是整个 AI 交互范式
人工智能·openai
AndrewHZ1 天前
【LLM技术全景】规模定律与模型演进:为什么模型越大越强?
人工智能·gpt·深度学习·语言模型·llm·openai·规模定律
武子康1 天前
调查研究-166 VoxCPM 详解:一个值得重点关注的开源 TTS 项目
人工智能·openai
AINative软件工程1 天前
Tool Schema 写得好,模型少出错:5 个工程师必知的设计原则
后端·openai
AINative软件工程1 天前
LLM Prompt 版本管理工程实战:如何像管代码一样管理你的 Prompt
openai