Orange 开源项目 - 集成阿里云大模型

1 阿里云的大模型服务平台百炼

阿里云的大模型服务平台百炼是一站式的大模型开发及应用构建平台。不论是开发者还是业务人员,都能深入参与大模型应用的设计和构建。您可以通过简单的界面操作,在5分钟内开发出一款大模型应用,或在几小时内训练出一个专属模型,从而将更多精力专注于应用创新。

2 集成阿里云大模型

2.1 获取API-KEY

获取阿里API-KEY,请参考阿里官网「获取阿里API-KEY

2.2 引入Maven依赖

xml 复制代码
        <dependency>
            <groupId>com.alibaba.cloud.ai</groupId>
            <artifactId>spring-ai-alibaba-starter</artifactId>
            <version>1.0.0-M5.1</version>
        </dependency>

2.3 集成对话模型(Chat Model)

java 复制代码
 @Override
    public Flux<Result<ConversationReplyVO>> conversationStream(ConversationParam param, List<ChatSessionRecordVO> contextMessageList) {
        List<Message> messages = new ArrayList<>(MessageConverter.toMessageList(contextMessageList));
        messages.add(new UserMessage(param.getPrompt()));

        Prompt prompt = new Prompt(messages, DashScopeChatOptions.builder()
                .withModel(param.getModelCode())
                .build());
        Flux<ChatResponse> stream = chatModel.stream(prompt);
        return stream
                .takeWhile(chatResponse -> Objects.nonNull(chatResponse) && Objects.nonNull(chatResponse.getResult())
                        && Objects.nonNull(chatResponse.getResult().getOutput()))
                .map(chatResponse -> {
                    if (log.isDebugEnabled()) {
                        log.debug("chatResponse: {}", chatResponse);
                    }
                    Usage usage = chatResponse.getMetadata().getUsage();
                    String content = chatResponse.getResult().getOutput().getContent();
                    String finishReason = chatResponse.getResult().getMetadata().getFinishReason();

                    ConversationReplyVO replyVO = ConversationReplyVO.builder()
                            .event("STOP".equalsIgnoreCase(finishReason) ? ConverstationEventEnum.FINISHED : ConverstationEventEnum.REPLY)
                            .content(content)
                            .tokenUsage(TokenUsageVO.builder()
                                    .promptTokens(usage.getPromptTokens())
                                    .generationTokens(usage.getGenerationTokens())
                                    .totalTokens(usage.getTotalTokens())
                                    .build())
                            .build();
                    return ResultWrapper.ok(replyVO);
                });
    }

2.4 集成文生成图模型(Image Model)

java 复制代码
    @Override
    public ImageResponse textToImage(GenerateImageParam param) {
        ImageOptions options = DashScopeImageOptions.builder()
                .withModel(param.getModelCode())
                .withHeight(param.getHeight())
                .withWidth(param.getWidth())
                .withN(param.getQuantity())
                .build();

        ImagePrompt imagePrompt = new ImagePrompt(param.getPrompt(), options);
        return imageModel.call(imagePrompt);
    }

2.5 在线体验

3 项目体验

注:前端项目设计灵活,能够同时兼容后端的单体架构和微服务架构

4 相关文档

相关推荐
TiAmo zhang6 小时前
DeepSeek-R1 模型现已在亚马逊云科技上提供
人工智能·云计算·aws
说私域7 小时前
基于开源AI大模型与S2B2C模式的线下服务型门店增长策略研究——以AI智能名片与小程序源码技术为核心
大数据·人工智能·小程序·开源
遇码7 小时前
单机快速部署开源、免费的分布式任务调度系统——DolphinScheduler
大数据·运维·分布式·开源·定时任务·dolphin·scheduler
hunteritself9 小时前
DeepSeek重磅升级,豆包深度思考,ChatGPT原生生图,谷歌Gemini 2.5 Pro!| AI Weekly 3.24-3.30
人工智能·深度学习·chatgpt·开源·语音识别·deepseek
Bruce-li__12 小时前
创建私人阿里云docker镜像仓库
阿里云·docker·云计算
rockmelodies15 小时前
OpenSCAP 是一个基于开源的安全合规性自动化框架
安全·开源·自动化
Architect_Lee18 小时前
阿里云服务器安装docker以及mysql数据库
阿里云·docker·云计算
阿里云大数据AI技术18 小时前
阿里云 AI 搜索开放平台新发布:增加 QwQ 模型
人工智能·云计算
ZHW_AI课题组19 小时前
调用阿里云API实现运营商实名认证
python·阿里云·云计算·api
玄魂19 小时前
基于Vue框架的开源大屏项目实践
前端·开源·数据可视化